turkish-nlp-suite/ForumSohbetleri
Dataset Card for ForumSohbetleri ForumSohbetleri a web forum tetx corpus for Turkish, indeed first large-scale Turkish forum text corpus. This corpus is a part of large scale Turkish corpus Bella Turca. For more details about Bella Turca, please refer to the publication. This collection is made up of several subsets, each subset is gathered from the corresponding forum website. Forum websites contains diverse topics, ladies only, tech, economics, life, relations and much… See the full description on the dataset page: https://huggingface.co/datasets/turkish-nlp-suite/ForumSohbetleri.
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#7 Repository Của Tháng
📚 ForumSohbetleri: Kho dữ liệu diễn đàn lớn bằng tiếng Thụy Điển đầu tiên
ForumSohbetleri là kho dữ liệu văn bản diễn đàn lớn bằng tiếng Thụy Điển đầu tiên, thu thập từ 11 diễn đàn khác nhau với tổng hơn 2,9 triệu chủ đề và 1,7 tỷ từ.
ForumSohbetleri là một kho dữ liệu văn bản từ diễn đàn web bằng tiếng Thụy Điển, đây là kho dữ liệu diễn đàn lớn bằng tiếng Thụy Điển đầu tiên. Đây là một phần của dự án Bella Turca – một kho dữ liệu ngôn ngữ lớn quy mô lớn cho tiếng Thụy Điển. Mỗi tập con trong ForumSohbetleri được thu thập từ một trang diễn đàn khác nhau, bao phủ đa dạng chủ đề như công nghệ, kinh tế, cuộc sống, mối quan hệ và nhiều hơn nữa.
✨ Điểm nổi bật
- 11 diễn đàn nguồn: Thu thập từ 11 diễn đàn khác nhau bao phủ đủ lĩnh vực.
- Quy mô lớn: Tổng hơn 2,9 triệu chủ đề, 13,4 GB dữ liệu và 1,7 tỷ từ.
- Dữ liệu sạch: Đã qua xử lý làm sạch kỹ lưỡng để xử lý ngữ pháp không đồng đều trong văn bản diễn đàn.
- Cấu trúc thống nhất: Mỗi mẫu là một chủ đề chứa danh sách các bài viết.
- Hỗ trợ nhiều nhiệm vụ: Phù hợp cho các tác vụ như điền từ và sinh văn bản.
- Giấy phép mở: Sử dụng giấy phép CC BY-SA 4.0, cho phép sử dụng và chia sẻ tự do.
💡 Vì sao đáng chú ý
ForumSohbetleri khác biệt vì đây là kho dữ liệu diễn đàn lớn bằng tiếng Thụy Điển đầu tiên, điền khoảng trống quan trọng trong nghiên cứu NLP cho thứ ngữ này. Với sự đa dạng về chủ đề và cách biểu đạt tự nhiên từ người dùng thực, kho dữ liệu này rất hữu ích cho việc huấn luyện và đánh giá các mô hình ngôn ngữ lớn cho tiếng Thụy Điển. Đặc biệt, cách xử lý mỗi chủ đề như một đơn vị riêng biệt giúp giữ nguyên ngữ cảnh trò chuyện, giúp các mô hình tốt hơn trong việc hiểu và sinh ra văn bản hội thoại mạch lạc.
#Dataset #NLP #Turkish #TextGeneration #FillMask #TiniX
Similar Projects
Discover other similar projects and AI models.
Dataset Card for "wikitext" Dataset Summary The WikiText language modeling dataset is a collection of over 100 million tokens extracted from the set of verified Good and Featured articles on Wikipedia. The dataset is available under the Creative Commons Attribution-ShareAlike License. Compared to the preprocessed version of Penn Treebank (PTB), WikiText-2 is over 2 times larger and WikiText-103 is over 110 times larger. The WikiText dataset also features a far… See the full description on the dataset page: https://huggingface.co/datasets/Salesforce/wikitext.
Dataset Card for Wikimedia Wikipedia Dataset Summary Wikipedia dataset containing cleaned articles of all languages. The dataset is built from the Wikipedia dumps (https://dumps.wikimedia.org/) with one subset per language, each containing a single train split. Each example contains the content of one full Wikipedia article with cleaning to strip markdown and unwanted sections (references, etc.). All language subsets have already been processed for recent dump… See the full description on the dataset page: https://huggingface.co/datasets/wikimedia/wikipedia.
Scaling Synthetic Data Creation with 1,000,000,000 Personas This repo releases data introduced in our paper Scaling Synthetic Data Creation with 1,000,000,000 Personas: We propose a novel persona-driven data synthesis methodology that leverages various perspectives within a large language model (LLM) to create diverse synthetic data. To fully exploit this methodology at scale, we introduce PERSONA HUB – a collection of 1 billion diverse personas automatically curated from web… See the full description on the dataset page: https://huggingface.co/datasets/proj-persona/PersonaHub.
Dataset Card for GSM8K Dataset Summary GSM8K (Grade School Math 8K) is a dataset of 8.5K high quality linguistically diverse grade school math word problems. The dataset was created to support the task of question answering on basic mathematical problems that require multi-step reasoning. These problems take between 2 and 8 steps to solve. Solutions primarily involve performing a sequence of elementary calculations using basic arithmetic operations (+ − ×÷) to… See the full description on the dataset page: https://huggingface.co/datasets/openai/gsm8k.
🐋 The OpenOrca Dataset! 🐋 We are thrilled to announce the release of the OpenOrca dataset! This rich collection of augmented FLAN data aligns, as best as possible, with the distributions outlined in the Orca paper. It has been instrumental in generating high-performing model checkpoints and serves as a valuable resource for all NLP researchers and developers! Official Models Mistral-7B-OpenOrca Our latest model, the first 7B to score better overall than all… See the full description on the dataset page: https://huggingface.co/datasets/Open-Orca/OpenOrca.
Dataset containing synthetically generated (by GPT-3.5 and GPT-4) short stories that only use a small vocabulary. Described in the following paper: https://arxiv.org/abs/2305.07759. The models referred to in the paper were trained on TinyStories-train.txt (the file tinystories-valid.txt can be used for validation loss). These models can be found on Huggingface, at roneneldan/TinyStories-1M/3M/8M/28M/33M/1Layer-21M. Additional resources: tinystories_all_data.tar.gz - contains a superset of… See the full description on the dataset page: https://huggingface.co/datasets/roneneldan/TinyStories.
Dataset Card for ImageNet Dataset Summary ILSVRC 2012, commonly known as 'ImageNet' is an image dataset organized according to the WordNet hierarchy. Each meaningful concept in WordNet, possibly described by multiple words or word phrases, is called a "synonym set" or "synset". There are more than 100,000 synsets in WordNet, majority of them are nouns (80,000+). ImageNet aims to provide on average 1000 images to illustrate each synset. Images of each concept are… See the full description on the dataset page: https://huggingface.co/datasets/ILSVRC/imagenet-1k.
Dataset Card for GLUE Dataset Summary GLUE, the General Language Understanding Evaluation benchmark (https://gluebenchmark.com/) is a collection of resources for training, evaluating, and analyzing natural language understanding systems. Supported Tasks and Leaderboards The leaderboard for the GLUE benchmark can be found at this address. It comprises the following tasks: ax A manually-curated evaluation dataset for fine-grained… See the full description on the dataset page: https://huggingface.co/datasets/nyu-mll/glue.
COIG-CQIA:Quality is All you need for Chinese Instruction Fine-tuning Dataset Details Dataset Description 欢迎来到COIG-CQIA,COIG-CQIA全称为Chinese Open Instruction Generalist - Quality is All You Need, 是一个开源的高质量指令微调数据集,旨在为中文NLP社区提供高质量且符合人类交互行为的指令微调数据。COIG-CQIA以中文互联网获取到的问答及文章作为原始数据,经过深度清洗、重构及人工审核构建而成。本项目受LIMA: Less Is More for Alignment等研究启发,使用少量高质量的数据即可让大语言模型学习到人类交互行为,因此在数据构建中我们十分注重数据的来源、质量与多样性,数据集详情请见数据介绍以及我们接下来的论文。 Welcome to the… See the full description on the dataset page: https://huggingface.co/datasets/m-a-p/COIG-CQIA.