TIGER-Lab/MMLU-Pro
MMLU-Pro Dataset MMLU-Pro dataset is a more robust and challenging massive multi-task understanding dataset tailored to more rigorously benchmark large language models' capabilities. This dataset contains 12K complex questions across various disciplines. |Github | 🏆Leaderboard | 📖Paper | 🚀 What's New [2026.03.11] Added more cutting-edge frontier models to the leaderboard, including the Claude-4.6 series, Seed2.0 series, Qwen3.5 series, and Gemini-3.1-Pro… See the full description on the dataset page: https://huggingface.co/datasets/TIGER-Lab/MMLU-Pro.
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Ngày
🧪 MMLU-Pro: Bài kiểm tra hiểu biết cường khẩu dành cho LLM
MMLU-Pro nâng cấp MMLU gốc bằng cách tăng số lựa chọn từ 4 lên 10 và chèn thêm câu hỏi đòi hỏi lập luận sâu, giúp giảm đáng kể khả năng đoán trúng bằng may mắn.
MMLU-Pro là một bộ dữ liệu đánh giá hiểu biết đa nhiệm rộng lớn (massive multi-task) được thiết kế để kiểm thử năng lực của các mô hình ngôn ngữ lớn (LLM) một cách nghiêm ngặt và thách thức hơn. Bộ dữ liệu này chứa khoảng 12.000 câu hỏi phức tạp phân trải trên nhiều lĩnh vực tri thức khác nhau.
✨ Điểm nổi bật
- Tăng số lựa chọn lên 10: So với MMLU gốc chỉ có 4 lựa chọn, MMLU-Pro tăng lên 10 để làm tăng độ khó và giảm khả năng đoán đúng bằng may mắn.
- Tích hợp câu hỏi đòi hỏi lập luận: Nhiều câu hỏi mới được thêm vào yêu cầu lập luận sâu, giúp CoT (Chain-of-Thought) vượ trội hơn PPL (Plain Prompting) tới 20%.
- Giảm nhạy cảm với prompt: MMLU-Pro giảm độ nhạy của điểm số mô hình trước các biến thể prompt từ 4–5% (MMLU) xuống còn 2%.
- Nguồn câu hỏi đa dạng: Tích hợp câu hỏi từ MMLU gốc (đã lọc bỏ câu hỏi mơ hồ), câu hỏi STEM từ internet, TheoremQA, và SciBench.
- Cập nhật liên tục: Đội ngũ duy trì và cập nhật bảng xếp hạng với các mô hình tiên tiến như Claude, Qwen, Gemini.
- Dữ liệu có cấu trúc rõ ràng: Mỗi mẫu bao gồm câu hỏi, 10 lựa chọn, đáp án đúng, chỉ số đáp án, và nội dung suy luận (cot_content).
- Hỗ trợ đa định dạng: Dữ liệu có sẵn dưới dạng Parquet, tương thích với thư viện Datasets, Pandas, Polars.
- Kiểm định chất lượng chuyên môn: Các đáp án y tế được kiểm chứng bởi các bác sĩ chuyên kho từ Mayo Clinic và INOVA.
💡 Vì sao đáng chú ý
MMLU-Pro không chỉ là bản cập nhật của MMLU — nó thay đổi cách tiếp cận benchmark LLM bằng cách tăng đáng kể độ phứ tạp thông qua số lượng lựa chọn và yêu cầu lập luận. Nhờ thiết kế này, MMLU-Pro trở thành một công cụ đánh giá chính xác hơn khả năng thực sự của mô hình, thay vì khả năng đoán may. Đặc biệt phù hợp với việc so sánh các mô hình LLM mới trên thị trường và nghiên cứu cải tiến kỹ thuật suy luỷ.
#Benchmark #LLMEvaluation #MMLU #HuggingFace #TiniX
Similar Projects
Discover other similar projects and AI models.
Dataset Card for GSM8K Dataset Summary GSM8K (Grade School Math 8K) is a dataset of 8.5K high quality linguistically diverse grade school math word problems. The dataset was created to support the task of question answering on basic mathematical problems that require multi-step reasoning. These problems take between 2 and 8 steps to solve. Solutions primarily involve performing a sequence of elementary calculations using basic arithmetic operations (+ − ×÷) to… See the full description on the dataset page: https://huggingface.co/datasets/openai/gsm8k.
OpenAssistant Conversations Dataset (OASST1) Dataset Summary In an effort to democratize research on large-scale alignment, we release OpenAssistant Conversations (OASST1), a human-generated, human-annotated assistant-style conversation corpus consisting of 161,443 messages in 35 different languages, annotated with 461,292 quality ratings, resulting in over 10,000 fully annotated conversation trees. The corpus is a product of a worldwide crowd-sourcing effort… See the full description on the dataset page: https://huggingface.co/datasets/OpenAssistant/oasst1.
Dataset Card for SQuAD Dataset Summary Stanford Question Answering Dataset (SQuAD) is a reading comprehension dataset, consisting of questions posed by crowdworkers on a set of Wikipedia articles, where the answer to every question is a segment of text, or span, from the corresponding reading passage, or the question might be unanswerable. SQuAD 1.1 contains 100,000+ question-answer pairs on 500+ articles. Supported Tasks and Leaderboards Question… See the full description on the dataset page: https://huggingface.co/datasets/rajpurkar/squad.
Dataset Card for Alpaca Dataset Summary Alpaca is a dataset of 52,000 instructions and demonstrations generated by OpenAI's text-davinci-003 engine. This instruction data can be used to conduct instruction-tuning for language models and make the language model follow instruction better. The authors built on the data generation pipeline from Self-Instruct framework and made the following modifications: The text-davinci-003 engine to generate the instruction data… See the full description on the dataset page: https://huggingface.co/datasets/tatsu-lab/alpaca.
Summary databricks-dolly-15k is an open source dataset of instruction-following records generated by thousands of Databricks employees in several of the behavioral categories outlined in the InstructGPT paper, including brainstorming, classification, closed QA, generation, information extraction, open QA, and summarization. This dataset can be used for any purpose, whether academic or commercial, under the terms of the Creative Commons Attribution-ShareAlike 3.0 Unported… See the full description on the dataset page: https://huggingface.co/datasets/databricks/databricks-dolly-15k.
News [2025/04/22] We split the data and kept only the medical SFT dataset (medical_o1_sft.json). The file medical_o1_sft_mix.json contains a mix of medical and general instruction data. [2025/02/22] We released the distilled dataset from Deepseek-R1 based on medical verifiable problems. You can use it to initialize your models with the reasoning chain from Deepseek-R1. [2024/12/25] We open-sourced the medical reasoning dataset for SFT, built on medical verifiable problems and an… See the full description on the dataset page: https://huggingface.co/datasets/FreedomIntelligence/medical-o1-reasoning-SFT.
Dataset Card for MMLU Dataset Summary Measuring Massive Multitask Language Understanding by Dan Hendrycks, Collin Burns, Steven Basart, Andy Zou, Mantas Mazeika, Dawn Song, and Jacob Steinhardt (ICLR 2021). This is a massive multitask test consisting of multiple-choice questions from various branches of knowledge. The test spans subjects in the humanities, social sciences, hard sciences, and other areas that are important for some people to learn. This covers 57… See the full description on the dataset page: https://huggingface.co/datasets/cais/mmlu.
Dataset Card for GLUE Dataset Summary GLUE, the General Language Understanding Evaluation benchmark (https://gluebenchmark.com/) is a collection of resources for training, evaluating, and analyzing natural language understanding systems. Supported Tasks and Leaderboards The leaderboard for the GLUE benchmark can be found at this address. It comprises the following tasks: ax A manually-curated evaluation dataset for fine-grained… See the full description on the dataset page: https://huggingface.co/datasets/nyu-mll/glue.
APIGen Function-Calling Datasets Paper | Website | Models This repo contains 60,000 data collected by APIGen, an automated data generation pipeline designed to produce verifiable high-quality datasets for function-calling applications. Each data in our dataset is verified through three hierarchical stages: format checking, actual function executions, and semantic verification, ensuring its reliability and correctness. We conducted human evaluation over 600 sampled data points… See the full description on the dataset page: https://huggingface.co/datasets/Salesforce/xlam-function-calling-60k.