PKU-DS-LAB/FairyR1-14B-Preview
Welcome to FairyR1-14B-Preview created by PKU-DS-LAB! | Benchmark | DeepSeek-R1-Distill-Qwen-32B | DeepSeek-R1-Distill-Qwen-14B |FairyR1-14B-Preview (PKU)| FairyR1-32B (PKU) | | :-----------------------: | :--------------: | :-----------------------...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tuần
🧚 FairyR1-14B-Preview: mô hình reasoning 14B vượt cả bản 32B trên toán và lập trình
Một mô hình 14B tham số nhưng đánh bại DeepSeek-R1-Distill-Qwen-32B trên AIME 2024, AIME 2025 và LiveCodeBench.
FairyR1-14B-Preview do PKU-DS-LAB phát triển, xây trên nền DeepSeek-R1-Distill-Qwen-14B, tiếp tục pipeline "distill-and-merge" từ TinyR1-32B-Preview và FairyR1-32B. Mục tiêu là giữ hiệu năng cạnh tranh trong toán và lập trình trong khi giảm đáng kể kích thước và chi phí inference. Dự án được tài trợ bởi NSFC, Grant 624B2005.
✨ Điểm nổi bật
- Pipeline distill-and-merge: kết hợp fine-tuning chuyên biệt theo tác vụ với kỹ thuật merge mô hình.
- AIME 2024 (Math): đạt 73.7, cao hơn DeepSeek-R1-Distill-Qwen-32B (72.6) và bản 14B (69.7).
- AIME 2025 (Math): đạt 64.9, vượt rõ rệt bản 32B (52.9).
- LiveCodeBench (Code): đạt 58.8, cao hơn bản 32B (57.1).
- Dữ liệu toán: 6.6k CoT trajectory từ AI-MO/NuminaMath-1.5.
- Dữ liệu code: 3.8k CoT trajectory từ OpenThoughts-114k (subset coding).
- Hai chuyên gia: huấn luyện riêng hai expert toán và code rồi fuse bằng công cụ AcreeFusion.
- Chi phí huấn luyện thấp: 2.5 giờ trên 16 NVIDIA H100 cho toán, 1.5 giờ cho code, merge khoảng 20 phút trên CPU.
💡 Vì sao đáng chú ý
FairyR1-14B-Preview cho thấy việc tối ưu pipeline dữ liệu và fuse mô hình có thể giảm kích thước mô hình mà vẫn giữ hiệu năng mạnh trong toán và lập trình. So với các mô hình reasoning lớn hơn, bản 14B này vẫn cạnh tranh trên các benchmark AIME và LiveCodeBench.
Nên chú ý đây là bản Preview; nhóm tác giả khuyến nghị dùng FairyR1-32B để có hiệu năng cao hơn trong toán và lập trình. License Apache-2.0, hỗ trợ tiếng Anh và tiếng Trung.
#LLM #Reasoning #Distillation #ModelMerging #TiniX
Similar Projects
Discover other similar projects and AI models.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Llama 2 Llama 2 is a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. This is the repository for the 7B fine-tuned model, optimized for dialogue use cases and converted for the...