Modeltext-generation
PKU-DS-LAB

PKU-DS-LAB/FairyR1-14B-Preview

Welcome to FairyR1-14B-Preview created by PKU-DS-LAB! | Benchmark | DeepSeek-R1-Distill-Qwen-32B | DeepSeek-R1-Distill-Qwen-14B |FairyR1-14B-Preview (PKU)| FairyR1-32B (PKU) | | :-----------------------: | :--------------: | :-----------------------...

20thích
33tải xuống
0lượt xem

Thành tựu nổi bật

Những danh hiệu mới nhất của dự án

1
TINIX TRENDING·Chủ đề: base_model:finetune:deepseek-ai/DeepSeek-R1-Distill-Qwen-14B

#1 Repository Của Tháng

1
TINIX TRENDING·Chủ đề: arxiv:2503.04872

#1 Repository Của Tháng

1
TINIX TRENDING·Chủ đề: base_model:finetune:deepseek-ai/DeepSeek-R1-Distill-Qwen-14B

#1 Repository Của Tuần

🧚 FairyR1-14B-Preview: mô hình reasoning 14B vượt cả bản 32B trên toán và lập trình

Một mô hình 14B tham số nhưng đánh bại DeepSeek-R1-Distill-Qwen-32B trên AIME 2024, AIME 2025 và LiveCodeBench.

FairyR1-14B-Preview do PKU-DS-LAB phát triển, xây trên nền DeepSeek-R1-Distill-Qwen-14B, tiếp tục pipeline "distill-and-merge" từ TinyR1-32B-Preview và FairyR1-32B. Mục tiêu là giữ hiệu năng cạnh tranh trong toán và lập trình trong khi giảm đáng kể kích thước và chi phí inference. Dự án được tài trợ bởi NSFC, Grant 624B2005.

✨ Điểm nổi bật

  • Pipeline distill-and-merge: kết hợp fine-tuning chuyên biệt theo tác vụ với kỹ thuật merge mô hình.
  • AIME 2024 (Math): đạt 73.7, cao hơn DeepSeek-R1-Distill-Qwen-32B (72.6) và bản 14B (69.7).
  • AIME 2025 (Math): đạt 64.9, vượt rõ rệt bản 32B (52.9).
  • LiveCodeBench (Code): đạt 58.8, cao hơn bản 32B (57.1).
  • Dữ liệu toán: 6.6k CoT trajectory từ AI-MO/NuminaMath-1.5.
  • Dữ liệu code: 3.8k CoT trajectory từ OpenThoughts-114k (subset coding).
  • Hai chuyên gia: huấn luyện riêng hai expert toán và code rồi fuse bằng công cụ AcreeFusion.
  • Chi phí huấn luyện thấp: 2.5 giờ trên 16 NVIDIA H100 cho toán, 1.5 giờ cho code, merge khoảng 20 phút trên CPU.

💡 Vì sao đáng chú ý

FairyR1-14B-Preview cho thấy việc tối ưu pipeline dữ liệu và fuse mô hình có thể giảm kích thước mô hình mà vẫn giữ hiệu năng mạnh trong toán và lập trình. So với các mô hình reasoning lớn hơn, bản 14B này vẫn cạnh tranh trên các benchmark AIME và LiveCodeBench.

Nên chú ý đây là bản Preview; nhóm tác giả khuyến nghị dùng FairyR1-32B để có hiệu năng cao hơn trong toán và lập trình. License Apache-2.0, hỗ trợ tiếng Anh và tiếng Trung.


#LLM #Reasoning #Distillation #ModelMerging #TiniX

Dự án tương tự

Khám phá các dự án và mô hình AI khác có sự tương đồng.

Modeltext-generation
meta-llama/Llama-3.1-8B-Instruct

Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...

♥0
4.8M
Sep 25, 2024
Modeltext-generation
Qwen/Qwen3-0.6B

Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...

♥0
23.7M
Jul 26, 2025
Modeltext-generation
meta-llama/Meta-Llama-3-8B-Instruct

Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...

♥0
341.0k
Jun 18, 2025
Modeltext-generation
deepseek-ai/DeepSeek-R1

DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...

♥0
1.5M
Mar 27, 2025
Modeltext-generation
openai-community/gpt2

GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...

♥0
21.8M
Feb 19, 2024
Modeltext-generation
meta-llama/Meta-Llama-3-8B

Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...

♥0
133.6k
Sep 27, 2024
Modeltext-generation
openai/gpt-oss-20b

Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...

♥0
5.8M
Aug 26, 2025
Modeltext-generation
openai/gpt-oss-120b

Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...

♥0
2.9M
Aug 26, 2025
Modeltext-generation
meta-llama/Llama-2-7b-chat-hf

Llama 2 Llama 2 is a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. This is the repository for the 7B fine-tuned model, optimized for dialogue use cases and converted for the...

♥0
137.2k
Apr 17, 2024