Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill-GGUF
🌟 Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill 💡 Model Introduction Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill is a reasoning model fine-tuned on top of Qwen3.5-9B. The model is primarily optimized through high-density reasoning distillation sourc...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#3 Repository Của Tháng
#4 Repository Của Tháng
🧠 Qwen3.5-9B mỏng ~ Gemini 3.1 Pro: Reasoning dày đặc qua distillation
Mô hình reasoning trên Qwen3.5-9B, tinh chỉnh bởi distillation từ Gemini 3.1 Pro + Qwen3.5-27B, tập trung cải thiện Chain-of-Thought dày đặc.
Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill là mô hình reasoning được fine-tune trên Qwen3.5-9B, tối ưu bởi nguồn distillation reasoning từ Gemini 3.1 và một phần lớn dữ liệu từ Gemini 3.0 Pro. Mục tiêu chuyển đổi phong cách reasoning của mô hình về dạng có cấu trúc, logic rõ ràng, dense Chain-of-Thought hơn.
✨ Điểm nổi bật
- Distillation reasoning từ Gemini 3.1 Pro: Tập trung vào planning phân tích, abstraction, decomposition.
- Chain-of-Thought dày đặc: Tối ưu cho tác vụ đa bước, giảm thiểu shallow guessing.
- Unsloth + LoRA: Sử dụng kỹ thuật fine-tuning nhẹ, giảm thiểu lãng phí tính toán.
- Response-only training: Chỉ huấn luyện phần trả lời, giữ nguyên khả năng chung.
- Đa miền (multi-domain): Bao phủ toán học, lập trình, an ninh, vật lý, pháp lý, y tế, tài chính.
- Nhận thức chủ quan (Scaffold): Áp dụng khung reasoning có bước: Restate → Abstract → Identify → Plan → Answer.
💡 Vì sao đáng chú ý
Khác với mô hình instruct thông thường, mô hình này được tinh chỉnh để trả lời có cấu trúc reasoning trước khi đưa ra kết luận. Điều này giúp cải thiện đáng kể độ chính xác trên các tác vụ phức tạp như toán học, lập trình, hoặc phân tích hệ thống.
#Qwen3.5 #Reasoning #Distillation #ChainOfThought #Unsloth #TiniX
Similar Projects
Discover other similar projects and AI models.
🌟 Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled 🔥 Update (April 5): I’ve released the complete training notebook, codebase, and a comprehensive PDF guide to help beginners and enthusiasts understand and reproduce this model's fine-tuning process...
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...