mfielding92/SmartCode-Fable-5-CoT-Reasoning-QKVO-Qwen-3.6-27B-Distilled
🚀 SmartCode ThinkingCap Fable 5 Distill (Qwen3.6-27B) - QKVO Stricter - 🧩 Finetuned from: bottlecapai/ThinkingCap-Qwen3.6-27B(https://huggingface.co/bottlecapai/ThinkingCap-Qwen3.6-27B) - 🍰 Distilled from: SmartCode Fable 5 Distill CoT Reasoning...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 SmartCode ThinkingCap Fable 5 Distill — Qwen3.6-27B với kỹ thuật QKVO [Stricter]
Mô hình tinh chỉnh Qwen3.6-27B kết hợp distill CoT từ Fable 5, giữ K đóng băng để cân bằng hiệu suất và hiệu quả suy nghĩ.
Đây là bản distill từ bottlecapai/ThinkingCap-Qwen3.6-27B, được tinh chỉnh thêm bằng 1.000 chuỗi suy nghĩ CoT được chiết xuất từ Fable 5. Phiên bản này áp dụng kỹ thuật QKVO Stricter, trong đó trọng số K được giữ nguyên — duy trì hành vi địa chỉ/truy xuất của mô hình gốc — trong khi Q, V, O được điều chỉnh để phù hợp với dữ liệu tinh chỉnh.
✨ Điểm nổi bật
- QKVO Stricter: K giữ nguyên, Q/V/O tinh chỉnh — giữ nguyên khả năng truy xuất của mô hình gốc.
- ThinkingCap Foundation: giảm ~50% token suy nghĩ trung bình, giảm hơn 90% ở trường hợp tốt nhất.
- Fable 5 CoT Distill: 1.000 chuỗi suy nghĩ được chiết xuất, tích hợp phong cách lập kế hoạch trước khi viết code.
- Adaptive Reasoning: độ sâu suy nghĩ thích ứng theo độ phứ tạp bài toán.
- Hiệu quả token: tối ưu cho bài toán phức tạp mà không lãng phí tài nguyên.
- Hỗ trợ GGUF đa dạng: UD-Q2/Q3/Q4/Q5_K_XL — linh hoạt theo cấu hình phần cứng.
- Cài đặt sampler được đề xuất: Temperature 0.9, Top P 0.95, Top K 60 — tối ưu cho chất lượng đầu ra.
- Apache 2.0 License: mã nguồn mở, sẵn sàng cho triển khai.
💡 Vì sao đáng chú ý
Không chỉ là bản distill thông thường, mô hình này kết hợp hai lớp tinh chỉnh: ThinkingCap giúp suy nghĩ ngắn gọn, quyết đoán — tránh lãng phí token — và Fable 5 Distill cung cấp chiến lược lập kế hoạch chi tiết trước khi viết code. Kỹ thuật QKVO Stricter giữ K đóng bản, giúp mô hình vẫn giữ được khả năng truy xuất thông tin mạnh mẽ từ mô hình gốc.
Phù hợp cho các bài toán lập trình phức tạp, đòi hỏi lập kế hoạch chiến lược nhưng cần kiểm soát chi phí token. Đặc biệt hiệu quả trong môi trường có giới hạn VRAM như 16GB hoặc 24GB nhờ các bản định dạng GGUF tối ưu.
#SmartCode #Qwen36 #Fable5 #CoT #QKVO #ThinkingCap #GGUF #Distilled #Reasoning #TiniX
Similar Projects
Discover other similar projects and AI models.
Read our How to Run Qwen3.8-27B Guide!(https://unsloth.ai/docs/models/qwen3.8) This GGUF uses Unsloth Dynamic V3.0 (preview) for SOTA quantization performance. Developer Role Support so Qwen3.8 can work in agentic tools like Codex and more! MTP for...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Card for T5 Small !model image(https://camo.githubusercontent.com/623b4dea0b653f2ad3f36c71ebfe749a677ac0a1/68747470733a2f2f6d69726f2e6d656469756d2e636f6d2f6d61782f343030362f312a44304a31674e51663876727255704b657944387750412e706e67) Table of Con...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
(some model card updates pending...) Important: This is the first fine tune to exceed 730 "arc-c" ("735": 144 pts higher than Qwen 3.8 27B) AND 880 ARC-E (The OpenAI, Claude and Gemini "zone of intelligence") in 8 bit and over 718 arc-c in 4 bit. Thi...