peculiar-ragdoll/Tiel-Coder-35B-A3B-GGUF-MTP
Straight to the point Tiel is the fast coder of the arsenal. At 4-bit quantization and 22 GB it fixes real codebase issues at the rate (and speed, with the right GPU) of Opus 4.6 medium, while holding the best multi-turn conversation of any local mo...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Ngày
#1 Repository Của Ngày
#1 Repository Của Ngày
🚀 Tiel-Coder-35B-A3B-GGUF-MTP: Bản quantization nhanh như Opus, nhẹ chỉ ~22GB
Re-quantization động từ Ornith-1.5-35B-A3B với imatrix riêng và đầu MTP speculative decoding, tối ưu cho agentic coding và multi-turn conversation.
Đây là bản quantization GGUF của Ornith-1.5-35B-A3B, được re-quantize động b�ng imatrix tùy chỉnh và kèm theo đầu MTP (multi-token prediction) để hỗ trợ speculative decoding. Tiel được thiết kế để làm việc nhanh và hiệu quả trong môi trường local, đặc biệt cho các tác vụ agentic coding và multi-turn conversation.
✨ Điểm nổi bật
- Quantization 4-bit ~22GB: Bản quantized nhẹ, phù hợp với GPU 32GB.
- Đầu MTP speculative decoding: Hỗ trợ draft-token trước khi main model sinh, tăng tốc inference.
- SWE-bench-Live 12/25: Đạt kết quả bằng Opus 4.6 medium, vượt qua cả Nail, KAT-Coder và Qwen3.6-35B-A3B gốc.
- Claw-Eval 67.2 điểm: Tốt nhất trong số các bản local, vượt cả Ornith và Nail.
- Tích hợp Sharp chat template: Tối ưu độ dài câu trả lời, giảm token lãng phí.
- Hỗ trợ vision: Dùng chung mmproj-BF16.gguf từ Ornith, hỗ trợ xử lý ảnh.
- Hai tier phần cứng: Q4_K_XL (23.3GB) và Q5_K_XL (27.5GB), cả hai đều có đầu MTP.
- Kích hoạt bằng --spec-type draft-mtp: Đầu MTP chỉ hoạt động khi được bật qua flag này.
💡 Vì sao đáng chú ý
Tiel không chỉ là một mô hình quantization tiêu chuẩn — nó mang đến một cách tiếp cận cân bằng giữa tốc độ và chất lượng. Với đầu MTP được huấn luyện lại (không còn là khởi tạo ngẫu nhiên như bản đầu), Tiel đạt tốc độ sinh tốc độ cao nhờ speculative decoding, trong khi vẫn duy trì độ chính xác cao trên các bài toán agentic coding. Đây là lựa chọn lý tưởng nếu bạn cần một mô hình local mạnh mẽ cho lập trình và hội thoại dài, nhưng không muốn dùng tới các mô hình lớn hàng trăm GB.
#TielCoder #SpeculativeDecoding #AgenticCoding #GGUF #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Straight to the point Tiel is the fast coder of the arsenal. At 4-bit quantization and 22 GB it fixes real codebase issues at the rate (and speed, with the right GPU) of Opus 4.6 medium, while holding the best multi-turn conversation of any local mo...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
LocateAnything: Fast and High-Quality Vision-Language Grounding with Parallel Box Decoding 🔗 Quick Links 🚀 Online Demo: LocateAnything (Hugging Face Spaces)(https://huggingface.co/spaces/nvidia/LocateAnything) 💻 GitHub Code: NVlabs/Eagle/Embodied...
ZDTaichu5.0-9B Project Page(https://taichu-ai.github.io/ZDTaichu5.0-9B/) | GitHub(https://github.com/Taichu-AI/ZDTaichu5.0-9B) | ModelScope(https://www.modelscope.cn/models/TaichuAI/ZDTaichu5.0-9B) ZDTaichu5.0-9B is a multimodal foundation model for...
GGUF without MTP here(https://huggingface.co/peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF), MLX version here(https://huggingface.co/peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-MLX-oQ4e), and MLX MTP version here(https://huggingface.co/peculiar-ragdo...
Qwen3.8-27B-Uncensored-GGUF Uncensored Qwen3.8-27B(https://huggingface.co/Qwen/Qwen3.8-27B), published as GGUF quantizations with the multi-token prediction (MTP) head retained and verified. Refusal behaviour has been substantially reduced, not elim...