peculiar-ragdoll/Tiel-Coder-35B-A3B-GGUF
Straight to the point Tiel is the fast coder of the arsenal. At 4-bit quantization and 22 GB it fixes real codebase issues at the rate (and speed, with the right GPU) of Opus 4.6 medium, while holding the best multi-turn conversation of any local mo...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#2 Repository Của Ngày
#2 Repository Của Tháng
#2 Repository Của Tháng
🚀 Tiel-Coder-35B-A3B-GGUF — Bản định lượng động siêu nhẹ cho lập trình viên đa lượt
Một bản re-quantize động của Ornith-1.5-35B-A3B với template Sharp, tối ưu cho lập trình agentic và trò chuyện đa lượt.
Tiel (viết tắt của Tiel-Coder) là phiên bản định lượng lại của mô hình Ornith-1.5-35B-A3B sử dụng kỹ thuật imatrix động và template chat Sharp. Dự án này tập trung vào hiệu suất lập trình trong môi trường đa lượt trò chuyện, đồng thời giảm kích thước bằng định dạng GGUF phù hợp với phần cứng consumer.
✨ Điểm nổi bật
- Định dạng GGUF đa cấp: Hỗ trợ nhiều mức độ định lượng từ Q2_K_XL (12.3 GB) đến Q8_K_XL (38.5 GB), phù hợp với nhiều cấu hình GPU.
- Template Sharp tích hợp: Cải tiến template chat giúp rút ngắn câu trả lời, tăng hiệu quả token.
- Hỗ trợ thị giác (vision): Tích hợp vision tower từ Ornith-1.5, có thể xử lý ảnh chụp màn hình, stack trace hoặc mockup thiết kế.
- Tối ưu cho lập trình agentic: Đạt hiệu suất bằng Opus 4.6 medium trên bài toán SWE-bench-Live với thời gian thực hiện trung bình nhanh hơn.
- Hiệu suất trò chuyện đa lượt vượt trội: Điểm số Claw-Eval đạt 67.2, vượt hẳn so với Nail (60.5) và bản gốc Ornith (65.3).
- Bộ nhớ KV tiết kiệm: Sử dụng hybrid SSM/attention mixture chỉ với 2 đầu KV, giảm đáng kể bộ nhớ cache so với mô hình dense tương đương.
💡 Vì sao đáng chú ý
Tiel không chỉ là một mô hình định lượng — nó là kết quả của việc tinh chỉnh template chat để tối ưu cho công việc thực tế, đặc biệt là lập trình đa lượt và trò chuyện dài hạn. Khác với các mô hình tập trung vào kiến thức thi cử (như Nail), Tiel ưu tiên tốc độ, hiệu quả token và khả năng duy trì ngữ cảnh trong các vòng trò chuyện phức tạp.
Điểm mạnh của Tiel là khả năng cân bằng giữa kích thước mô hình và hiệu suất thực tế. Với chỉ 22 GB tại mức Q4_K_XL, nó đạt kết quả tương đương với các mô hình lớn hơn, đồng thời tiết kiệm tài nguyên nhờ kiến trúc KV cache hiệu quả. Đây là lựa chọn lý tưởng cho các nhà phát triển muốn chạy mô hình lập trình mạnh trên GPU consumer-grade.
#AI #MachineLearning #CodingAssistant #OpenSource #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Straight to the point Tiel is the fast coder of the arsenal. At 4-bit quantization and 22 GB it fixes real codebase issues at the rate (and speed, with the right GPU) of Opus 4.6 medium, while holding the best multi-turn conversation of any local mo...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...