peculiar-ragdoll/Nail-Qwen3.6-35B-A3B-MLX
Straight to the point Nail dominates Qwen3.6-27b and its ThinkingCap fine-tune on time-to-answer while matching their accuracy on reasoning and agentic software engineering ability, and wins on multi-turn conversation quality even when the 27b model...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#2 Repository Của Tháng
#3 Repository Của Tháng
#4 Repository Của Tháng
🚀 Nail-Qwen3.6-35B-A3B-MLX — Tốc độ và hiệu quả trong một mô hình
Nail vượt trội Qwen3.6-27b và bản fine-tune ThinkingCap về thời gian trả lời, đồng thời duy trì độ chính xác và chất lượng hội thoại đa lượt.
Nail là phiên bản Qwen3.6-35B-A3B được quantized động 4-bit bởi Unsloth MLX, kết hợp với một chat template được tối ưu để ép buộc thêm lời nhắc ngắn gọn vào cuối mỗi system prompt. Dự án hướng đến việc giảm thời gian trả lời, tránh lặp quá mức, và cải thiện hiệu suất trên các nhiệm vụ lập trình tự động và hội thoại dài.
✨ Điểm nổi bật
- 4-bit quantized MLX: Chạy trên 24GB RAM với bộ nhớ KV cache 8-bit.
- Chat template tối ưu: Thêm lời nhắc ép buộc tính ngắn gọn vào system prompt.
- Hiệu suất vượt trội: Nhanh hơn 2-5x so với các mô hình dày thường, đồng thời giữ độ chính xác.
- 256k ngữ cảnh: Hỗ trợ ngữ cảnh dài lên đến 262.144 token.
- Đánh giá đa lĩnh vực: Vượt trội ở MMLU-Pro, Claw-Eval multi-turn, và SWE-bench.
- Tương thích đa nền tảng: Phiên bản GGUF dành cho người dùng không dùng Mac.
💡 Vì sao đáng chú ý
Nail không chỉ tập trung vào tốc độ mà còn giữ được độ chi tiết và độ chính xác cần thiết — tránh hiện tượng overthinking, lỗi gọi công cụ, hoặc lặp đi lặp lại. Đây là lựa chọn lý tưởng cho người dùng Mac muốn chạy mô hình lớn với giới hạn RAM thấp, đồng thời mong muốn câu trả lời nhanh và súc tích trong các phiên làm việc đòi hỏi tính liên tục và hiệu quả.
#MLX #Qwen3.6 #Quantized #AgenticCoding #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Qwen3.6-35B-A3B !Qwen Chat(https://img.shields.io/badge/%F0%9F%92%9C%EF%B8%8F%20Qwen%20Chat%20-536af5)(https://chat.qwen.ai) !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transfor...
ZDTaichu5.0-9B Project Page(https://taichu-ai.github.io/ZDTaichu5.0-9B/) | GitHub(https://github.com/Taichu-AI/ZDTaichu5.0-9B) | ModelScope(https://www.modelscope.cn/models/TaichuAI/ZDTaichu5.0-9B) ZDTaichu5.0-9B is a multimodal foundation model for...