peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF-MTP
GGUF without MTP here(https://huggingface.co/peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF), MLX version here(https://huggingface.co/peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-MLX-oQ4e), and MLX MTP version here(https://huggingface.co/peculiar-ragdo...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Ngày
#1 Repository Của Ngày
#1 Repository Của Tháng
🔥 Cyber-Tiel-Coder-35B-A3B-GGUF-MTP: Mô hình coder 35B không bị kiểm duyệt, nhanh gấp 3-4 lần
Mô hình GGUF 35B-A3B được tối ưu tốc độ và khả năng coding, kết hợp MTP và speculative decoding, phù hợp chạy trên phần cứng giới hạn VRAM.
Cyber-Tiel-Coder-35B-A3B-GGUF-MTP là bản định lượng GGUF của mô hình ngôn ngữ lớn 35 tỷ tham số, được xây dựng dựa trên Huihui-Ornith-1.5-35B-A3B-abliterated — một phiên bản không bị kiểm duyệt của Ornith-1.5. Dự án nhằm mang lại hiệu năng coding cao và tốc độ nhanh, đặc biệt phù hợp cho các công việc offensive security và agentic coding mà các mô hình khác thường từ chối.
✨ Điểm nổi bật
- Quantized GGUF format: Hỗ trợ chạy trên llama.cpp, phù hợp với phần cứng có VRAM giới hạn.
- Multi-Token Prediction (MTP): Tích hợp đầu dự đoán đa token để tăng tốc sinh văn bản.
- Speculative decoding: Tối ưu giảm thời gian suy luận so với các mô hình cùng cỡ.
- Abliterated (uncensored): Không từ chối bất kỳ yêu cầu nào, kể cả các nhiệm vụ nhạy cảm.
- Cyber-weighted imatrix: Được tái lượệc động với trọng số tối ưu cho coding.
- Sharp chat template: Sử dụng mẫu trò chuyện tối ưu từ Qwen-Sharp-Chat-Templates.
- Vision support: Hỗ trợ xử lý đầu vào đa dạng bao gồm hình ảnh.
- SWE-bench-Live performance: Giải quyết ~70% nhiều vấn đề coding thế giới thực hơn Ornith-1.5 và Qwen3.6.
💡 Vì sao đáng chú ý
Cyber-Tiel khác biệt nhờ sự kết hợp của abliteration và tối ưu quantization, giúp mô hình vừng nhanh vừng mạnh trong lĩnh vực coding agentic. Trên bộ đánh giá SWE-bench-Live, Cyber-Tiel Q4 (22GB) vượt trội hẳn so với các mô hình dense dung lượng tương đương, đặc biệt khi chạy trên phần cứng giới hạn. Đồng thời, khả năng không bị kiểm duyệt mở ra tiềm năng ứng dụng trong offensive security, như chứng minh bằng kết quả 15/43 flags trên Cybench CTF.
#GGUF #LLM #CodingAI #Abliterated #SpeculativeDecoding #AgenticCoding #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Straight to the point Tiel is the fast coder of the arsenal. At 4-bit quantization and 22 GB it fixes real codebase issues at the rate (and speed, with the right GPU) of Opus 4.6 medium, while holding the best multi-turn conversation of any local mo...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...