HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP
Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Gemma4-26B-A4B (QAT) uncensored by HauhauCS. 0/465 Refusals About No changes to datasets or capabil...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#2 Repository Của Ngày
#2 Repository Của Tháng
#2 Repository Của Tháng
🚀 Gemma4-26B-A4B QAT Uncensored — Bản đầy đủ, không bị cản lại
Phiên bản uncensored từ Gemma 4 26B-A4B QAT, tối ưu cho agentic coding, reasoning và creative writing.
Đây là mô hình Gemma 4 26B-A4B (quantization-aware-trained) được HauhauCS uncensor hoàn toàn — không thay đổi dataset hay chức năng gốc, chỉ loại bỏ các lời từ chối. Xây dựng từ weights QAT chính thức, giữ chất lượng gần bằng full-precision dù chỉ ở mức 4-bit.
✨ Điểm nổi bật
- Uncensored hoàn toàn: 0/465 lời từ chối trong benchmark chuẩn.
- Balanced variant (khuyến nghị): tối ưu cho agentic coding, reasoning, creative writing và task cần độ tin cậy cao.
- MTP tăng tốc 35%: hỗ trợ speculative decoding qua draft head MTP, tốc độ nhanh hơn nhưng chất lượng không thay đổi.
- Vision multimodal: hỗ trợ đầu vào ảnh qua mmproj.
- MoE kiến trúc: 128 experts, 8 active per token, context 256K.
- Tương thích rộng rãi: hoạt động với llama.cpp, LM Studio, Jan, koboldcpp.
- Sampling tinh chỉnh: temperature 0.6, top_k 64, top_p 0.9, min_p 0.05, repeat_penalty 1.1.
- Chỉ Q4_K_M: QAT tối ưu cho 4-bit, các bản quantize cao hơn không cần thiết.
💡 Vì sao đáng chú ý
Không chỉ là việc uncensor — bản phân phối này còn tích hợp MTP để tăng tốc sinh tạo mà không mất chất lượng. Kết hợp với llama.cpp, người dùng có thể chạy mô hình lớn này trên cả GPU đơn lẻ một cách hiệu quả. Đặc biệt phù hợp cho các công việc đòi hỏi reasoning sâu, creative writing, và agentic coding nơi cần cả vision và text.
#Gemma4 #Uncensored #Multimodal #MTP #AgenticCoding #OpenSource #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
LocateAnything: Fast and High-Quality Vision-Language Grounding with Parallel Box Decoding 🔗 Quick Links 🚀 Online Demo: LocateAnything (Hugging Face Spaces)(https://huggingface.co/spaces/nvidia/LocateAnything) 💻 GitHub Code: NVlabs/Eagle/Embodied...
ZDTaichu5.0-9B Project Page(https://taichu-ai.github.io/ZDTaichu5.0-9B/) | GitHub(https://github.com/Taichu-AI/ZDTaichu5.0-9B) | ModelScope(https://www.modelscope.cn/models/TaichuAI/ZDTaichu5.0-9B) ZDTaichu5.0-9B is a multimodal foundation model for...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...