mradermacher/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-i1-GGUF
About weighted/imatrix quants of https://huggingface.co/huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated For a convenient overview and download list, visit our model page for this model(https://hf.tst.eu/modelHuihui-Qwen3.6-35B-A3B-Claud...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Bản GGUF tối ưu của Qwen3.6 35B MoE — abliterated & uncensored
Bản quant weighted/imatrix từ mô hình Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated, hỗ trợ nhiều cấp độ nén từ IQ1_S đến IQ4, phù hợp chạy local trên phần cứng consumer.
Đây là bản quant GGUF do người dùng mradermacher tạo ra từ mô hình gốc huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated — một phiên bản Qwen3.6 kiến trúc Mixture-of-Experts (MoE) với 35B tham số và 3B active, đã qua xử lý "abliterated" để giảm thiểu hành vi bị kiểm duyệt, phục vụ mục đích nghiên cứu và ứng dụng mở.
✨ Điểm nổi bật
- Quant GGUF weighted/imatrix: sử dụng phương pháp trọng số và imatrix để duy trở năng lượng, chất lượng tốt hơn so với quant thông thường.
- Nhiều lựa chọn cấp độ nén: từ IQ1_S (7.6GB) đến IQ4 (20GB+), đáp ứng nhu cầu chạy trên laptop đến workstation.
- Tương thích llama.cpp & transformers: dùng với các backend phổ biến hỗ trợ GGUF, dễ tích hợp và triển khai.
- Mô hình abliterated: đã xử lý để giảm filtered behavior, phù hợp nghiên cứu hành vi mở của mô hình lớn.
- Hỗ trợ suy luận chuỗi tư duy (CoT): được huấn luyện với kỹ thuật distillation và chain-of-thought, tốt cho bài toán reasoning.
- Phiên bản MoE (Mixture-of-Experts): kiến trúc Qwen3.6 tối ưu hiệu năng với số lượng tham số hoạt động thấp hơn.
- License Apache-2.0: cho phép sử dụng thương mại và sửa đổi tùy ý.
💡 Vì sao đáng chú ý
Không phải mỗi bản quant GGUF nào cũng giữ được chất lượng — nhưng bản weighted/imatrix của mradermacher được thiết kế đặc biệt để tối ưu trọng số các tensor, giúp giảm mất mát khi nén. Điều này đặc biệt quan trọng với mô hình MoE như Qwen3.6, nơi mỗi expert cần được bảo toàn chính xác.
Đây là lựa chọn lý tưởng cho người dùng muốn chạy Qwen3.6 35B phiên bản uncensored trên máy cá nhân mà không cần phụ thuộc vào API đám mây.
#GGUF #Qwen3.6 #MixtureOfExperts #Abliterated #Uncensored #llamacpp #TiniX
Similar Projects
Discover other similar projects and AI models.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...