agentionai/Qwen3.8-Flash-Next-Gyro-abliterated-Huihui-GGUF
Qwen3.8-Flash-Next Gyro, abliterated by huihui-ai — GGUF (experimental) The abliterated Qwen3.8-Flash-Next on a single GPU, in two sizes. Updated 2026-10-13: both files. Same file names, sizes and tensor types, better weights from an improved encode...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Ngày
🧠 Qwen3.8-Flash-Next Gyro (Abliterated) — Phiên bản GGUF thử nghiệm
Bản GGUF thử nghiệm của Qwen3.8-Flash-Next đã qua xử lý abliterated từ huihui-ai, được mã hoá bởi Agention với định dạng rotor riêng.
Đây là mô hình huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated được mã hoá bằng cách giống với bộ tệp Gyro của Agention. Abliteration — công việc của huihui-ai — xóa bỏ hướng từ chối (refusal direction) khỏi trọng số mô hình. Agention chỉ thực hiện quantized.
✨ Điểm nổi bật
- Hai kích thước phù hợp phần cứng: Gyro-S dùng cho thẻ 32 GB, Gyro-M dùng cho 48 GB hoặc máy bộ nhớ thống nhất 64 GB.
- Độ lệch KL thấp: Gyro-S có KLD 0.397, Gyro-M có KLD 0.295 so với mô hình gốc.
- Tốc độ giống Gyro: cùng kiến trúc, kích thước và hiệu năng chạy tốc độ tương đương.
- Chỉ thay đổi 144/1.224 tensor: toàn bộ thay đổi nằm ở các tensor viết vào luồng dư thừa (attention outputs, linear-attention, down projections của experts).
- Định dạng rotor riêng: hậu tố TQ1_0 / TQ2_0 chỉ là phân loại kích thước, không phải định dạng chuẩn.
- Hỗ trợ Docker nhanh: dựng môi trường chạy server chỉ với một lệnh Docker.
- Hỗ trợ vision và speculative decoding: như trên thẻ Gyro, áp dụng không thay đổi.
💡 Vì sao đáng chú ý
Abliteration giúp mô hình tránh được hầu hết các từ chối ban đầu, nhưng đồng thời mở ra khả năng sinh nội dung độc hại. Dự án này kết hợp việc xử lý abliterated từ huihui-ai với công nghệ mã hoá GGUF tối ưu bởi Agention, phù hợp cho môi trường nghiên cứu hoặc phát triển nội bộ.
Lưu ý: mô hình không phù hợp cho người dùng công cộng hoặc sử dụng không giám sát. Người dùng chịu trách nhiệm hoàn toàn về cách sử dụng và tuân thủ pháp luật địa phương.
#Qwen3 #GGUF #Abliterated #AgentionAI #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...