armand0e/Qwen3.8-27B-Fable-Distill-Heretic-ara-GGUF
This is a decensored version of TeichAI/Qwen3.8-27B-Fable-Distill(https://huggingface.co/TeichAI/Qwen3.8-27B-Fable-Distill), made using Heretic(https://github.com/p-e-w/heretic) v1.2.0 with the Arbitrary-Rank Ablation (ARA)(https://github.com/p-e-w/...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🔧 GGUF decensored: Qwen3.8-27B-Fable-Distill-Heretic-ara
Bản sao decensored của mô hình gốc bằng Heretic v1.2.0 với phương pháp ARA, giảm đáng kể tỷ lệ từ chối hành vi.
Đây là phiên bản decensored của TeichAI/Qwen3.8-27B-Fable-Distill, được tạo bằng Heretic v1.2.0 với phương pháp Arbitrary-Rank Ablation (ARA). Quá trình ablation áp dụng bản cập nhật xếp hạng 2 lên các phép chiếu attn.o_proj, mlp.down_proj của các lớp 30–64, giải nghiệm trong dạng đóng (closed form) thay vì bằng gradient descent.
✨ Điểm nổi bật
- Decensored: Loại bỏ các hạn chế an toàn gốc từ mô hình gốc.
- ARA method: Sử dụng Arbitrary-Rank Ablation để thực hiện sửa đổi mô hình.
- Closed-form solution: Tính toán sửa đổi mà không cần huấn luyện lại bằng gradient descent.
- Rank-2 update: Áp dụng bản cập nhật có xếp hạng 2 lên các lớp 30–64.
- Tương thích llama.cpp: Định dạng GGUF hỗ trợ chạy trên llama.cpp.
- Hỗ trợ multimodal: Pipeline hỗ trợ xử lý đầu vào hình ảnh + văn bản.
💡 Vì sao đáng chú ý
Mô hình giảm số lần từ chối từ 91/100 xuống còn 5/100 trên tập lệnh gây hại, đồng thời duy trì KL divergence thấp (0.1004) so với mô hình gốc. Phương pháp ARA cho phép điều chỉnh mô hình mà không cần huấn luyện lại toàn bộ, phù hợp cho nghiên cứu jailbreak hoặc đánh giá an toàn mô hình.
#Decensored #Heretic #ARA #GGUF #Qwen #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...