llmfan46/gemma-4-12B-coder-fable5-composer2.5-v1-uncensored-heretic-GGUF
🚨⚠️ I HAVE REACHED HUGGING FACE'S FREE STORAGE LIMIT ⚠️🚨 I can no longer upload new models unless I can cover the cost of additional storage.I host 70+ free models as an independent contributor and this work is unpaid.Without your support, no more...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
GGUF bản uncensored của Gemma-4-12B-coder với kỹ thuật ablation Heretic
Bản đục xuất GGUF của Gemma-4-12B-coder-fable5-composer2.5-v1, áp dụng kỹ thuật Magnitude-Preserving Orthogonal Ablation để giảm đáng kể tỷ lệ từ chối mà không làm mất chất lượng mô hình.
Đây là bản quantization GGUF của mô hình llmfan46/gemma-4-12B-coder-fable5-composer2.5-v1-uncensored-heretic, được tạo ra từ bản gốc sử dụng công cụ Heretic v1.4.0 với biến thể phương pháp Magnitude-Preserving Orthogonal Ablation (MPOA).
✨ Điểm nổi bật
- Giảm 91% từ chối: Chỉ 9/100 từ chối so với 100/100 của bản gốc.
- Giữ nguyên chất lượng: KL divergence chỉ 0.0467 so với bản gốc.
- Kỹ thuật ablation: Sử dụng MPOA để xóa bỏ hành vi cảm xúc mà không ảnh hưởng đến kiến thức.
- Hỗ trợ GGUF: Định dạng phù hợp cho triển khai trên thiết bị cụ cụ.
- Tích hợp coding: Tối ưu cho bài toán lập trình và reasoning.
- Tham số cấu hình: Các tham số ablation được thiết lập chi tiết trên attn.o_proj và mlp.down_proj.
💡 Vì sao đáng chú ý
Dự án này khác biệt từ các mô hình uncensored khác bằng cách sử dụng kỹ thuật ablation mang tính chuẩn xác cao thông qua MPOA, giữ nguyên được kiến thức và khả năng reasoning của mô hình gốc. Kết quả kiểm tra MMLU cho thấy mô hình duy trễ độ chính xác tốt (75.72%) trên 7021 câu hỏi, đặc biệt xuất sắc ở các chủ đề như marketing (92.66%), management (94%) và high_school_computer_science (90.38%).
#Uncensored #GGUF #Abliteration #Heretic #Gemma4 #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence Technical Report👁️ Introduction We present a preview version of DeepSeek-V4 series, including two strong Mixture-of-Experts (MoE) language models — DeepSeek-V4-Pro with 1.6T p...