MuXodious/Muse-Glimmer-30B-SOMPOA-heresy
This is a Muse-Glimmer-30B fine-tune, produced through P-E-W's Heretic(https://github.com/p-e-w/heretic) (v1.4.0) abliteration engine with Self-Organizing Maps & Magnitude-Preserving Orthogonal Ablation(https://github.com/p-e-w/heretic/pull/196) enab...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#2 Repository Của Tuần
#2 Repository Của Tuần
#3 Repository Của Tuần
🔥 Muse-Glimmer-30B-SOMPOA-heresy — Bản fine-tune không chuẩn "không kiểm duyệt"
Một bản fine-tune của Muse-Glimmer-30B thông qua Heretic (v1.4.0) với Self-Organizing Maps & Magnitude-Preserving Orthogonal Ablation, hướng tới giảm policy alignment và cho phép sinh tạo không bị chặn lọc.
Đây là bản fine-tune của Muse-Glimmer-30B, được thực hiện bởi MuXodious thông qua công cụ Heretic (phiên bản 1.4.0) kết hợp Self-Organizing Maps và Magnitude-Preserving Orthogonal Ablation. Mục tiêu là giảm sự can thiệp của policy alignment, cho phép mô hình sinh tạo mà không bị ràng buộc bởi các hướng dẫn chính sách.
✨ Điểm nổi bật
- Abliteration engine: Sử dụng Heretic v1.4.0 để thực hiện ablation trên Muse-Glimmer-30B.
- Self-Organizing Maps: Kỹ thuật tổ chức bản thân bản đồ để hỗ trợ quá trình ablation.
- Magnitude-Preserving Orthogonal Ablation: Giữ nguyên độ lớn và góc trựuc giao trong quá trình ablation.
- Jailbreak prompt & chat template: Cung cấp prompt và mẫu chat để giảm policy alignment còn lại.
- Kết quả ablation: Giảm từ 102/104 từ chối ban đầu xuống còn 4/104 sau quá trình ablation.
- Kiểm tra PIQA: Độ chính xác gần bằng mô hình gốc, cho thấy ablation không làm giảm khả năng lý luận.
- License: Apache-2.0, hỗ trợ sử dụng và triển khai tự do.
- Tương thích Transformers: Hỗ trợ tích hợp dễ dàng với thư viện Transformers của Hugging Face.
💡 Vì sao đáng chú ý
Không giống như các bản fine-tune thông thường, Muse-Glimmer-30B-SOMPOA-heresy sử dụng kỹ thuật ablation phức tạp để loại bỏ các lớp policy alignment trong mô hình. Điều này cho phép mô hình sinh tạo nội dung mà không bị kiểm duyệt, đồng thời vẫn duy trì được hiệu suất trên các tác vụ đánh giá như PIQA. Tuy nhiên, mô hình vẫn còn tham chiếu đến policy trong quá trình suy nghĩ và cần thêm công việc để hoàn thiện.
#Ablation #Heretic #Uncensored #ImageTextToText #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...