orcarouter/Qwen3.8-27B-Uncensored-FP8
Qwen3.8-27B-Uncensored-FP8 An abliterated (refusal-removed) & offline block-FP8 build of Qwen's Qwen3.8-27B One Gateway. Every Model. — Route Smarter · Ship Safer · Spend Less. Website · Model Catalog · Model Card · GitHub · Discord · X --- An a...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Ngày
#2 Repository Của Tháng
#4 Repository Của Tháng
🔬 Qwen3.8-27B Uncensored FP8 — Phiên bản đã bỏ công tắc an toàn, tối ưu FP8
Một bản dựng abliterated (đã xóa cơ chế từ chối) và khóa hóa FP8 ngoại tuyến của mô hình Qwen3.8-27B gốc — dành riêng cho nghiên cứu an toàn AI.
Qwen3.8-27B-Uncensored-FP8 là phiên bản được chỉnh sửa từ Qwen/Qwen3.8-27B — một mô hình ngôn ngữ + thị giác đa năng với 27 tỷ tham số, công nghệ attention lai (Gated DeltaNet + full attention), hỗ trợ gọi công cụ, suy luận và đầu MTP dự đoán phỏng đoán. Bản dựng này đã gỡ bỏ hoàn toàn hướng từ chối an toàn, sau đó áp dụng lại mã hoá FP8 khối lượng giống hệt phiên bản chính thức Qwen3.8-27B-FP8, đảm bảo tương thích trực tiếp với vLLM.
✨ Điểm nổi bật
- Abliteration: Xóa hướng từ chối an toàn bằng phương pháp của Arditi et al. (2024), áp dụng cho 131 ma trận liên quan.
- Khóa lượượng FP8 ngoại tuyến: Áp dụng mã hoá khối FP8 (E4M3) với kích thước khối trọng số [128,128].
- Kiến trúc lai thông minh: Kết hợp Gated DeltaNet (48 lớp attention tuyến tính) và full attention (16 lớp), tối ưu tốc độ và độ chính xác.
- Hỗ trợ đa nền tảng: Tương thích ngay với vLLM, phát triển nhanh trong môi trường serverless.
- Bảo toàn đầy đủ tính năng: Bao gồm cả cột truyền thị giác (vision tower) và đầu MTP hỗ trợ dự đoán phỏng đoán.
- Bối cảnh siêu dài: Hỗ trợ tới 262.144 token, phù hợp cho tài liệu lớn và dữ liệu đa dạng.
- Định dạng an toàn: Lưu trữ dưới dạng safetensors, chia nhỏ thành 7 phần, mỗi phần nhỏ hơn 5GB.
💡 Vì sao đáng chú ý
Đây không chỉ là một mô hình AI mạnh mẽ mà còn là công cụ nghiên cứu quan trọng giúp các nhà khoa học hiểu sâu hơn về cơ chế từ chối trong mô hình ngôn ngữ lớn. Việc kết hợp giữa ablation và mã hoá FP8 giúp giảm đáng kể dung lượng bộ nhớ đồng thời duy trì hiệu suất suy luận cao.
Tuy nhiên, do đã được gỡ bỏ mọi cơ chế an toàn, mô hình này chỉ nên được sử dụng trong môi trường nghiên cứu kiểm soát, như đánh giá độ bền, kiểm thử đỏ (red-teaming), hoặc nghiên cứu khả năng giải thích AI. Người dùng cần tự chịu trách nhiệm hoàn toàn về cách sử dụng và kết quả đầu ra.
#LicensedUnderApache2 #AIResearch #Abliterated #FP8 #Qwen3.8 #RedTeam #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Qwen3.8-27B-Uncensored-GGUF GGUF quants (2-bit → 16-bit) of the abliterated (refusal-removed) Qwen3.8-27B — for llama.cpp One Gateway. Every Model. — Route Smarter · Ship Safer · Spend Less. Website · Model Catalog · Model Card · GitHub · Discord ·...
Qwen3.8-27B-Uncensored-MLX An abliterated (refusal-removed) MLX build of Qwen's Qwen3.8-27B — 2 / 4 / 6 / 8-bit for Apple Silicon One Gateway. Every Model. — Route Smarter · Ship Safer · Spend Less. Website · Model Catalog · Model API · GitHub · Dis...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...