puwaer/Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored
Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored English(README.md) | 日本語(READMEJP.md) Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored is an uncensored model based on Qwen/Qwen3-Next-80B-A3B-Thinking(https://huggingface.co/Qwen/Qwen3-Next-80B-A3B-Thinking),...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#2 Repository Của Tuần
#2 Repository Của Tuần
🔓 Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored — Phiên bản không rào chặn từ Qwen3 Next
Mô hình không cảnh quan dựa trên Qwen3-Next-80B-A3B-Thinking, được tinh chỉnh bằng SFT + GRPO với LoRA.
Qwen3-Next-80B-A3B-Thinking-GRPO-Uncensored là một mô hình ngôn ngữ lớn không có rào cản cảnh quan (uncensored), được xây dựng dựa trên mô hình gốc Qwen3-Next-80B-A3B-Thinking. Mô hình này được tinh chỉnh bằng hai giai đoạn: Supervised Fine-Tuning (SFT) và GRPO (Reinforcement Learning) sử dụng LoRA, nhằm học được phong cách phản hồi không bị kiểm duyệt nhưng vẫn giữ được khả năng suy luận và trí tuệ chung.
✨ Điểm nổi bật
- Fine-tuning hai giai đoạn: Sử dụng SFT trước, sau đó là GRPO để tối ưu hành vi phản hồi.
- LoRA áp dụng: Giảm chi phí tính toán và bộ nhớ khi tinh chỉnh mô hình lớn.
- Bộ dữ liệu đa dạng: Bao gồm cả dữ liệu tiếng Anh, Trung và Nhật, đặc biệt là các prompt jailbreak đa ngôn ngữ.
- Đánh giá an toàn thấp: Giảm tỷ lệ từ chối (refusal rate) xuống dưới 4–15% trên các bộ chuẩn DNA và Sorry Bench.
- Giữ nguyên khả năng suy luận: Điểm MT-Bench và LM Harness không giảm đáng kể so với mô hình gốc.
- Hỗ trợ định dạng chat: Tương thích với Hugging Face Transformers và hỗ trợ phân tích nội dung suy nghĩ (thinking content).
- Bộ mô tả lỗi (Reward Model): Sử dụng puwaer/Unsafe-Reward-Qwen3-1.7B trong quá trình huấn luyện GRPO.
- Dòng nhật ký huấn luyện minh bạch: Cung cấp thông tin chi tiết về quy trình huấn luyện và đánh giá.
💡 Vì sao đáng chú ý
Không giống như các phương pháp "lobotomy" thường gây suy giảm trí tuệ, mô hình này duy trì điểm số gần bằng mô hình gốc nhờ kết hợp SFT và GRPO một cách có hệ thống. Điều này cho thấy việc tinh chỉnh không nhất thiết phải đồng nghĩa với mất hiệu năng, nếu như có kế hoạch huấn luyện rõ rệt.
Mô hình phù hợp với nghiên cứu an ninh mạng, kiểm định lỗ hổng mô hình, hoặc khám phá ranh giới giữa tự do ngôn luận và an toàn thông tin — nhưng cần dùng thận trọng và tuân thủ pháp luật địa phương.
#Qwen3 #Uncensored #GRPO #SFT #LoRA #TextGeneration #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...