0bserverx/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-GGUF
RVN Qwen3.8-Flash-Next Abliterated Uncensored — GGUF Split GGUF builds of 0bserverx/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored(https://huggingface.co/0bserverx/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored). This repository currently publishes 18...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tháng
#1 Repository Của Tháng
🧠 Bản GGUF đã quant từ RVN-Qwen3.8-Flash-Next Abliterated Uncensored
Bản build GGUF từ mô hình RVN-Qwen3.8-Flash-Next đã qua xử lý abliterated và uncensored, hỗ trợ chạy trên llama.cpp.
Đây là kho lưu trữ GGUF đã được chia thành nhiều shard từ mô hình 0bserverx/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored. Tổng cộng có 18 nhóm quant được xác minh, chia thành 144 shard GGUF. Năm nhóm IQ sử dụng ma trận importance-calibrated V6, phần còn lại là các bản quant cốt lõi tiêu chuẩn.
✨ Điểm nổi bật
- 18 nhóm quant: Bao gồm Q2_K, IQ3_XS, Q3_K_S, IQ3_S, IQ3_M, Q3_K_M, Q3_K_L, IQ4_XS, Q4_0, IQ4_NL, Q4_1, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_1, Q5_K_M, Q6_K.
- Chia shard: Mỗi nhóm quant chứa 8 shard, giúp tránh giới hạn dung lượng tệp tin trên Hugging Face.
- Ma trận importance V6: 5 nhóm IQ (IQ3_XS, IQ3_S, IQ3_M, IQ4_XS, IQ4_NL) sử dụng ma trận importance V6 để cải thiện độ chính xác.
- Tích hợp Flash-Next: Dựa trên kiến trúc Qwen3.8 Flash-Next, tối ưu cho tác vụ sinh văn bản.
- Hỗ trợ llama.cpp: Yêu cầu bản llama.cpp hỗ trợ qwen4exp.
- Benchmark Q6_K: Đối chiếu hiệu suất với bản gốc thông qua benchmark Q6_K.
- Đánh giá downstream: Kiểm tra trên IFEval, GSM8K, BBH để đảm bảo không giảm hằng số.
- Bản ghi F16 V6: Tất cả shard đều được tạo từ checkpoint F16 V6 đã được xác minh.
💡 Vì sao đáng chú ý
Dự án cung cấp bản build GGUF tối ưu từ mô hình RVN-Qwen3.8-Flash-Next, kết hợp kỹ thuật abliterated và uncensored để cải thiện hiệu suất và tính linh hoạt. Việc hỗ trợ 18 nhóm quant khác nhau đáp ứng nhu cầu chạy trên nhiều cấu hình phần cứng khác nhau, từ thiết bị cá nhân đến môi trường đám mây.
Kết quả benchmark cho thấy mô hình RVN V6 đạt tốc độ xử lý nhanh hơn 6.31% so với bản gốc trên GPU RTX PRO 6000, đồng thời duy trì độ chính xác trên các tác vụ đánh giá downstream như IFEval và BBH.
#GGUF #llama.cpp #Qwen3.8 #MixtureOfExperts #Abliterated #Uncensored #TiniX
Similar Projects
Discover other similar projects and AI models.
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Qwen3.8-Flash-Next-Uncensored-GGUF GGUF quants (2-bit → 16-bit) of the abliterated (refusal-removed) Qwen3.8-Flash-Next — for llama.cpp One Gateway. Every Model. — Route Smarter · Ship Safer · Spend Less. Website &midd...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...