mradermacher/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-i1-GGUF
About weighted/imatrix quants of https://huggingface.co/huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 static quants are available at https://huggingface.co/mradermacher/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-GGUF Usage If you are unsure...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🧠 DeepSeek-R1-Distill-Qwen-14B-abliterated-v2-i1-GGUF — Bản quantized không giới hạn cảnh quy chế
Bộ quant GGUF i1/imatrix từ bản gốc abliterated, chạy local mượt từ 3.7GB–12.2GB.
Đây là bản quantized GGUF kiểu i1/imatrix của mô hình huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 — nghĩa là mô hình đã được xử lý kỹ thuật abliterated (loại bỏ các lớp giới hạn nội dung). Tác giả là mradermacher, phân phối qua Hugging Face.
✨ Điểm nổi bật
- Abliterated: mô hình đã được gỡ bỏ cảnh quy chế nội dung, không còn giới hạn câu hỏi nhạy cảm.
- Quantized GGUF i1/imatrix: tối ưu bởi imatrix, giữ chất lượng tốt ở kích thước nhỏ.
- Nhiều cấp độ quant: từ IQ1_S (3.7GB) cho thiết bị yếu đến Q6_K (12.2GB) gần bằng bản gốc.
- Run local: không cần kết nối internet, phù hợp dùng offline trên GPU/CPU.
- Hỗ trợ conversational: tối ưu cho chatbot, hội thoại đa lượt.
- Endppoints compatible: dễ tích hợp vào các nền tảng inference.
💡 Vì sao đáng chú ý
Không phải mô hình nào cũng hỗ trợ giới tam tiếp cận nội dung nhạy cảm — nhưng bản quantized này đã được xử lý để bỏ cảnh quy chế hoàn toàn, đồng thời được tối ưu bởi kỹ thuật imatrix giúp giảm dung lượng mà vẫn giữ độ chính xác cao. Phù hợp cho nghiên cứu, phát triển công cụ không giới hạn, hoặc môi trường offline cần kiểm soát hoàn toàn.
#DeepSeek #GGUF #Abliterated #Uncensored #Quantized #LocalAI #TiniX
Similar Projects
Discover other similar projects and AI models.
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Read our How to Run Qwen3.8-27B Guide!(https://unsloth.ai/docs/models/qwen3.8) This GGUF uses Unsloth Dynamic V3.0 (preview) for SOTA quantization performance. Developer Role Support so Qwen3.8 can work in agentic tools like Codex and more! MTP for...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators ELECTRA is a new method for self-supervised language representation learning. It can be used to pre-train transformer networks using relatively little compute. ELECTRA mode...