GCSA-AiLab/GLM-5.3-Flash-Uncensored-RCO-GSQ-GGUF
GLM-5.3-Flash-Uncensored · RCO-GSQ GGUF These are complete GGUF models, not standalone LoRA adapters. Do not apply the adapter again. They are intended for controlled safety research and red-teaming. Reducing refusals also weakens a safety boundary;...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🔓 GLM-5.3-Flash dạng GGUF: Giảm từ chối, mở rộng red-teaming
Biến GLM-5.3-Flash thành model GGUF hoàn chỉnh để chạy cục bộ, đồng thời kiểm soát rõ ranh giới an toàn bị suy giảm.
GCSA-AiLab phát hành hai model hoàn chỉnh dựa trên zai-org/GLM-5.3-Flash, đã hợp nhất can thiệp Abliterated2/LoRA v2. Dự án dành cho nghiên cứ an toàn, đánh giá và red-teaming có kiểm soát; việc giảm từ chối không đồng nghĩa với nội dung luôn chính xác hoặc an toàn hơn.
✨ Điểm nổi bật
- Model GGUF hoàn chỉnh: Không phải LoRA độc lập, không cần nạp adapter lần nữa khi suy luận.
- Hai lựa chọn triển khai: Bản
Q8_0độ chính xác cao hơn và bản GSQ-RCO Q4 hỗn hợp cho dung lượng nhỏ hơn. - LoRA v2 đã hợp nhất: Can thiệp có
r=1,lora_alpha=1, tập trung chủ yếu vàodown_projcủa routed expert. - Q4 không đồng nhất kiểu: Từng tensor có thể dùng
Q2_K,Q3_K,Q4_K,Q8_0,BF16hoặcF32; mức trung bình đo được là 3.499816 bit/weight. - Tương thích llama.cpp: Cần bản llama.cpp hỗ trợ GLM5-Next và có thể chạy trực tiếp bằng
llama-cli. - Kết quả tham khảo có giới hạn: Chỉ LoRA gốc được đánh giá trên NVFP4 trong vLLM; hai file GGUF chưa tham gia phép thử.
- Cảnh báo an toàn rõ ràng: Không nên cung cấp cho người dùng không tin cậy khi thiếu kiểm soát truy cập, giám sát, lọc nội dung, giới hạn tần suất và giám sát của con người.
💡 Vì sao đáng chú ý
Dự án đóng gói model đã hợp nhất thành file GGUF dễ triển khai cục bộ, đồng thời cung cấp lựa chọn giữa Q8_0 và phân bổ Q4 hỗn hợp để cân bằng độ chính xác với dung lượng. Chi tiết quan trọng: nhãn Q4 chỉ là lớp dung lượng xấp xỉ bốn bit, không phải toàn bộ tensor đều dùng Q4_K.
Model phù hợp cho nhóm nghiên cứ cần kiểm tra hành vi từ chối, red-teaming hoặc đánh giá an toàn trong môi trường kiểm soát. Không nên suy ra chất lượng tổng quát tốt hơn từ kết quả StrongREJECT: điểm rubric cao hơn phản ánh mức hỗ trợ cụ thể hơn với yêu cầu gây hại, còn hành vi sau chuyển đổi GGUF, requantization và thiết lập runtime vẫn có thể khác.
#GGUF #GLM #RedTeaming #ModelSafety #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...