DavidAU/GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF
GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF Specialized and Enhanced UNCENSORED/HERETIC GGUF quants for the new GLM-4.7-Flash, 30B-A3B MOE, mixture of experts model. https://huggingface.co/zai-org/GLM-4.7-Flash This model can be run on...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🚀 GLM-4.7-Flash Uncensored Heretic – Bản GGUF siêu nặng về reasoning & creative writing
Bản quant GGUF được tinh chỉnh đặc biệt cho GLM-4.7-Flash 30B-A3B MoE, kết hợp uncensored, heretic và NEO Imatrix để tối đa hóa chất lượng reasoning và sáng tạo.
Đây là bản quant GGUF chuyên biệt dành cho mô hình GLM-4.7-Flash phiên bản uncensored/heretic từ nhà phát triển DavidAU. Mô hình gốc là kiến trúc Mixture-of-Experts (MoE) với 30B tham số và 3B tham số hoạt động tại mỗi thời điểm (4 experts kích hoạt), cho phép chạy trên GPU hoặc CPU. Bản quant này được tối ưu để hỗ trợ sinh reasoning sâu, creative writing, roleplaying và các thể loại fiction khác nhau.
✨ Điểm nổi bật
- Uncensored/Heretic: Đã được gỡ bỏ các hạn chế cảm xúc và tinh chỉnh lại bởi hệ thống Heretic để giảm kích thước khối thinking và tập trung hơn.
- Dual Imatrix NEO Code: Hai bản Imatrix được tạo độc lập từ bộ dữ liệu NEO và Code của DavidAU, cải thiện hiệu suất tổng thể.
- Output tensor 16-bit: Tất cả các bản quant đều được tăng cường với output tensor độ chính xác đầy đủ 16-bit, ảnh hưởng đến 10–20% phần đầu ra cuối cùng.
- Quants chuyên biệt: Bao gồm các bản quant IQ4_NL, Q5_1, Q4_1, Q8_0 được cân bằng độ chính xác cho từng lớp tensor cụ thể.
- Hỗ trợ context dài: Mô hình hỗ trợ context lên đến 200k token, phù hợp cho sinh nội dung dài và chi tiết.
- Cài đặt đề xuất: Hỗ trợ cấu hình nhiệt độ 1.0, top-p 0.95, max new tokens lên đến 131072, cùng các tùy chọn smoothing factor tùy giao diện.
- Tương thích đa nền tảng: Hỗ trợ chạy trên KoboldCpp, oobabooga/text-generation-webui và Silly Tavern.
💡 Vì sao đáng chú ý
Không chỉ là bản quant đơn thuần, dự án này kết hợp nhiều kỹ thuật tối ưu như dual Imatrix, output tensor 16-bit và các bản quant chuyên biệt để khắc phục các hạn chế về độ chính xác trong quá trình quant hóa. Điều này đặc biệt quan trọng đối với mô hình MoE như GLM-4.7-Flash, nơi mỗi expert cần được bảo toàn tốt nhất sau khi quant. Thêm vào đó, việc hỗ trợ uncensored và heretic mở rộng khả năng sáng tạo của mô hình trong các thể loại nhạy cảm hoặc đò nhuống như horror, romance, science fiction.
#GGUF #GLM4.7Flash #Uncensored #Heretic #Reasoning #CreativeWriting #MoE #TiniX
Similar Projects
Discover other similar projects and AI models.
Ultimate NEO GGUF QUANTS: Custom built DUAL Imatrix NEO-CODER quants that exceed all other quants in terms of quality, stability, precision and long convo usage. IQ4XS/NL regularly scores at 94% of full precision (bf16), Q6/Q8 at 97% and 98% of full...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. Light HORROR. Swearing. UNCENSORED... humor, romance, fun. NEW HERETIC L3.2 Versions (ablit, 9.25/100 refusal rates): 24B-A3B(https://huggingface.co/DavidAU/Llama3.2-24B-A3B-II-Dark-Champion-INST...
NEW! Horror Version fine tune available. See below. L3.2-Rogue-Creative-Instruct-Uncensored-Abliterated-7B-GGUF It is a LLama 3.2 model, max context of 131,072 (128k+). This model has been designed to be relatively bullet proof and operates with most...
NEXT LEVEL; Gemma 4 8B : https://huggingface.co/DavidAU/gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking --- WARNING: Uncensored. Cursing, Swearing, Horror, Graphic Details Refreshed, Upgraded and New quants (augmented). Bett...
Ultimate: Exceeds Qwen 3.6 27B performance, uncensored and NEO-Di-Matrix quants to bring all that power in quant form. Q4/IQ4s clock in at 94% of full precision (BF16), with Q6 at just under 98%. Even IQ2M : 83% of BF16. 5 Metrics per quant, plus ben...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. HORROR. Swearing. UNCENSORED... humor, romance, fun. Mistral-MOE-4X7B-Dark-MultiVerse-Uncensored-Enhanced32-24B-GGUF A float 32 high precision M.O.E model, quanted in float 32 with additional upg...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. HORROR. Swearing. UNCENSORED... humor, romance, fun. Llama-3.2-4X3B-MOE-Hell-California-Uncensored-10B-GGUF It is a LLama 3.2 model, max context of 128k (131,000) using mixture of experts to comb...
WARNING "HERETIC" version: Unlocked. UNFILTERED. NSFW. Vivid prose. INTENSE. Visceral Details. Light to R-18 HORROR. Swearing. UNCENSORED... humor, romance, fun... and UNFILTERED TRUTH. Mistral-Nemo-2407-12B-Thinking-Claude-Gemini-GPT5.2-Uncensored-H...
WARNING: NSFW. Vivid prose. Visceral Details. Violence. HORROR. Swearing. UNCENSORED. It will mess with you... MN-DARKEST-UNIVERSE-29B-GGUF - The Unicorn. Darkest Universe is a Mistral Nemo model, max context of 128k. This model has been designed to...