Winnougan/Comfy-Qwen3-VL-INT8
Qwen3-VL Text Encoders — INT8 INT8 quantized versions of the Qwen3-VL text encoders, for use in ComfyUI workflows (Boogu, Ideogram 4, and others that use Qwen3-VL as a text encoder). Files | File | Source | ConvRot Group Size | Notes | |---|---|---|...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#4 Repository Của Tháng
#4 Repository Của Tháng
#4 Repository Của Tháng
🚀 Mã hóa văn bản Qwen3-VL bản định dạng INT8 siêu nhẹ
Bản mã hóa văn bản Qwen3-VL được tối gọn bằng INT8, tối ưu cho workflow ComfyUI như Boogu và Ideogram 4.
Đây là phiên bản mã hóa văn bản của Qwen3-VL được quantize xuống INT8, giúp giảm kích thước mô hình đáng kể mà vẫn duy trì chất lượng cao. Dự án do Winnougan phát hành, sử dụng công cụ quantize từ silveroxides/convert_to_quant.
✨ Điểm nổi bật
- Quantize INT8: Tối gọn mô hình xuống INT8, giảm bộ nhớ và tăng tốc suy diễn.
- Hỗ trợ ConvRot: Một số bản dùng ConvRot group size 256, tối ưu chất lượng.
- Từ nguồn BF16 thực sự: Tránh lỗi dịch màu khi quantize từ FP8 → INT8.
- Tương thích ComfyUI: Dùng trực tiếp với nút Load CLIP trong ComfyUI.
- Hai phiên bản 4B và 8B: Lựa chọn linh hoạt theo nhu cầu.
- Mở nguồn Apache 2.0: Tự do sử dụng và điều chỉnh.
💡 Vì sao đáng chú ý
Phiên bản này khác biệt ở chất lượng quantize cao và khả năng tương thích tốt với các mô hình diffusion như Boogu Turbo hay Ideogram 4. Nhờ được quantize từ trọng số nguồn BF16 thực sự, tránh được hiện tượng lỗi màu sắc khi dùng trên các mô hình distill ít bước.
#Qwen3VL #INT8 #ComfyUI #Quantization #TextEncoder #TiniX
Similar Projects
Discover other similar projects and AI models.
qwen3vl32bminimaxh3int8convrotuncensored-by-linjian257 中文 | English(english) 模型简介 这是一个供 MiniMax-H3 ComfyUI 工作流使用的 Qwen3-VL-32B INT8 TensorWise + ConvRot 社区修改版文本编码器。该版本由 linjian257 从修改后的 BF16 权重量化得到，重点是在保持 ComfyUI 工作流兼容性的同时明显降低权重文件体积。 本文件只是 MiniMax-H...
Qwen3-VL-4B-Instruct Heretic (ComfyUI) 💬 Community: Join the Abliterlitics Discord(https://discord.gg/AqmDnBjPvM) for discussion, model releases and support. ComfyUI checkpoints of the Heretic abliteration(https://huggingface.co/DreamFast/Qwen3-VL-...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3-VL-4B Heretic — Dynamic ConvRot INT8 for ComfyUI Krea 2 This repository contains a true dynamic-ConvRot INT8 conversion of DreamFast/Qwen3-VL-4b-Heretic(https://huggingface.co/DreamFast/Qwen3-VL-4b-Heretic), packaged as a single-file ComfyUI t...
Qwen3-VL-32B Ultra Uncensored Heretic — H3 ComfyUI BF16 + INT8 ConvRot This repository contains three ComfyUI safetensors files built from llmfan46/Qwen3-VL-32B-Instruct-ultra-uncensored-heretic(https://huggingface.co/llmfan46/Qwen3-VL-32B-Instruct-...
Qwen3-VL-32B Ultra Uncensored Heretic — MiniMax-H3 ComfyUI INT8 ConvRot This repository contains two ComfyUI safetensors files built from llmfan46/Qwen3-VL-32B-Instruct-ultra-uncensored-heretic(https://huggingface.co/llmfan46/Qwen3-VL-32B-Instruct-u...
Gemma 3 12B IT - Heretic v2 (Abliterated) An abliterated version of Google's Gemma 3 12B IT(https://huggingface.co/google/gemma-3-12b-it) created using Heretic(https://github.com/p-e-w/heretic) v1.2.0. This model has reduced refusals while maintaini...
Qwen3 8B - Heretic (Abliterated) An abliterated version of Qwen's Qwen3-8B(https://huggingface.co/Qwen/Qwen3-8B) created using Heretic(https://github.com/p-e-w/heretic) v1.2.0 (git master). This model has reduced refusals while maintaining model qua...
Qwen 3 4B - Heretic (Abliterated) An abliterated version of Qwen 3 4B(https://huggingface.co/Qwen/Qwen3-4B) created using Heretic(https://github.com/p-e-w/heretic) v1.2.0. This model has reduced refusals while maintaining model quality, making it su...