ivanfromm/MiniMax-H3-Prompt-Rewriter-LoRA-GGUF
!GitHub(https://img.shields.io/badge/GitHub-ComfyUI%20Node-181717?logo=github&logoColor=white&style=for-the-badge)(https://github.com/pytraveler/MiniMax-H3-Prompt-Rewriter-ComfyUI) MiniMax-H3 T2VA Prompt Rewriter LoRA — GGUF A GGUF conversion of ligh...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🧠 LoRA viết lại prompt MiniMax-H3 dạng GGUF — nhẹ hơn, chạy được ngay trên llama.cpp
Bản chuyển đổi GGUF của lightx2v/MiniMax-H3-Prompt-Rewriter-LoRA, cho phép chạy trên llama.cpp thay vì tải bản bf16 gốc 52 GB.
Dự án này là bản chuyển đổi định dạng GGUF của bộ điều chỉnh LoRA từ lightx2v/MiniMax-H3-Prompt-Rewriter-LoRA, áp dụng cho mô hình Qwen3.6-27B phiên bản đã được số hóa (quantized). Thay vì tải toàn bộ trọng số bf16 lên tới 52 GB như bản gốc, bạn chỉ cần khoảng 10–16 GB với các bản quant khác nhau, mà vẫn giữ nguyên hiệu suất viết lại prompt.
✨ Điểm nổi bật
- Chuyển đổi GGUF hoàn toàn: không huấn luyện lại, chỉ thay đổi định dạng, giữ nguyên giá trị tensor.
- Hỗ trợ nhiều cấp độ số hóa: Q4_K_M, IQ4_XS, UD-Q3_K_XL, UD-IQ2_M — lựa chọn linh hoạt theo VRAM.
- Tích hợp với llama.cpp: hỗ trợ CUDA, ROCm, Metal và CPU.
- Tốc độ chạy mẫu: đạt 50 tok/s với adapter, 78 tok/s không có — chứng minh adapter đang hoạt động.
- Hỗ trợ ComfyUI: tự động nhận diện adapter khi dùng GGUF base model.
- Cố định lỗi chuyển đổi Qwen3.5: dùng index thay thế reshape để xử lý reorder V heads trên out_proj.
💡 Vì sao đáng chú ý
Thay vì phải tải một mô hình khổng lồ 52 GB để chạy LoRA prompt rewriter, bản chuyển đổi này giúp người dùng lắp đặt adapter lên phiên bản Qwen3.6-27B đã được số hóa, giảm đáng kể yêu cầu bộ nhớ và thời gian tải. Đặc biệt, bản vá kỹ thuật cho phần chuyển đổi Qwen3.5 giúp tránh lỗi reshape trên trục đầu vào của out_proj, đảm bảo độ chính xác tuyệt đối mà không cần tính toán lại trọng số.
#GGUF #LoRA #llama.cpp #PromptRewriter #MiniMaxH3 #Qwen3 #ComfyUI #TiniX
Similar Projects
Discover other similar projects and AI models.
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
LTX-2.5 — Video, Audio & World Simulation Full control and customization — self-host on your infrastructure. Homepage Docs GitHub Research API Playground Discord LTX License LTX-2.5 — Video, Audio & World Simulation Full control and customiz...
MiniMax H3 System Overview MiniMax H3 is a general-purpose, omni-modal generative system. It supports unified understanding of multimodal contexts composed of text, images, video, and audio, and can generate video with native stereo audio at resolut...
MiniMax-H3 T2VA Prompt Rewriter LoRA !LightX2V(https://img.shields.io/badge/Inference-LightX2V-ff6b35)(https://github.com/ModelTC/LightX2V) !GitHub stars(https://img.shields.io/github/stars/ModelTC/LightX2V?style=social)(https://github.com/ModelTC/L...
!GitHub(https://img.shields.io/badge/GitHub-ComfyUI%20Node-181717?logo=github&logoColor=white&style=for-the-badge)(https://github.com/pytraveler/MiniMax-H3-Prompt-Rewriter-ComfyUI) MiniMax-H3 T2VA Prompt Rewriter LoRA — GGUF A GGUF conversion of ligh...
!FLUX.1 dev Grid(./devgrid.jpg) FLUX.1 dev is a 12 billion parameter rectified flow transformer capable of generating images from text descriptions. For more information, please read our blog post(https://blackforestlabs.ai/announcing-black-forest-la...
利用 AI 大模型和自动化工作流，根据主题或关键词一键生成高清短视频。Generate HD short videos from a topic or keyword with an automated AI workflow.
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
Kokoro is an open-weight TTS model with 82 million parameters. Despite its lightweight architecture, it delivers comparable quality to larger models while being significantly faster and more cost-efficient. With Apache-licensed weights, Kokoro can be...