unsloth/gemma-4-26B-A4B-it-GGUF
Read our How to Run Gemma 4 Guide!(https://docs.unsloth.ai/models/gemma-4) See Unsloth Dynamic 2.0 GGUFs for our quantization benchmarks. Jun 9 Update: Added MTP support. See our MTP Guide. Apr 11 Update: Re-download for Google's latest chat templat...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Ngày
🚀 Gemma 4 26B A4B it GGUF — Phiên bản quantized siêu nhẹ từ Unsloth
Phiên bản GGUF được quantized từ Google DeepMind's Gemma 4 26B A4B it, tối ưu để chạy trên GPU consumer và thiết bị đầu cuối.
Đây là bản quantization GGUF của mô hình Gemma 4 26B A4B it do Unsloth phát hành, dựa trên mô hình gốc từ Google DeepMind. Đây là một mô hình đa phương tiện (multimodal) hỗ trợ xử lý cả văn bản và hình ảnh, được tinh chỉnh để chạy hiệu quả trên phần cứng consumer như laptop hay workstation. Mô hình hỗ trợ cửa sổ ngữ cảnh lên đến 256K token và được cập nhật MTP cùng template chat mới nhất từ Google.
✨ Điểm nổi bật
- Gemma 4 26B A4B it: Mô hình instruction-tuned phiên bản MoE (Mixture of Experts), cân bằng giữa hiệu năng và hiệu quả tính toán.
- Định dạng GGUF: Hỗ trợ chạy trên nhiều backend như llama.cpp, phù hợp với môi trường local.
- Hỗ trợ MTP (Multi-Token Prediction): Cập nhật tính năng dự đoán đa token giúp tăng tốc sinh văn bản.
- Template chat cập nhật: Được tinh chỉnh theo chuẩn mới nhất từ Google DeepMind.
- Tương thích Hugging Face: Hỗ trợ tải về và sử dụng trực tiếp qua Hugging Face Hub.
- Bản quyền Apache 2.0: Miễn phí sử dụng cho cả mục đích thương mại và nghiên cứu.
- Quy mô 256K token: Cửa sổ ngữ cảnh mở rộng hỗ trợ xử lý tài liệu dài.
💡 Vì sao đáng chú ý
So với các bản phát hành trước, bản GGUF này mang lại khả năng tiếp cận mô hình Gemma 4 26B A4B it mà không cần phụ thuộc vào phần cứng đắt đỏ như GPU enterprise. Sự kết hợp giữa quantization từ Unsloth và kiến trúc MoE giúp người dùng dễ dàng triển khai ứng dụng AI đa phương tiện trên thiết bị cá nhân. Đặc biệt phù hợp cho các nhà phát triển muốn khám phá tiềm năng của mô hình đa phương tiện mà không cần đầu tư hạ tầng lớn.
#Gemma4 #Unsloth #GGUF #Multimodal #TiniX
Similar Projects
Discover other similar projects and AI models.
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Read our How to Run Qwen3.8-27B Guide!(https://unsloth.ai/docs/models/qwen3.8) This GGUF uses Unsloth Dynamic V3.0 (preview) for SOTA quantization performance. Developer Role Support so Qwen3.8 can work in agentic tools like Codex and more! MTP for...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...