google/gemma-4-12B
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind !Note This model card is for the Gemma 4 12B Unified model, which is part of the Gemma 4 family of open models. Built with the same multimodal functio...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#4 Repository Của Ngày
#4 Repository Của Tháng
#8 Repository Của Ngày
🚀 Gemma 4 12B Unified – Mô hình đa phương thức mạnh mẽ chạy trực tiếp trên thiết bị
Gemma 4 12B Unified mang khả năng hiểu thấu âm thanh và hình ảnh ngay trên môi trường local mà không cần bộ mã hóa riêng.
Gemma 4 12B Unified là một phần trong gia đình mô hình Gemma 4 do Google DeepMind phát triển. Đây là mô hình ngữ nghịch thức (any-to-any), hỗ trợ xử lý đa dạng đầu vào như văn bản, hình ảnh, âm thanh và video, đồng thời sinh ra đầu ra dưới dạng văn bản. Khác với các phiên bản khác sử dụng bộ mã hóa riêng biệt, Gemma 4 12B Unified áp dụng kiến trúc encoder-free, biến tất cả mọi modal phát trực tiếp vào không gian nhúng của một transformer decoder duy nhất, giúp giảm độ trễ và hỗ trợ tinh chỉnh toàn mô hình trong một lần.
✨ Điểm nổi bật
- Kiến trúc Encoder-Free: Loại bỏ hoàn toàn bộ mã hóa riêng, chiếu trực tiếp ảnh và âm thanh vào không gian nhúng của LLM thông qua các lớp tuyến tính nhẹ.
- Hỗ trợ đa modal: Xử lý văn bản, hình ảnh (hỗ trợ tỉ lệ và độ phân giải linh hoạt), âm thanh và video.
- Cửa sổ ngữ cảnh lớn: Hỗ trợ đến 256K token, phù hợp cho xử lý ngữ cảnh dài.
- Tối ưu cho thiết bị cá nhân: Thiết kế nhẹ, phù hợp chạy local trên laptop, điện thoại và workstation.
- Hỗ trợ system prompt: Hỗ trợ vai trò
systemmột cách bản địa, tăng khả năng kiểm soát hội thoại. - Khả năng gọi hàm và agent thông minh: Hỗ trợ gọi hàm tự động và các công cụ agent, lý tưởng cho tự động hóa.
- Đa kiến trúc lựa chọn: Cung cấp phiên bản Dense và Mixture-of-Experts (MoE) để linh hoạt triển khai.
- Bản quyền nguồn mở: Sử dụng giấy phép Apache 2.0, dễ dàng tích hợp và phát triển.
💡 Vì sao đáng chú ý
Gemma 4 12B Unified khác biệt nhờ thiết kế encoder-free giúp toàn bộ modal được xử lý đồng nhất trong một transformer, giảm đáng kể độ phức tạp và công suất tính toán so với cách tiếp cận dùng bộ mã hóa riêng biệt. Điều này mở ra khả năng chạy local hiệu quả trên thiết bị tiêu dùng mà vẫn duy trì hiệu năng mạnh mẽ. Phù hợp cho các ứng dụng AI đa modal trên thiết bị di động, laptop, và các hệ thống edge.
#Gemma4 #MultimodalAI #EncoderFree #OnDeviceAI #OpenSource #TiniX
Similar Projects
Discover other similar projects and AI models.
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind !Note This model card is for the Gemma 4 12B Unified model, which is part of the Gemma 4 family of open models. Built with the same multimodal functio...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...