lmstudio-community/GLM-4.6V-Flash-MLX-6bit
💫 Community Model GLM-4.6V-Flash by zai-org 👾 LM Studio(https://lmstudio.ai) Community models highlights program. Highlighting new & noteworthy models by the community. Join the conversation on Discord(https://discord.gg/aPQfnNkxGC). Model creator...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 GLM-4.6V-Flash-MLX-6bit: Phiên bản siêu nhẹ cho Apple Silicon
Mô hình đa hình ảnh GLM-4.6V-Flash được tối ưu định dạng 6-bit MLX, chạy hiệu quả trên chip Apple Silicon.
Đây là phiên bản cộng đồng do LM Studio hỗ trợ, dựa trên mô hình gốc GLM-4.6V-Flash của zai-org, được tối ưu hóa bằng kỹ thuật lượng tử hóa 6-bit sử dụng MLX và công cụ mlx_vlm.
✨ Điểm nổi bật
- 6-bit quantization: Giảm kích thước mô hình đáng kể, tiết kiệm bộ nhớ.
- Tối ưu Apple Silicon: Chạy hiệu quả trên chip M-series của Apple nhờ MLX.
- Hỗ trợ đa ngôn ngữ: Bao gồm tiếng Trung và tiếng Anh.
- Tương thích Transformers: Dễ dàng tích hợp vào hệ sinh thái Hugging Face.
- Miễn phí và mã nguồn mở: Giấy phép MIT cho phép sử dụng và phát phối tự do.
- Cộng đồng LM Studio: Phần của chương trình mô hình cộng đồng.
💡 Vì sao đáng chú ý
Phiên bản này mang lại khả năng chạy mô hình đa hình ảnh mạnh mẽ trực tiếp trên thiết bị cá nhân tích hợp sẵn, giảm phụ thuộc vào dịch vụ đám mây. Sự kết hợp giữa lượng tử hóa 6-bit và MLX mở ra khả năng triển khai AI hình ảnh trên các thiết bị di động hoặc máy tính cá nhân một cách hiệu quả.
#MLX #GLM46V #AppleSilicon #6bitQuantization #HuggingFace #TiniX
Similar Projects
Discover other similar projects and AI models.
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression Technical Report 👁️ Introduction We introduce DeepSeek-V4.1-Flash, a multimodal Mixture-of-Experts (MoE) model with 552B backbone parameters and support for contexts of up to one milli...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...