unsloth/LFM2.5-VL-3B-GGUF
Try LFM • Docs • LEAP • Discord LFM2.5-VL-3B LFM2.5-VL-3B is a multimodal variant of LFM2.5, a family of hybrid models designed for on-device deployment. It builds on LFM2-VL-3B with further mid- and post-training. LFM2.5-VL-3B can process both text...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#2 Repository Của Tuần
#2 Repository Của Tuần
#4 Repository Của Tuần
🚀 Mô hình đa phương thức LFM2.5-VL-3B phiên bản GGUF cho thiết bị edge
Phiên bản GGUF tối ưu bộ nhớ, chạy trực tiếp trên CPU với hiệu năng cao.
LFM2.5-VL-3B-GGUF là phiên bản đã được quantize của mô hình LFM2.5-VL-3B, một mô hình đa phương thức hybrid do Liquid AI phát triển dành cho triển khai trên thiết bị. Dựa trên LFM2-VL-3B với thêm huấn luyện trung gian và hậu kỳ, mô hình này xử lý cả văn bản và hình ảnh, dùng LFM2.5-2.6B làm backbone và SigLIP2 NaFlex làm bộ mã hoá hình ảnh.
✨ Điểm nổi bật
- Grounding cải tiến: Nhận diện và phát hiện đối tượng tốt hơn với truy vấn ngôn ngữ tự nhiên.
- OCR toàn trang: Hỗ trợ OCR với chú thích bố cục trang.
- Hiệu năng suy diễn cao: 228 tok/s trên Apple M5 Max, 116 tok/s trên AMD Ryzen AI Max+ 395, dưới 3.3GB bộ nhớ.
- Hỗ trợ đa ngôn ngữ: Bao gồm tiếng Anh, Trung, Pháp, Đức, Việt, v.v.
- Xử lý độ phân giải gốc: Dùng SigLIP2 NaFlex, chia ảnh lớn thành các patch 512×512 không chồng lấn.
- Định dạng chat tương tự ChatML: Dễ dàng tích hợp vào ứng dụng.
💡 Vì sao đáng chú ý
So với các mô hình đa phương thức lớn khác, LFM2.5-VL-3B-GGUF nổi bật với khả năng tối ưu cho thiết bị edge, vận hành hiệu quả trên CPU mà không cần GPU. Đây là lựa chọn lý tưởng cho các tác vụ thời gian thực như phát hiện đối tượng trong ô tô tự hành, xử lý tài liệu quét mã OCR, hoặc dịch ngôn ngữ thời gian thực trên thiết bị.
#MultimodalAI #EdgeComputing #LiquidAI #GGUF #TiniX
Similar Projects
Discover other similar projects and AI models.
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
XLM-RoBERTa (base-sized model) XLM-RoBERTa model pre-trained on 2.5TB of filtered CommonCrawl data containing 100 languages. It was introduced in the paper Unsupervised Cross-lingual Representation Learning at Scale(https://arxiv.org/abs/1911.02116)...
Multilingual-E5-large Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 24 layers and the embedding size is...
Multilingual-E5-small Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is...
VoxCPM2 VoxCPM2 is a tokenizer-free, diffusion autoregressive Text-to-Speech model — 2B parameters, 30 languages, 48kHz audio output, trained on over 2 million hours of multilingual speech data. !GitHub(https://img.shields.io/badge/GitHub-VoxCPM-blu...
Whisper Whisper is a pre-trained model for automatic speech recognition (ASR) and speech translation. Trained on 680k hours of labelled data, Whisper models demonstrate a strong ability to generalise to many datasets and domains without the need for...
sentence-transformers/paraphrase-multilingual-mpnet-base-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 768 dimensional dense vector space and can be used for tasks like clustering or semantic se...