mistralai/Mistral-Small-24B-Instruct-2501
Model Card for Mistral-Small-24B-Instruct-2501 Mistral Small 3 ( 2501 ) sets a new benchmark in the "small" Large Language Models category below 70B, boasting 24B parameters and achieving state-of-the-art capabilities comparable to larger models! Th...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🚀 Mistral Small 3 (24B) — "Nhỏ mà có võ", chuẩn bài tiếng Anh cho các ứng dụng AI local
Mô hình 24B parameters, instruction-fine-tuned từ Mistral-Small-24B-Base-2501, vượt trội so với nhiều mô hình 70B trong bảng xếp hạng.
Mistral Small 3 (2501) là phiên bản instruction-fine-tuned của mô hình cơ sở Mistral-Small-24B-Base-2501, phát triển bởi đội ngũ Mistral AI. Dù là mô hình "nhỏ" dưới 70B, nó đạt khả năng so sánh trực tiếp với các mô hình lớn như Llama 3.3 70B, Qwen 2.5 32B và GPT-4o mini, đồng thời có thể triển khai cục bộ trên một thẻ RTX 4090 hoặc MacBook 32GB khi đã được quantization.
✨ Điểm nổi bật
- Đa ngôn ngữ: Hỗ trợ 12 ngôn ngữ bao gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Bồ Đào Nha, Trung, Nhật, Hàn, Nga, Hà Lan và Ba Lan.
- Tích hợp agent: Hỗ trợ gọi hàm (function calling) và đầu ra JSON một cách tự nhiên.
- Lý luận nâng cao: Đạt hiệu năng hàng đầu trong các nhiệm vụ lý luận và trò chuyện.
- Giấy phép Apache 2.0: Cho phép sử dụng và điều chỉnh cho cả mục đích thương mại và phi thương mại.
- Cửa sổ ngữ cảnh 32k: Phù hợp xử lý văn bản dài.
- Hỗ trợ system prompt mạnh mẽ: Duy trì độ tuân thủ cao với hướng dẫn hệ thống.
- Tokenizer Tekken: Bộ từ vựng lớn 131k từ, tối ưu cho nhiều ngôn ngữ.
- Triển khai local hiệu quả: Sau khi quantization, mô hình vừa đủ để chạy trên phần cứng tiêu chuẩn.
💡 Vì sao đáng chú ý
Không chỉ là một mô hình nhỏ gọn, Mistral Small 3 còn chứng minh rằng kích thước không phải lúc nào cũng quyết định hiệu năng. Với kết quả đánh giá thủ công từ bên thứ ba, mô hình thường được ưu tiên hơn so với cả GPT-4o mini và Llama 3.3 70B trong nhiều trường hợp. Điều này mở ra khả năng sử dụng mạnh mẽ cho các ứng dụng như chatbot phản hồi nhanh, gọi hàm thấp độ trễ, và nghiên cứu chuyên sâu thông qua fine-tuning.
#LLM #MistralAI #OpenSource #AI #TiniX
Similar Projects
Discover other similar projects and AI models.
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
LTX-2.5 — Video, Audio & World Simulation Full control and customization — self-host on your infrastructure. Homepage Docs GitHub Research API Playground Discord LTX License LTX-2.5 — Video, Audio & World Simulation Full control and customiz...
Model Card for Mistral-Nemo-Instruct-2407 The Mistral-Nemo-Instruct-2407 Large Language Model (LLM) is an instruct fine-tuned version of the Mistral-Nemo-Base-2407(https://huggingface.co/mistralai/Mistral-Nemo-Base-2407). Trained jointly by Mistral...
Model Card for Mixtral-8x7B Tokenization with mistral-common py from mistralcommon.tokens.tokenizers.mistral import MistralTokenizer from mistralcommon.protocol.instruct.messages import UserMessage from mistralcommon.protocol.instruct.request import...
Model Card for Mistral-Small-3.1-24B-Instruct-2503 Building upon Mistral Small 3 (2501), Mistral Small 3.1 (2503) adds state-of-the-art vision understanding and enhances long context capabilities up to 128k tokens without compromising text performan...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
XLM-RoBERTa (base-sized model) XLM-RoBERTa model pre-trained on 2.5TB of filtered CommonCrawl data containing 100 languages. It was introduced in the paper Unsupervised Cross-lingual Representation Learning at Scale(https://arxiv.org/abs/1911.02116)...