unsloth/Qwen2.5-7B-Instruct-unsloth-bnb-4bit
See our collection for versions of Qwen2.5 including 4-bit formats. Unsloth's Dynamic 4-bit Quants is selectively quantized, greatly improving accuracy over standard 4-bit. Finetune LLMs 2-5x faster with 70% less memory via Unsloth! We have a free G...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Qwen2.5-7B-Instruct bản tối ưu 4-bit từ Unsloth
Bản tin hành chính: mô hình Qwen2.5 7B đã được Unsloth tối ưu bằng Dynamic 4-bit Quants, kết hợp với công nghệ fine-tuning nhanh và tiết kiệm bộ nhớ.
Đây là phiên bản Qwen2.5-7B-Instruct được Unsloth tinh chỉnh bằng kỹ thuật Dynamic 4-bit Quants — một phương pháp quantize thông minh giúp cải thiện đáng kể độ chính xác so với các phương pháp 4-bit thông thường. Mô hình hỗ trợ sinh văn bản và trò chuyện đa ngôn ngữ, phù hợp cho việc fine-tuning trên Google Colab miễn phí.
✨ Điểm nổi bật
- Dynamic 4-bit Quants: Quantize thông minh, cải thiện độ chính xác hơn 4-bit truyền thống.
- Fine-tuning nhanh 2-5x: Tận dụng tối ưu của Unsloth để rút ngắn thời gian huấn luyện.
- Tiết kiệm 70% bộ nhớ: Giảm tiêu thụ VRAM đáng kể nhờ kỹ thuật quantize và tối ưu kernel.
- Hỗ trợ 29+ ngôn ngữ: Bao gồm tiếng Việt, Trung, Anh, Pháp, Tây Ban Nha, Bồ Đào Nha, Đức, Ý, Nga, Nhật, Hàn, Thái, Arab...
- Fine-tuning miễn phí trên Colab: Notebook Google Colab với GPU Tesla T4 hỗ trợ ngay từ đầu.
- ** Xuất đa định dạng**: Hỗ trợ xuất ra GGUF, vLLM hoặc tải lên Hugging Face.
- RoPE, SwiGLU, RMSNorm: Kiến trúc hiện đại từ Qwen2.5, tối ưu cho hiệu năng.
- Hỗ trợ ngữ cảnh dài: Lên đến 128K tokens, sinh tới 8K tokens.
💡 Vì sao đáng chú ý
Không chỉ là một mô hình ngôn ngữ lớn, Qwen2.5-7B-Instruct phiên bản này được Unsloth tối ưu để giảm thiểu rào cản phần cứng — giúp cả máy tính cá nhân và môi trường đám mây tiết kiệm chi phí. Kết hợp với notebook Colab miễn phí, người dùng mới có thể bắt đầu fine-tuning chỉ trong vài phút. Phù hợp cho các dự án NLP đa ngôn ngữ, chatbot cá nhân hoá hoặc nghiên cứu AI.
#Qwen25 #Unsloth #AI #MachineLearning #TiniX
Similar Projects
Discover other similar projects and AI models.
Finetune Llama 3.1, Gemma 2, Mistral 2-5x faster with 70% less memory via Unsloth! We have a Qwen 2.5 (all model sizes) free Google Colab Tesla T4 notebook(https://colab.research.google.com/drive/1Kose-ucXO1IBaZq5BvbwWieuubP7hxvQ?usp=sharing). Also...
huihui-ai/Qwen2.5-72B-Instruct-abliterated This is an uncensored version of Qwen/Qwen2.5-72B-Instruct(https://huggingface.co/Qwen/Qwen2.5-72B-Instruct) created with abliteration (see remove-refusals-with-transformers(https://github.com/Sumandora/rem...
!Oxy 1 Small(https://cdn-uploads.huggingface.co/production/uploads/64fb80c8bb362cbf2ff96c7e/tTIVIblPUbTYnlvHQQjXB.png) Introduction Oxy 1 Small is a fine-tuned version of the Qwen/Qwen2.5-14B-Instruct(https://huggingface.co/Qwen/Qwen/Qwen2.5-14B-Inst...
Finetune Llama 3.1, Gemma 2, Mistral 2-5x faster with 70% less memory via Unsloth! We have a Qwen 2.5 (all model sizes) free Google Colab Tesla T4 notebook(https://colab.research.google.com/drive/1Kose-ucXO1IBaZq5BvbwWieuubP7hxvQ?usp=sharing). Also...
Model Card for Aya 101 Model Summary The Aya model is a massively multilingual generative language model that follows instructions in 101 languages. Aya outperforms mT0(https://huggingface.co/bigscience/mt0-xxl) and BLOOMZ(https://huggingface.co/big...
GlotLID !GlotLID(https://img.shields.io/badge/🤗-Open%20In%20Spaces-blue.svg)(https://huggingface.co/spaces/cis-lmu/glotlid-space) Description GlotLID is a Fasttext language identification (LID) model that supports more than 2000 labels. Latest: Glo...
!logo.jpg(logo.jpg) Ivy-VL is a lightweight multimodal model with only 3B parameters. It accepts both image and text inputs to generate text outputs. Thanks to its lightweight design, it can be deployed on edge devices such as AI glasses and smartpho...
huihui-ai/Qwen2.5-32B-Instruct-abliterated This is an uncensored version of Qwen2.5-32B-Instruct(https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) created with abliteration (see this article(https://huggingface.co/blog/mlabonne/abliteration) to know...
Deductive-Reasoning-Qwen-32B !image/png(https://cdn-uploads.huggingface.co/production/uploads/674a1d102c0f27a385772cfe/JauBmEQM0FpOdShBMSfst.png) Deductive Reasoning Qwen 32B is a reinforcement fine-tune of Qwen 2.5 32B Instruct(https://huggingface....