unsloth/Qwen2.5-14B-Instruct
Finetune Llama 3.1, Gemma 2, Mistral 2-5x faster with 70% less memory via Unsloth! We have a Qwen 2.5 (all model sizes) free Google Colab Tesla T4 notebook(https://colab.research.google.com/drive/1Kose-ucXO1IBaZq5BvbwWieuubP7hxvQ?usp=sharing). Also...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🚀 Qwen2.5-14B-Instruct: Mô hình ngôn ngữ lớn đa ngôn ngữ mạnh mẽ từ Unsloth
Bản tinh chỉnh của Qwen2.5 14B với hiệu suất cao và mức tiêu thụ bộ nhớ tối ưu qua kỹ thuật Unsloth.
Đây là bản tin chỉnh của mô hình Qwen2.5 với 14,7 tỷ tham số, được tinh chỉnh bởi Unsloth để hỗ trợ tạo văn bản và ứng dụng trò chuyện đa ngôn ngữ. Mô hình hỗ trợ hơn 29 ngôn ngữ bao gồm tiếng Việt, được xây dựng trên kiến trúc transformers với RoPE, SwiGLU, RMSNorm, và Attention QKV bias.
✨ Điểm nổi bật
- Hỗ trợ đa ngôn ngữ: Bao gồm tiếng Trung, Anh, Pháp, Tây Ban Nha, Bồ Đào Nha, Đức, Ý, Nga, Nhật, Hàn, Việt, Thái, Arab và hơn 15 ngôn ngữ khác.
- Kiến trúc tiên tiến: Dựa trên transformers với RoPE, SwiGLU, RMSNorm, và Attention QKV bias.
- Độ dài ngữ cảnh dài: Hỗ trợ lên đến 131.072 token văn bản đầu vào và sinh tạo 8.192 token.
- Tối ưu bộ nhớ: Giảm tiêu thụ bộ nhớ lên đến 70% nhờ kỹ thuật Unsloth.
- Tốc độ cao: Tăng tốc độ huấn luyện và suy diễn tới 2–5x so với cách làm thông thường.
- Dễ sử dụng: Tích hợp sẵn trong Hugging Face transformers, hỗ trợ tải xuất sang GGUF, vLLM hoặc tải lên Hugging Face.
- Hỗ trợ trò chuyện: Cung cấp notebook Colab miễn phí với template ShareGPT ChatML / Vicuna.
- Giấy phép nguồn mở: Apache 2.0, cho phép sử dụng và điều chỉnh tùy ý.
💡 Vì sao đáng chú ý
Qwen2.5-14B-Instruct nổi bật nhờ sự kết hợp giữa kiến trúc mô hình hiện đại và tối ưu hóa bộ nhớ từ Unsloth. Không chỉ hỗ trợ đa ngôn ngữ rộng rãi, mô hình còn được thiết kế để xử lý văn bản dài và sinh ra đầu ra có cấu trúc như JSON. Đặc biệt, khả năng giảm 70% bộ nhớ và tăng tốc 2–5x làm cho nó trở thành lựa chọn lý tưởng cho cả nghiên cứu và triển khai thực tế, ngay cả trên phần cứng hạn chế.
#Qwen25 #Unsloth #LLM #HuggingFace #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
!Oxy 1 Small(https://cdn-uploads.huggingface.co/production/uploads/64fb80c8bb362cbf2ff96c7e/tTIVIblPUbTYnlvHQQjXB.png) Introduction Oxy 1 Small is a fine-tuned version of the Qwen/Qwen2.5-14B-Instruct(https://huggingface.co/Qwen/Qwen/Qwen2.5-14B-Inst...
huihui-ai/Qwen2.5-72B-Instruct-abliterated This is an uncensored version of Qwen/Qwen2.5-72B-Instruct(https://huggingface.co/Qwen/Qwen2.5-72B-Instruct) created with abliteration (see remove-refusals-with-transformers(https://github.com/Sumandora/rem...
huihui-ai/Qwen2.5-14B-Instruct-abliterated-v2 This is an uncensored version of Qwen2.5-14B-Instruct(https://huggingface.co/Qwen/Qwen2.5-14B-Instruct) created with abliteration (see this article(https://huggingface.co/blog/mlabonne/abliteration) to k...
Model Card for Goekdeniz-Guelmez/Josiefied-Qwen2.5-14B-Instruct-abliterated-v4 Model Description This was hard! This is a abliterated model, and further finetuned model on a custom dataset for more uncensoredness, but it does give you the 'side eye'...
miscii-14b-1028 Role-based Instructions Just parse the following as your system prompt. Note there is NO special-tokens here. An example system prompt: python systemprompt: str = ( """personas user {userpersona} assistant {assistantpersona}""".forma...
Model Card for Aya 101 Model Summary The Aya model is a massively multilingual generative language model that follows instructions in 101 languages. Aya outperforms mT0(https://huggingface.co/bigscience/mt0-xxl) and BLOOMZ(https://huggingface.co/big...
GlotLID !GlotLID(https://img.shields.io/badge/🤗-Open%20In%20Spaces-blue.svg)(https://huggingface.co/spaces/cis-lmu/glotlid-space) Description GlotLID is a Fasttext language identification (LID) model that supports more than 2000 labels. Latest: Glo...
!logo.jpg(logo.jpg) Ivy-VL is a lightweight multimodal model with only 3B parameters. It accepts both image and text inputs to generate text outputs. Thanks to its lightweight design, it can be deployed on edge devices such as AI glasses and smartpho...
Qwen2.5-14B-Instruct-Uncensored This model is an uncensored fine-tune version of Qwen2.5-14B-Instruct. I trained unalignment dataset over a specific system prompt. To fully enjoy its uncensorship, please change the system prompt to: text You are Mei...