hiyouga/LlamaFactory

🛠️ LlamaFactory: Công cụ fine-tune 100+ mô hình ngôn ngữ lớn chỉ với vài câu lệnh

Fine-tune 100+ LLM/VLM với zero-code: CLI nhanh hoặc giao diện Web trực quan.

LlamaFactory là một nền tảng mã nguồn mở (Python) giúp người dùng dễ dàng thực hiện việc fine-tune hơn 100 mô hình ngôn ngữ lớn (LLMs) và mô hình đa phương thức (VLMs) như LLaMA, LLaVA, Mistral, Mixtral-MoE, Qwen3, DeepSeek, Gemma, GLM, Phi... Dựa trên thư viện Transformers và PEFT của Hugging Face, LlamaFactory tích hợp đầy đủ các phương pháp huấn luyện như pre-training, supervised fine-tuning (SFT), reward modeling, PPO, DPO, KTO, ORPO, đồng thời hỗ trợ các kỹ thuật tiết kiệm tài nguyên như LoRA, QLoRA (2/3/4/5/6/8-bit) và các thuật toán tiên tiến như GaLore, BAdam, APOLLO.

✨ Điểm nổi bật

• Hỗ trợ 100+ mô hình: Bao gồm LLaMA, LLaVA, Mistral, Mixtral-MoE, Qwen3, Qwen3-VL, DeepSeek, Gemma, GLM, Phi và nhiều mô hình khác.
• Đa dạng phương pháp huấn luyện: Pre-training, (multimodal) SFT, reward modeling, PPO, DPO, KTO, ORPO...
• Tối ưu tài nguyên: Hỗ trợ full-tuning 16-bit, freeze-tuning, LoRA và QLoRA với AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ.
• Thuật toán nâng cao: Tích hợp GaLore, BAdam, APOLLO để cải thiện hiệu suất huấn luyện.
• Zero-code: Sử dụng qua CLI hoặc giao diện Web GUI (LLaMA Board - powered by Gradio).
• Triển khai linh hoạt: Hỗ trợ Docker, triển khai API theo phong cách OpenAI, tích hợp với vLLM, tải mô hình từ ModelScope/Modelers Hub.
• Theo dõi thích ứng: Hỗ trợ W&B Logger, SwanLab Logger để ghi nhận quá trình huấn luyện.

💡 Vì sao đáng chú ý

Khác với các công cụ fine-tune đòi hỏi viết code phức tạp, LlamaFactory cung cấp một nền tảng thống nhất, dễ sử dụng với giao diện dòng lệnh và giao diện web trực quan (LLaMA Board), giúp người dùng không cần kỹ năng lập trình sâu vẫn có thể thực hiện toàn bộ quy trình fine-tune. Đặc biệt, sự hỗ trợ mạnh mẽ cho QLoRA và các phương pháp tối ưu bộ nhớ giúp giảm đáng kể nhu cầu phần cứu cho các mô hình lớn, phù hợp cho cả môi trường cá nhân lẫn doanh nghiệp. Dự án đã được áp dụng thành công tại các tổ chức như Amazon, NVIDIA và Aliyun.

#FineTuning #LLM #MachineLearning #OpenSource #AI #TiniX