ymcui/Chinese-LLaMA-Alpaca

🇨🇳 Chinese-LLaMA-Alpaca: LLM tiếng Trung mạnh mẽ từ LLaMA & Alpaca

Dự án mở rộng LLaMA bằng tiếng Trung, kèm Alpaca hướng lệnh, triển khai local CPU/GPU.

Chinese-LLaMA-Alpaca là dự án nghiên cứu mã nguồn mở do Yang Cui và đồng nghiệp phát triển, xây dựng trên nền tảng LLaMA của Meta. Dự án mở rộng từ vựng tiếng Trung, huấn luyện lại bằng dữ liệu ngữ cảnh, đồng thời tinh chỉnh Alpaca bằng dữ liệu lệnh tiếng Trung để cải thiện hiểu và thực thi tự nhiên.

✨ Điểm nổi bật

• Mở rộng từ vựng tiếng Trung: Tăng cường hiệu quả mã hóa/giải mã tiếng Trung trên LLaMA gốc.
• Mô hình đã được huấn luyện: Bao gồm Chinese-LLaMA (base) và Chinese-Alpaca (instruction-tuned).
• Kịch bản huấn luyện & tinh chỉnh: Cung cấp mã nguồn để người dùng tự triển trình bày mô hình.
• Triển khai local: Hỗ trợ triển khai mô hình trên CPU/GPU cá nhân thông qua công cụ lượt tượng.
• Tích hợp sinh thái rộng: Hỗ trợ Hugging Face Transformers, llama.cpp, text-generation-webui, LangChain, privateGPT, v.v.
• Đa phiên bản mô hình: Cung cấp mô hình 7B, 13B, 33B với các phiên bản Base / Plus / Pro.

💡 Vì sao đáng chú ý

Khác với mô hình LLaMA gốc chỉ hỗ trợ tiếng Anh, Chinese-LLaMA-Alpaca chuyên tối ưu ngôn ngữ tiếng Trung, phù hợp cho các ứng dụng NLP đa ngôn ngữ hoặc tiếng Trung. Nhờ kết hợp LoRA nhẹ và công cụ lượt tượng, người dùng có thể dễ dàng triển khai trên máy tính cá nhân mà không cần phần cứng mạnh.

#LLM #ChineseLLaMA #Alpaca #OpenSource #TiniX