EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1
EVA LLaMA 3.33 70B v0.1 A RP/storywriting specialist model, full-parameter finetune of Llama-3.3-70B-Instruct on mixture of synthetic and natural data. It uses Celeste 70B 0.1 data mixture, greatly expanding it to improve versatility, creativity and...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🧠 EVA-LLaMA-3.33-70B-v0.1: Mô hình chuyên gia Roleplay & Viết Truyện từ Llama-3.3
Mô hình LLM chuyên về roleplay và storytelling, được huấn luyện đầy đủ tham số từ Llama-3.3-70B-Instruct với bộ dữ liệu đa dạng và phong phú.
EVA-LLaMA-3.33-70B-v0.1 là một mô hình ngôn ngữ lớn được xây dựng bởi nhóm EVA-UNIT-01 (gồm Kearm, Auri và Cahvay), dựa trên nền tảng Llama của Meta. Đây là bản cập nhật v0.1 với sự kết hợp tuyến tính DELLA giữa phiên bản v0.0 và một checkpoint chưa công bố từ vòng huấn luyện khác, nhằm giảm overfitting, cải thiện hiểu thấu ngữ cảnh dài và giảm lặp đi lặp lại.
✨ Điểm nổi bật
- Full-parameter finetune: Tinh chỉnh toàn bộ tham số từ Llama-3.3-70B-Instruct
- DELLA linear merge: Kỹ thuật hợp nhất mô hình thông minh giúp ổn định và cải thiện hiệu suất
- Dữ liệu đa dạng: Sử dụng Celeste 70B 0.1 data mixture mở rộng với nhiều nguồn khác nhau
- Tập trung RP/storytelling: Tối ưu cho trải nghiệm roleplay và viết truyện sáng tạo
- Cấu hình hợp lệ: Hỗ trợ cấu hình YAML chi tiết với các tham số tùy chỉnh
- Giấy phép linh hoạt: Cho phép sử dụng cá nhân, nghiên cứu và thương mại theo L3.3 license
💡 Vì sao đáng chú ý
Khác biệt từ các mô hình chung chung, EVA-LLaMA-3.33-70B-v0.1 được tối ưu riêng cho roleplay và viết truyện nhờ bộ dữ liệu được chọn lọc kỹ lưỡng từ Celeste, Kalomaze, Gryphe, Epiculous và các nguồn khác. Phiên bản v0.1 không chỉ cải thiện độ ổn định và khả năng nhớ bối cảnh dài mà còn giảm đáng kể hiện tượng lặp lại và overfitting nhờ kỹ thuật DELLA merge thông minh.
#AIPhoto #Storytelling #RoleplayAI #LLM #TiniX
Similar Projects
Discover other similar projects and AI models.
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Llama 2 Llama 2 is a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. This is the repository for the 7B fine-tuned model, optimized for dialogue use cases and converted for the...