arbazsiddiqui/Ozan-v1-12B-GGUF
Ozan-v1-12B A 12B creative-writing model tuned to write long-form fiction that doesn't sound like an LLM. !Ozan, the storyteller(./ozanbanner.png) Ozan means "storyteller / bard" in Turkish. The model is a fine-tune of Mistral-Nemo-Instruct-2407 bui...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
📖 Ozan-v1-12B: Mô hình viết truyện AI 'không tiếng máy'
Một mô hình 12B được tinh chỉnh để viết truyện dài không trông giống AI, với chỉ số slop thấp nhất trong phân khúc cùng cỡ.
Ozan-v1-12B là một mô hình sinh văn học được tinh chỉnh từ Mistral-Nebo-Instruct-2407, với mục tiêu duy nhất: giảm thiểu 'slop' — những câu văn lố bẩn thường thấy ở các mô hình LLM như "barely above a whisper", "a testament to", hay "couldn't help but". Những dấu hiệu này xuất phát chủ yếu từ việc huấn luyện trên dữ liệu đồng cấp GPT, khiến văn bản đọc giống máy hơn là con người.
✨ Điểm nổi bật
- GGUF quants: Hỗ trợ nhiều cấu hình phần cứng khác nhau thông qua định dạng GGUF.
- SFT bằng QLoRA: Huấn luyện trên ~17.000 ví dụ được lọọc để giảm slop, bao gồm văn bản từ Claude-Opus, Gemini-3-Pro và Reddit WritingPrompts.
- DPO chống slop theo Gutenberg: Tinh chỉnh tùy ý với văn bản từ sách tự công bằng để tiếp tục đẩy giảm slop.
- Kết quả đo lường thực tế: Dùng công cụ EQ-Bench Creative Writing v3 để tính slop trực tiếp từ đầu ra.
- Pretraining base: Dự trên Mistral-Nebo-Instruct-2407, một mô hình instruct mạnh.
- So sánh trực tiếp: Đạt mức slop thấp nhất trong số các mô hình 12B được kiểm tra, thậm chí vượa cả một số mô hình 27B.
- Giảm lặp từ: Độ lặp lại (repetition) cũng được giảm đáng kể, tránh các vòng lặp vô nghĩa.
- Đánh giá chất lượng sáng tạo: Được kiểm tra trên thang đánh giá 21 chiều bởi Claude-Sonnet-4.
💡 Vì sao đáng chú ý
Thay vì chỉ tập trung vào độ trôi chảy, Ozan chủ động thiết kế để đánh bại những thói quen viết máy móc. Kết hợp giữa SFT (Supervised Fine-Tuning) và DPO (Direct Preference Optimization), mô hình không chỉ giảm slop mà còn cải thiện rõ rệt về giọng văn, sự dẫn dắt và khả năng tuân thủ hướng dẫn. Đặc biệt đáng chú ý khi xếp hạng cao hơn nhiều mô hình cùng cỡ và thậm chí một số mô hình lớn hơn, đồng thời duy trì mức độ lặp lại thấp nhất trong lĩnh vực.
#LGMistral #CreativeWriting #TextGeneration #Storytelling #TiniX
Similar Projects
Discover other similar projects and AI models.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...