carsenk/llama3.2_1b_2025_uncensored_v2
Llama 3.2 1B Uncensored This model is a fine-tuned version of Meta's Llama 3.2 1B trained by Carsen Klock (1/16/2025), using multiple combined datasets and processed for uncensored responses, including medical reasoning. Training Details - Base Mode...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🦙 Llama 3.2 1B Uncensored — Phiên bản nhẹ nhưng mạnh mẽ
Mô hình fine-tune từ Llama 3.2 1B với 79263 bước huấn luyện, kết hợp 7 dataset đa domen, hỗ trợ trả lời không bị kiểm duyệt.
Đây là mô hình ngôn ngữ lớn được Carsen Klock (1/16/2025) fine-tune từ phiên bản cơ sở Llama 3.2 1B của Meta bằng kỹ thuật LoRA sử dụng Unsloth. Mô hình được huấn luyện trên 1 GPU NVIDIA RX 4080 SUPER trong 3 epoch, với tốc độ học 5e-6 và batch size 2. Kết quả là một mô hình nhỏ gọn nhưng đa năng, hỗ trợ nhiều tác vụ như giải toán, sinh code, và lý luận y tế.
✨ Điểm nổi bật
- LoRA Fine-tuning: Sử dụng Unsloth để tinh chỉnh mô hình gốc một cách hiệu quả.
- 79263 bước huấn luyện: Quy trình đào tạo dài giúp mô hình học sâu từ dữ liệu đa dạng.
- Được huấn luyện trên 7 dataset: Bao gồm dữ liệu toán học, code, trò chuyện không bị kiểm duyệt và lý luận y tế.
- Hỗ trợ đa định dạng: Cung cấp dưới dạng GGUF (f16, q4_k_m) và bản gộp 16-bit.
- Trả lời không bị kiểm duyệt: Cấu hình system prompt để mở khóa phản hồi tự do.
- Tích hợp dữ liệu y tế: Hỗ trợ lý luận y tế thông qua dataset medical-o1-reasoning-SFT.
💡 Vì sao đáng chú ý
Mô hình không chỉ tinh trọng vào một lĩnh vực mà còn kết hợp đa nguồn dữ liệu đa dạng từ toán học, lập trình, trò chuyện và y học. Điều này giúp nó trở nên đa năng trong khi vẫn giữ kích thước nhỏ gọn, dễ triển khai trên phần cứng tiêu chuẩn. Việc sử dụng LoRA cũng giúp tiết kiệm tài nguyên huấn luyện mà vẫn đạt hiệu quả cao, phù hợp cho cộng đồng nghiên cứu và phát triển AI cộng đồng.
#Llama32 #Uncensored #Unsloth #GGUF #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Llama 2 Llama 2 is a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. This is the repository for the 7B fine-tuned model, optimized for dialogue use cases and converted for the...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...