bartowski/PocketDoc_Dans-PersonalityEngine-V1.2.0-24b-GGUF
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.2.0-24b by PocketDoc Using llama.cpp release b4738 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.2.0-24b All quants made using imatrix option...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Bản quantization GGUF mạnh mẽ từ mô hình PersonalityEngine 24B
Quantization llama.cpp với imatrix, hỗ trợ đa lĩnh vực: roleplay, code, khoa học...
Đây là bản quantization GGUF từ mô hình Dans-PersonalityEngine-V1.2.0-24b do PocketDoc phát triển, được tạo bởi bartowski sử dụng llama.cpp bản release b4738. Mô hình nền là PocketDoc/Dans-PersonalityEngine-V1.2.0-24b, được huấn luyện trên hàng trăm dataset đa dạng bao gồm kiến thức chung, kỹ năng sống, code, toán học, khoa học và AI tiếng Anh.
✨ Điểm nổi bật
- Hỗ trợ đa lĩnh vực: roleplay, storywriting, chemistry, biology, code, climate, logic
- Được tối ưu bằng imatrix: sử dụng phương pháp quantization thông minh để giảm kích thước mà giữ chất lượng
- Nhiều cấp độ quantization: từ Q8_0 (chất lượng cao nhất, 25GB) đến Q2_K (nhẹ nhất, ~7GB)
- Tương thích rộng rãi: chạy được trên LM Studio, llama.cpp và các công cụ dựa trên llama.cpp
- Prompt format chuẩn: sử dụng định dạng chatml với <|im_start|> và <|im_end|>
- Nguồn dữ liệu phong phú: được huấn luyện trên hơn 50 dataset chất lượng cao
💡 Vì sao đáng chú ý
Không chỉ là một mô hình tiếng Anh đa năng, PersonalityEngine-V1.2.0-24b nổi bật với sự kết hợp đa dạng kiến thức từ khoa học (hóa học, sinh học, khí tượng học) đến kỹ năng thực tế ( sống còn, chiến thuật) và lập trình. Sự đa dạng này giúp mô hình vừa mạnh về kiến thức học thuật, vừa thông minh trong các tình huống đời thường và roleplay.
Với các bản quantization từ Q8_0 xuống Q2_K, người dùng có thể lựa chọn cân bằng giữa chất lượng và hiệu năng tùng thân. Đặc biệt, các bản Q6_K_L và Q5_K_L được đánh giá là "gần hoàn hảo" và là lựa chọn được khuyến nghị.
#GGUF #Quantization #llama.cpp #text-generation #roleplay #code #AI #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.1.0-12b Using llama.cpp release b4381 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.1.0-12b All quants made using imatrix option with dataset...
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.3.0-24b by PocketDoc Using llama.cpp release b5466 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.3.0-24b All quants made using imatrix option...
Dans-PersonalityEngine-V1.3.0-24b GGUF Models Model Generation Details This model was generated using llama.cpp(https://github.com/ggerganov/llama.cpp) at commit f5cd27b7(https://github.com/ggerganov/llama.cpp/commit/f5cd27b71da3ac375a04a41643d14fc7...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...