bartowski/Dans-PersonalityEngine-V1.1.0-12b-GGUF
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.1.0-12b Using llama.cpp release b4381 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.1.0-12b All quants made using imatrix option with dataset...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Bản quant GGUF của Dans-PersonalityEngine — LLM 12B đa năng chuẩn bị cho mọi trường hợp dùng
Quant GGUF llama.cpp b4381 với imatrix, tối ưu cho LM Studio — từ roleplay tới code, hóa học, sinh học, logic, viết truyện.
Đây là bản quant GGUF của mô hình gốc PocketDoc/Dans-PersonalityEngine-V1.1.0-12b, được thực hiện bởi bartowski sử dụng llama.cpp bản phát hành b4381 kèm tùy chọn imatrix. Mô hình được huấn luyện trên hơn 60 bộ dữ liệu (ShareGPT, LeetCode, sinh học an toàn, thuyết sinh học, code feedback, truyện, logic, agent tool...) phù hợp cho sinh ra văn bản tổng quát: roleplay, storywriting, code, hóa học, sinh học, khí hậu, reasoning...
✨ Điểm nổi bật
- Quant GGUF llama.cpp b4381: Hỗ trợ chạy trực tiếp trên LM Studio và các công cụ tương thích llama.cpp.
- Tối ưu imatrix: Sử dụng ma trận thông tin từ bộ dữ liệu tham chiếu để duy trì chất lượng khi nén.
- Đa dạng cấp độ quant: Từ F16 (24.5GB) cho chất lượng tối đa, xuống Q4_K_S (7.4GB) để tiết kiệm bộ nhớ.
- Được huấn luyện trên 60+ bộ dữ liệu: Bao phủ code (LeetCode, CodeFeedback), hóa học & sinh học an toàn, logic, agent tool, viết truyện, roleplay.
- Prompt format chuẩn: Dùng thẻ
<|im_start|>/<|im_end|>theo chuẩn ChatML. - Các bản quant được đề xuất: Q6_K_L, Q5_K_L, Q5_K_M, Q4_K_L — cân bằng giữa chất lượng và kích thước.
💡 Vì sao đáng chú ý
Bản quant này mang lại khả năng sinh text đa domen của Dans-PersonalityEngine trong môi trường local. Nhờ llama.cpp và imatrix, người dùng có thể chạy mô hình 12 tỷ tham số trên máy tính cá nhân mà không cần GPU đắt tiền. Đặc biệt phù hợp cho những người muốn khám phá khả năng tổng hợp kiến thức đa ngành (code, hóa học, sinh học, logic) kèm tính cách roleplay mà không cần kết nối internet.
#GGUF #llama.cpp #DansPersonalityEngine #Quant #LMStudio #TextGeneration #Roleplay #Code #Chemistry #Biology #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.2.0-24b by PocketDoc Using llama.cpp release b4738 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.2.0-24b All quants made using imatrix option...
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.3.0-24b by PocketDoc Using llama.cpp release b5466 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.3.0-24b All quants made using imatrix option...
Dans-PersonalityEngine-V1.3.0-24b GGUF Models Model Generation Details This model was generated using llama.cpp(https://github.com/ggerganov/llama.cpp) at commit f5cd27b7(https://github.com/ggerganov/llama.cpp/commit/f5cd27b71da3ac375a04a41643d14fc7...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...