bartowski/PocketDoc_Dans-PersonalityEngine-V1.3.0-24b-GGUF
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.3.0-24b by PocketDoc Using llama.cpp release b5466 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.3.0-24b All quants made using imatrix option...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Bản quantized GGUF của PersonalityEngine 24B — Roleplay & Storywriting mạnh mẽ
Bản quantized llama.cpp imatrix từ mô hình 24 tỷ tham số PersonalityEngine-V1.3.0 của PocketDoc, hỗ trợ đa ngôn ngữ và nhiều domain chuyên sâu.
Đây là bản quantized GGUF của mô hình Dans-PersonalityEngine-V1.3.0-24b, do PocketDoc phát triển, được thực hiện bởi bartowski sử dụng phiên bản llama.cpp b5466. Mô hình gốc được huấn luyện trên hàng chục dataset đa dạng bao gồm roleplay, storywriting, khoa học, pháp lý, tài chính và lập trình. Phiên bản này cho phép chạy trực tiếp trên LM Studio hoặc bất kễ ứng dụng nào dựa trên llama.cpp.
✨ Điểm nổi bật
- Quantized imatrix: Sử dụng kỹ thuật quantization dựa trên ma trận thông tin (imatrix) để duy trì chất lượng cao.
- Đa domain hỗ trợ: Bao phủ roleplay, storywriting, hóa học, sinh học, code, khí hậu, pháp lý, y tế, tài chính.
- Đa ngôn ngữ: Hỗ trợ tiếng Anh, Ảrập, Đức, Pháp, Tây Ban Nha, Hindi, Bồ Đào Nha, Nhật, Hàn.
- Nhiều mức độ quant: Từ BF16 (đầy đủ) đến Q4_K_S (nhỏ nhất), đáp ứng nhu cầu từ chất lượng cao đến tốc độ tối đa.
- Prompt chuẩn: Định dạng
[GMASK][sop][system][user][assistant]dễ tích hợp. - Chạy trên LM Studio: Hỗ trợ ngay mà không cần cài đặt môi trường phứức tạp.
💡 Vì sao đáng chú ý
Không chỉ là một mô hình ngôn ngữ lớn đa năng, PersonalityEngine-V1.3.0-24b được thiết kế đặc biệt để xử lý tốt các tác vụ sáng tạo như roleplay và storywriting, đồng thời vẫn giữ được hiệu suất ổn định trên các lĩnh vực kỹ thuật như code, hóa học, sinh học. Với hàng chục dataset được sử dụng để huấn luyện, mô hình đạt được sự cân bằng giữa khả năng sáng tạo và độ chính xác kỹ thuật.
Phiên bản quantized này giúp người dùng dễ dàng triển khai trên phần cứng consumer-grade mà không cần đầu tư vào hạ tầng đắt đỏ.
#GGUF #Roleplay #Storywriting #TextGeneration #LLM #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Dans-PersonalityEngine-V1.3.0-24b GGUF Models Model Generation Details This model was generated using llama.cpp(https://github.com/ggerganov/llama.cpp) at commit f5cd27b7(https://github.com/ggerganov/llama.cpp/commit/f5cd27b71da3ac375a04a41643d14fc7...
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.2.0-24b by PocketDoc Using llama.cpp release b4738 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.2.0-24b All quants made using imatrix option...
Llamacpp imatrix Quantizations of Dans-PersonalityEngine-V1.1.0-12b Using llama.cpp release b4381 for quantization. Original model: https://huggingface.co/PocketDoc/Dans-PersonalityEngine-V1.1.0-12b All quants made using imatrix option with dataset...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
BigScience Large Open-science Open-access Multilingual Language Model Version 1.3 / 6 July 2022 Current Checkpoint: Training Iteration 95000 Link to paper: here(https://arxiv.org/abs/2211.05100) Total seen tokens: 366B --- Model Details BLOOM is an...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...