DavidAU/Llama-3.2-3B-Instruct-NEO-SI-FI-GGUF
Llama-3.2-3B-Instruct-NEO-SI-FI-GGUF It is the new "Llama-3.2-3B-Instruct", max context of 131,000 (128k) with the NEO IMATRIX Science Fiction and Story dataset. The power in this 3B (for its size) is frankly jaw dropping... and at 90 tokens per seco...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Llama 3.2 3B Instruct tinh chỉnh cho sáng tạo truyện và kể chuyện
Mô hình Llama 3.2 3B Instruct được tinh chỉnh đặc biệt cho khả năng viết sáng tạo, hỗ trợ ngữ cảnh lên tới 128.000 token.
Đây là phiên bản Llama 3.2 3B Instruct được tinh chỉnh với bộ dữ liệu NEO IMATRIX Science Fiction and Story, nhằm tăng cường khả năng sáng tạo. Mô hình nhỏ nhưng hiệu suất đáng ngạ cứm, chạy mượt ở tốc độ 90 token/giây trên GPU.
✨ Điểm nổi bật
- Ngữ cảnh 128K: Hỗ trợ xử lý văn bản dài lên tới 131.000 token.
- Tinh chỉnh sáng tạo: Áp dụng bộ dữ liệu NEO IMATRIX để nâng cao khả năng kể chuyện và viết truyện.
- Tốc độ cao: Chạy ở tốc độ 90 token/giây trên GPU.
- Ổn định cực cao: Hoạt động trơn tru với mọi tham số, bao gồm cả nhiệt độ từ 0 đến 5.
- Hỗ trợ roleplay: Gợi ý rep pen từ 1.05 đến 1.08 cho trải nghiệm nhân vai tốt hơn.
- Nhiều định dạng phân lượng: Cung cấp các phiên bản IQ2, IQ3, IQ4, Q4, Q5, Q6 để lựa chọn.
- Hỗ trợ đa ngôn ngữ: Bao gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Bồ Đào Nha, Trung, Nhật, Nga, Hàn.
💡 Vì sao đáng chú ý
Không chỉ là một mô hình ngôn ngữ tiêu chuẩn, Llama 3.2 3B Instruct phiên bản này được tối ưu riêng cho các tác vụ sáng tạo như viết truyện, phát triển cốt truyện, và roleplay. Sự kết hợp giữa kích thước nhỏ gọn và hiệu suất mạnh mẽ khiến nó trở thành lựa chọn lý tưởng cho thiết bị cá nhân hoặc ứng dụng yêu cầu khả năng sáng tạo cao.
#Llama3 #CreativeWriting #StoryGeneration #GGUF #TiniX
Similar Projects
Discover other similar projects and AI models.
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. Light HORROR. Swearing. UNCENSORED... humor, romance, fun. NEW HERETIC L3.2 Versions (ablit, 9.25/100 refusal rates): 24B-A3B(https://huggingface.co/DavidAU/Llama3.2-24B-A3B-II-Dark-Champion-INST...
NEW! Horror Version fine tune available. See below. L3.2-Rogue-Creative-Instruct-Uncensored-Abliterated-7B-GGUF It is a LLama 3.2 model, max context of 131,072 (128k+). This model has been designed to be relatively bullet proof and operates with most...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. Light HORROR. Swearing. UNCENSORED... humor, romance, fun... and can be used for ANY use case. Llama-3.2-8X4B-MOE-V2-Dark-Champion-Instruct-uncensored-abliterated-21B-GGUF It is a LLama 3.2 model...
Ultimate NEO GGUF QUANTS: Custom built DUAL Imatrix NEO-CODER quants that exceed all other quants in terms of quality, stability, precision and long convo usage. IQ4XS/NL regularly scores at 94% of full precision (bf16), Q6/Q8 at 97% and 98% of full...
About weighted/imatrix quants of https://huggingface.co/DavidAU/Llama3.3-8B-Instruct-Thinking-Heretic-Uncensored-Claude-4.5-Opus-High-Reasoning For a convenient overview and download list, visit our model page for this model(https://hf.tst.eu/modelL...
GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF Specialized and Enhanced UNCENSORED/HERETIC GGUF quants for the new GLM-4.7-Flash, 30B-A3B MOE, mixture of experts model. https://huggingface.co/zai-org/GLM-4.7-Flash This model can be run on...
NEXT LEVEL; Gemma 4 8B : https://huggingface.co/DavidAU/gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking --- WARNING: Uncensored. Cursing, Swearing, Horror, Graphic Details Refreshed, Upgraded and New quants (augmented). Bett...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. HORROR. Swearing. UNCENSORED... humor, romance, fun. Mistral-MOE-4X7B-Dark-MultiVerse-Uncensored-Enhanced32-24B-GGUF A float 32 high precision M.O.E model, quanted in float 32 with additional upg...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. HORROR. Swearing. UNCENSORED... humor, romance, fun. Llama-3.2-4X3B-MOE-Hell-California-Uncensored-10B-GGUF It is a LLama 3.2 model, max context of 128k (131,000) using mixture of experts to comb...