NousResearch/DeepHermes-3-Mistral-24B-Preview-GGUF
GGUF Quantized Models This repository contains GGUF quantized versions of language models for efficient inference. Files The following GGUF files are available in this repository: - DeepHermes-3-Mistral-24B-Preview-q4.gguf (13G) - DeepHermes-3-Mistr...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🚀 DeepHermes-3-Mistral-24B-Preview-GGUF — Mô hình LLM thông minh đa chế độ
Một trong những mô hình đầu tiên thế giới kết hợp chế độ suy luận dài và phản hồi truyền thống trong một mô hình duy nhất.
Đây là phiên bản GGUF được nén lượực của DeepHermes 3 Preview do Nous Research phát triển, dựa trên nền tảng Mistral-Small-24B-Base-2501. Mục tiêu chính là mang lại hiệu năng suy luận mạnh mẽ nhưng vẫn giữ được tính linh hoạt cao cho người dùng. Phù hợp cho các ứng dụng đòi hỏi chất lượng phản hồi cao và khả năng điều khiển chính xác.
✨ Điểm nổi bật
- Chuyển đổi chế độ suy luận: Bật/tắt chế độ suy luận dài chỉ bằng system prompt.
- Hỗ trợ đa định dạng phản hồi: Kết hợp cả phản hồi trực tiếp và suy luận sâu.
- Các phiên bản GGUF đa mức nén: Cung cấp q4 (13G), q5 (16G), q6 (19G), q8 (24G).
- Tích hợp tốt với Transformers: Dễ dàng triển khai bằng Hugging Face Transformers.
- Hỗ trợ function calling và JSON mode: Phù hợp cho các tác vụ tương tác phức tạp.
- Hỗ trợ roleplaying và đa lượt trò chuyện: Tối ưu cho trải nghiệm người dùng tự nhiên.
- Sử dụng định dạng Llama-Chat: Cấu trúc nhắn nhóm thống nhất cho đố thoại nhiều lượt.
- Công nghệ flash_attention_2: Tăng tốc độ suy luận trên phần cứng GPU.
💡 Vì sao đáng chú ý
DeepHermes 3 Preview nổi bật nhờ khả năng thống nhất hai phương thức suy nghĩ của LLM — phản hồi nhanh và suy luận sâu — trong một mô hình. Điều này giúp người dùng linh hoạt lựa chọn phương pháp tối ưu tùy theo nhiệm vụ. Đặc biệt hiệu quả trong các kịch bản đòi hỏi độ chính xác cao như giải toán, lập luận logic hoặc hỗ trợ ra quyết định phức tạp.
#DeepHermes3 #Mistral24B #GGUF #Reasoning #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Hermes 3 - Llama-3.1 8B !image/jpeg(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/bMcZ3sNNQK8SRZpHXBmwM.jpeg) Model Description Hermes 3 is the latest version of our flagship Hermes series of LLMs by Nous Research. F...
Hermes 3 - Llama-3.1 8B !image/jpeg(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/bMcZ3sNNQK8SRZpHXBmwM.jpeg) Model Description Hermes 3 is the latest version of our flagship Hermes series of LLMs by Nous Research. F...
DeepHermes 3 - Llama-3.1 8B GGUF !image/jpeg(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/9fxlaDxteqe3SasZ706.jpeg) Model Description THIS IS THE GGUF MODEL FOR DeepHermes-3(https://huggingface.co/NousResearch/DeepH...
Hermes 2 Pro - Llama-3 8B !image/png(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/ggO2sBDJ8Bhc6w-zwTx5j.png) Model Description Hermes 2 Pro is an upgraded, retrained version of Nous Hermes 2, consisting of an update...
Hermes 3 - Llama-3.1 70B !image/jpeg(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/vG6j5WxHX09yj32vgjJlI.jpeg) Model Description Hermes 3 is the latest version of our flagship Hermes series of LLMs by Nous Research....
Hermes 2 Pro - Mistral 7B !image/png(https://cdn-uploads.huggingface.co/production/uploads/6317aade83d8d2fd903192d9/ggO2sBDJ8Bhc6w-zwTx5j.png) Model Description Hermes 2 Pro on Mistral 7B is the new flagship 7B Hermes! Hermes 2 Pro is an upgraded, r...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...