rippertnt/HyperCLOVAX-SEED-Text-Instruct-1.5B-Q4_K_M-GGUF
rippertnt/HyperCLOVAX-SEED-Text-Instruct-1.5B-Q4KM-GGUF This model was converted to GGUF format from naver-hyperclovax/HyperCLOVAX-SEED-Text-Instruct-1.5B(https://huggingface.co/naver-hyperclovax/HyperCLOVAX-SEED-Text-Instruct-1.5B) using llama.cpp...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Ngày
#1 Repository Của Ngày
#1 Repository Của Ngày
📦 GGUF phiên bản local của HyperCLOVAX-SEED-Text-Instruct-1.5B
Bản chuyển đổi GGUF từ mô hình gốc của NAVER, hỗ trợ chạy local qua llama.cpp.
Đây là bản dịch định dạng GGUF (Q4_K_M) từ mô hình naver-hyperclovax/HyperCLOVAX-SEED-Text-Instruct-1.5B, được thực hiện bằng công cụ GGUF-my-repo của ggml.ai. Mô hình hỗ trợ chạy local trên CPU và tương thích với các công cụ như llama.cpp, llama-cli, llama-server.
✨ Điểm nổi bật
- Định dạng GGUF: Tối ưu cho việc chạy local trên CPU với dung lượng nhỏ gọn.
- Lượng tử hóa Q4_K_M: Cân bằng giữa kích thước và hiệu suất.
- Tương thích llama.cpp: Hỗ trợ chạy qua CLI hoặc server của llama.cpp.
- Cài đặt nhanh qua Homebrew: Hỗ trợ cài đặt trên Mac và Linux.
- Hỗ trợ Hugging Face Hub: Có thể tải trực tiếp từ HF mà không cần tải về thủ công.
- Tùy chọn context window: Hỗ trợ thiết lập độ dài ngữ cảnh tùy chỉnh.
💡 Vì sao đáng chú ý
Phiên bản GGUF này giúp người dùng dễ dàng triển khai mô hình HyperCLOVAX-SEED-Text-Instruct-1.5B trên môi trường local mà không cần phụ thuộc vào dịch vụ đám mây. Với lượng tử hóa Q4_K_M, mô hình giảm kích thước đáng kể nhưng vẫn duy trì độ chính xác tốt, phù hợp cho các thiết bị có cấu hình trung bình.
#GGUF #HyperCLOVAX #LLaMA #llama.cpp #TiniX
Similar Projects
Discover other similar projects and AI models.
Read our How to Run Qwen3.8-27B Guide!(https://unsloth.ai/docs/models/qwen3.8) This GGUF uses Unsloth Dynamic V3.0 (preview) for SOTA quantization performance. Developer Role Support so Qwen3.8 can work in agentic tools like Codex and more! MTP for...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
!FLUX.1 dev Grid(./devgrid.jpg) FLUX.1 dev is a 12 billion parameter rectified flow transformer capable of generating images from text descriptions. For more information, please read our blog post(https://blackforestlabs.ai/announcing-black-forest-la...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...