XHToken/Spark-X2.5-4B-GGUF
Spark-X2.5-4B-GGUF !NOTE This repository provides a BF16 GGUF conversion of Spark-X2.5-4B. Spark-X2.5 is a compact, general-purpose language model for conversation, writing, translation, reasoning, coding, tool use, and agentic workflows. It uses a...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tuần
#1 Repository Của Tháng
🚀 Spark-X2.5-4B-GGUF: Mô hình ngôn ngữ đa năng dạng GGUF để chạy local
Bản chuyển đổi BF16 GGUF từ Spark-X2.5-4B, tối ưu cho triển khai nhanh trên Ollama và LM Studio.
Spark-X2.5-4B-GGUF là phiên bản GGUF (dạng nhị phân hóa cho llama.cpp) của mô hình ngôn ngữ Spark-X2.5-4B do XHToken phát triển. Mô hình nhẹ này hỗ trợ nhiều nhiệm vụ như trò chuyện, viết lách, dịch thuật, lý luận, lập trình và làm việc với công cụ AI. Với kiến trúc attention lai và khả năng xử lý ngữ cảnh lên đến 1 triệu token, Spark-X2.5 phù hợp cho cả ứng dụng cá nhân và phát triển hệ thống AI đa chức năng.
✨ Điểm nổi bật
- Chuyển đổi GGUF BF16: Phiên bản tối ưu cho inference local với llama.cpp
- Hỗ trợ ngữ cảnh 1M token: Xử lý văn bản dài hiệu quả
- Đa ngôn ngữ: Hỗ trợ hơn 200 ngôn ngữ bao gồm tiếng Anh và tiếng Trung
- Triển khai Ollama nhanh: Hỗ trợ tạo mô hình và chạy qua CLI
- Tích hợp LM Studio: Cấu hình runtime tương thích để chạy local
- Giấy phép Apache 2.0: Cho phép sử dụng thương mại và tùy chỉnh
💡 Vì sao đáng chú ý
Khác với các mô hình lớn nặng nề, Spark-X2.5-4B-GGUF mang lại hiệu suất mạnh mẽ trong kích thước nhỏ gọn, thích hợp cho thiết bị cá nhân. Sự hỗ trợ từ XHToken/llama.cpp giúp dễ dàng triển khai nhanh qua Ollama hoặc LM Studio, rất tiện cho nhà phát trich thử nghiệm hoặc ứng dụng AI đa chức năng mà không cần phụ thuộc vào nền tảng đám mây.
#AI #LLM #GGUF #Ollama #LMStudio #SparkX25 #TiniX
Similar Projects
Discover other similar projects and AI models.
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...