SC117/Agents-A1-MTP-APEX-GGUF
APEX MTP Vision Apache-2.0 Agents-A1-MTP-APEX English | 📖 中文文档 35B agentic MoE that reaches trillion-parameter performance · APEX-quantized GGUFs + BF16 + mmproj 🤖 About Agents-A1 Agents-A1 is a 35B-parameter Mixture-of-Experts agentic model from...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#5 Repository Của Tháng
#5 Repository Của Tháng
#6 Repository Của Tháng
🚀 Agents-A1-MTP-APEX-GGUF: Mô hình agentic 35B đạt hiệu suất tỷ tham số
Gói GGUF APEX-quantized tích hợp MTP và mmproj, biến Agents-A1 thành công cụ reasoning + multimodal mạnh trên llama.cpp.
Agents-A1 là mô hình agentic MoE 35B từ InternScience, dựa trên Qwen3.5-35B-A3B, huấn luyện qua ba giai đoạn: SFT toàn miền → huấn luyện giáo viên cấp miền → rút gọn đa giáo viên đa miền. Dù chỉ 35B tham số nhưng hiệu suất cạnh tranh với các hệ thống frontier như GPT-5.5, DeepSeek-V4-pro. Gói GGUF này bao gồm mmproj-F16.gguf hỗ trợ xử lý hình ảnh và lớp MTP được chèn từ Qwen3.5.
✨ Điểm nổi bật
- Kiến trúc MoE: Qwen3.5 MoE với 256 chuyên gia, 8 chuyên gia hoạt động mỗi token.
- MTP tích hợp: Lớp dự báo thời gian đa bước được chèn từ Qwen3.5 để tăng tốc sinh sinh lý.
- Multimodal: Hỗ trợ xử lý đồng thời hình ảnh và văn bản nhờ mmproj-F16.gguf.
- APEX quantization: Tối ưu mã hoá giảm kích thước mô hình, phù hợp chạy trên phần cứng tiêu chuẩn.
- BF16 + GGUF: Cung cấp cả trọng số BF16 và GGUF đa độ phân giải cho linh hoạt triển khai.
- llama.cpp tương thích: Chạy trực tiếp trên llama.cpp mà không cần thư viện phụ trợ.
- Hiệu suất SOTA: Đạt điểm cao trên Seal-0, HiPhO, GAIA, HLE, MolBench-bind.
- Apache-2.0: Giấy phép nguồn mở cho phép sử dụng thương mại.
💡 Vì sao đáng chú ý
Agents-A1 không chỉ là mô hình lớn mà còn là hệ thống agentic được tối ưu cho reasoning phức tạp. Sự kết hợp MTP và APEX quantization giúp cân bằng tốc độ và độ chính xác. Phù hợp cho các ứng dụng AI đa năng như hỗ trợ nghiên cứu, giải trí multimodal, và tích hợp vào pipeline agent tùy biến.
#AI #MachineLearning #OpenSource #LLM #APEX #MTP #Multimodal #TiniX
Similar Projects
Discover other similar projects and AI models.
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence Technical Report👁️ Introduction We present a preview version of DeepSeek-V4 series, including two strong Mixture-of-Experts (MoE) language models — DeepSeek-V4-Pro with 1.6T p...