AtomicChat/Laguna-XS-2.1-GGUF
Base model: poolside/Laguna-XS-2.1 Laguna XS 2.1, quantized to GGUF by Atomic Chat(https://atomic.chat) with an importance matrix. Built straight from poolside's original weights. Runs fully offline on your machine. Highlights - 33B total / 3B activ...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🚀 Laguna XS 2.1 - Mô hình MoE siêu nhẹ, mạnh nhưng vẫn nhỏ gọn
Mô hình Mixture-of-Experts 33B tổng cộng, chỉ kích hoạt 3B mỗi token, được quantization GGUF bởi Atomic Chat từ trọng số gốc của poolside.
Laguna XS 2.1 là một kiến trúc MoE (Mixture-of-Experts) mới từ poolside, được Atomic Chat chuyển đổi sang định dạng GGUF sử dụng importance matrix. Dựa trên trọng số gốc từ poolside/Laguna-XS-2.1, mô hình hỗ trợ lý luận xen kẽ (interleaved reasoning), ngữ cảnh lên đến 262.144 token, phù hợp cho lập trình agentic và công việc dài hạn trên máy tính cá nhân.
✨ Điểm nổi bật
- 33B tổng / 3B active MoE: Kiến trúc Mixture-of-Experts tiết kiệm tài nguyên nhưng vẫn mạnh mẽ.
- 256 + 1 expert: Mạng lưới chuyên gia rộng lớn với sliding window 512 token.
- 262.144 token ngữ cảnh: Hỗ trợ xử lý văn bản siêu dài.
- Lý luận xen kẽ (interleaved reasoning): Bật/tắt linh hoạt theo yêu cầu.
- Quantization imatrix: Các phiên bản GGUF được tối ưu bởi importance matrix.
- Cải tiến từ Laguna XS.2: Tăng 5.4% trên SWE-bench Multilingual.
- Chạy offline hoàn toàn: Không cần kết nối mạng sau khi cài đặt.
- Hỗ trợ llama.cpp và Atomic Chat: Tích hợp sẵn trong Atomic Chat 1.1.135+.
💡 Vì sao đáng chú ý
Laguna XS 2.1 nổi bật nhờ kết hợp giữa kiến trúc MoE tiết kiệm tài nguyên và khả năng xử lý ngữ cảnh siêu dài. Khác với các mô hình truyền thống, Laguna sử dụng mixed attention layout (10 global + 30 sliding-window) giúp tối ưu hiệu suất cho công việc lập trình đòi hỏi logic phức tạp. Phiên bản GGUF cho phép chạy hoàn toàn offline trên máy cá nhân, phù hợp với môi trường không có kết nối internet ổn định.
#AI #MachineLearning #OpenSource #GGUF #TiniX
Similar Projects
Discover other similar projects and AI models.
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence Technical Report👁️ Introduction We present a preview version of DeepSeek-V4 series, including two strong Mixture-of-Experts (MoE) language models — DeepSeek-V4-Pro with 1.6T p...