poolside/Laguna-XS-2.1-NVFP4
Use on OpenRouter · Release blog post Laguna XS 2.1-NVFP4 Laguna XS 2.1-NVFP4 is a 33B total parameter Mixture-of-Experts model with 3B activated parameters per token designed for agentic coding and long-horizon work on a local machine. It uses Slid...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Ngày
#1 Repository Của Ngày
#1 Repository Của Ngày
🚀 Laguna XS 2.1-NVFP4 — Mô hình MoE 33B chạy trên máy tính cá nhân
Mô hình Mixture-of-Experts 33B với NVFP4 và KV cache FP8, tối ưu cho lập trình độc lập và công việc dài hạn.
Laguna XS 2.1-NVFP4 là phiên bản NVFP4 của mô hình Mixture-of-Experts (MoE) 33B tổng tham số, kích hoạt 3B tham số mỗi token. Được thiết kế để chạy hiệu quả trên máy cá nhân, nó sử dụng Sliding Window Attention (SWA) với cơ chế gating trên từng head ở 30/40 lớp, giúp tăng tốc suy luận và giảm yêu cầu bộ nhớ KV cache. Phiên bản này sử dụng KV cache được lượọt số hóa FP8 để tiết kiệm bộ nhớ.
✨ Điểm nổi bật
- Kiến trúc MoE hiệu quả: 33B tổng tham số, 3B tham số kích hoạt mỗi token, phân phối qua 256 chuyên gia và 1 chuyên gia chung
- KV cache FP8: Giảm tiêu thụ bộ nhớ cho mỗi token nhờ lượọt số hóa cache
- Hỗ trợ lập trình độc lập: Tích hợp tư duy xen kẽ giữa các lệnh gọi công cụ, bật/tắt chế độ suy nghĩ linh hoạt
- Chạy trên máy cá nhân: Chỉ cần 36 GB RAM để chạy trên Mac, hỗ trợ Ollama và llama.cpp
- Cửa sổ ngữ cảnh lớn: Hỗ trợ ngữ cảnh lên đến 262.144 token
- License mở: Sử dụng và sửa đổi tự do dưới giấy phép OpenMDW-1.1
💡 Vì sao đáng chú ý
Khác với các mô hình lớn khó chạy trên thiết bị cá nhân, Laguna XS 2.1 mang công nghệ Mixture-of-Experts vào máy tính cá nhân với kích thước gọn nhẹ nhưng hiệu năng mạnh. Với hiệu suất xuất sắc trên các bộ chuẩn đánh giá như SWE-bench và Terminal-Bench 2.0, mô hình phù hợp cho các dự án lập trình độc lập và phân tích dài hạn mà không cần phụ thuộc vào đám mây.
#LagunaXS2.1 #NVFP4 #MixtureOfExperts #TextGeneration #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence Technical Report👁️ Introduction We present a preview version of DeepSeek-V4 series, including two strong Mixture-of-Experts (MoE) language models — DeepSeek-V4-Pro with 1.6T p...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Paper Link👁️ 1. Introduction We present DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token. To achieve efficient inference and cost-effective training, DeepSeek-V3 adopts Multi...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...