yuuko-eth/LocateAnything-3B-GGUF
LocateAnything-3B - GGUF - Model creator: NVIDIA(https://huggingface.co/nvidia) - Original model: nvidia/LocateAnything-3B(https://huggingface.co/nvidia/LocateAnything-3B) GGUF conversions of NVIDIA's LocateAnything-3B (MoonViT-SO-400M vision tower...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🎯 LocateAnything-3B-GGUF: grounding ảnh thành tọa độ cho llama.cpp
Mô hình vision-language của NVIDIA được đóng gói GGUF, trả nhãn và bounding box/điểm normalized 0–1000 từ ảnh + câu hỏi tự nhiên.
LocateAnything-3B-GGUF là bản chuyển đổi GGUF của mô hình gốc nvidia/LocateAnything-3B (MoonViT-SO-400M vision tower + Eagle MLP + Qwen2.5-3B), phục vụ cho llama.cpp và stack multimodal mtmd. Mô hình là vision-language grounding model: đưa vào một ảnh và câu hỏi tự nhiên, nó phát ra nhãn cùng tọa độ bounding box hoặc điểm đã chuẩn hóa (0–1000). Bản này do yuuko-eth quantize, license NVIDIA (non-commercial/research only).
✨ Điểm nổi bật
- Hai phần bắt buộc: LLM half (
LocateAnything-3B-{quant}.gguf) và mmproj vision projector (mmproj-LocateAnything-3B-BF16.gguf), phải dùng cùng nhau. - Nhiều mức quantization: BF16 (6.4 GB), Q8_0 (3.6 GB), Q6_K (2.8 GB), Q5_K_M (2.4 GB), Q4_K_M (2.1 GB, recommended default).
- Độ chính xác near-BF16: Q6_K/Q5_K_M/Q4_K_M đều sub-pixel; Q8_0 ≤ 0.5 norm-units so với BF16.
- Control tokens grounding: xuất
<ref>,</ref>,<box>và coordinate tokens<0>…<999>; llama-server cần--specialđể giữ control tokens. - Prompt templates rõ ràng: box/region/point/multi-instance/text grounding với format output tương ứng.
- Tối ưu ảnh: cap cạnh dài ~1280 px để giảm thời gian encode ảnh mà vẫn giữ chất lượng grounding.
- Fork build bắt buộc: cần build từ github.com/yuuko-eth/llama.cpp @
mtmd-grounders; stock llama.cpp không load được các GGUF này.
💡 Vì sao đáng chú ý
Dự án này mang grounding model của NVIDIA vào workflow llama.cpp cục bộ, cho phép truy vấn vị trí vật thể trên ảnh bằng ngôn ngữ tự nhiên và nhận tọa độ có cấu trúc để parse. Nó phù hợp cho các use-case như GUI/region localization, trỏ vị trí, hoặc trích xuất bounding box từ screenshot, với trade-off kích thước/độ chính xác rõ ràng giữa các quantization. Cần lưu ý các giới hạn: license non-commercial, yêu cầu fork build, --special cho llama-server, và flash-attention có thể cần --no-flash-attn với head_dim=72.
#GGUF #VisionGrounding #llamacpp #OpenSource #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
LocateAnything: Fast and High-Quality Vision-Language Grounding with Parallel Box Decoding 🔗 Quick Links 🚀 Online Demo: LocateAnything (Hugging Face Spaces)(https://huggingface.co/spaces/nvidia/LocateAnything) 💻 GitHub Code: NVlabs/Eagle/Embodied...
Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...
🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...
Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...
GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...