Zigeng/SlimSAM-uniform-77
SlimSAM: 0.1% Data Makes Segment Anything Slim 0.1% Data Makes Segment Anything Slim Zigeng Chen(https://github.com/czg1225), Gongfan Fang(https://fangggf.github.io/), Xinyin Ma(https://horseee.github.io/), Xinchao Wang(https://sites.google.com/site...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🚀 SlimSAM-uniform-77: Cắt giảm 99% kích thước SAM, chỉ với 0.1% dữ liệu
SlimSAM nén SAM bằng pruning-distillation, không cần huấn luyện lại toàn bộ.
SlimSAM-uniform-77 là một phiên bản mô hình phân đoạn ảnh (mask generation) siêu nhẹ, được nén từ mô hình Segment Anything (SAM) gốc thông qua kỹ thuật pruning (cắt tỉa mạng) và distillation (rút gọn tri thức). Phát triển bởi ZIGENG Chen, Gongfan Fang, Xinyin Ma và Xinchao Wang từ Learning and Vision Lab - Đại học Quốc gia Singapore. Mục tiêu: giảm đáng kể kích thước mô hình mà không cần dữ liệu lớn.
✨ Điểm nổi bật
- Nén mạnh: Giảm 99.1% số tham số xuống còn 5.7M, giảm 99.2% MACs xuống còn 21G.
- Ít dữ liệu: Chỉ cần 0.1% (10.000 mẫu) so với SAM-H gốc.
- Khung pruning-distillation thống nhất: Tận dụng lại SAM đã huấn luyện mà không cần huấn luyện lại toàn bộ.
- Chiến lược cắt tỉa xen kẽ: Chia quá trình nén thành các giai đoạn tiến trình để tối ưu kế thừa kiến thức.
- Tiêu chí cắt tỉa không et nhãn: Đảm bảo mục tiêu cắt tỉa phù hợp với mục tiêu tối ưu.
- Hiệu năng gần bằng SAM gốc: Duy trì chất lượng phân đoạn cao sau khi nén.
- Hỗ trợ tải nhanh state_dict: Dễ dàng tích hợp và sử dụng với Hugging Face Transformers.
💡 Vì sao đáng chú ý
SlimSAM khác biệt so với các phương pháp nén mô hình truyền thống bằng cách kết hợp pruning và distillation trong một khung thống nhất, đồng thời áp dụng chiến lược cắt tỉa xen kẽ để tối đa hóa sự kế thừa kiến thức từ SAM gốc. Điều này cho phép giảm đáng kể cả kích thước mô hình và nhu cầu dữ liệu huấn luyện, mà vẫn duy trễ được hiệu năng phân đoạn ảnh.
Phù hợp cho các ứng dụng cần chạy mô hình phân đoạn ảnh trên thiết bị có tài nguyên hạn chế, như điện thoại thông minh, robot, hoặc các hệ thống nhúng.
#SlimSAM #SegmentAnything #MaskGeneration #ModelCompression #TiniX
Similar Projects
Discover other similar projects and AI models.
SAM 3 is a unified foundation model for promptable segmentation in images and videos. It can detect, segment, and track objects using text or visual prompts such as points, boxes, and masks. Compared to its predecessor SAM 2(https://github.com/facebo...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...
Model Card for Segment Anything Model (SAM) - ViT Huge (ViT-H) version Detailed architecture of Segment Anything Model (SAM). Table of Contents 0. TL;DR(TL;DR) 1. Model Details(model-details) 2. Usage(usage) 3. Citation(citation) TL;DR Link to origi...
Model Card for Segment Anything Model (SAM) - ViT Base (ViT-B) version Detailed architecture of Segment Anything Model (SAM). Table of Contents 0. TL;DR(TL;DR) 1. Model Details(model-details) 2. Usage(usage) 3. Citation(citation) TL;DR Link to origi...
https://huggingface.co/nielsr/slimsam-77-uniform with ONNX weights to be compatible with Transformers.js. Usage (Transformers.js) If you haven't already, you can install the Transformers.js(https://huggingface.co/docs/transformers.js) JavaScript libr...
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
BERT base model (uncased) Pretrained model on English language using a masked language modeling (MLM) objective. It was introduced in this paper(https://arxiv.org/abs/1810.04805) and first released in this repository(https://github.com/google-resear...