WZH0120/SAM2-UNeXT
Integrating SAM2 with DINOv2/v3 for segmentation
🚀 SAM2-UNeXT: Nền tảng phân đoạn mạnh mẽ kết hợp SAM2 và DINOv2
Mở rộng SAM2 bằng DINOv2, đưa ra chiến lược hai độ phân giải và lớp dán kết dày để tăng độ chính xác.
SAM2-UNeXT là khung công trình cải tiến dựa trên SAM2-UNet, tích hợp thêm encoder DINOv2 hỗ trợ đại diện thông tin phong phú hơn. Dự án hướng tới việc nâng cao khả năng phân đoạn hình ảnh độ phân giải cao cho các nhiệm vụ như phân đoạn ảnh nhị phân, phát hiện đối tượng giấu hình, phân đoạn sinh vật biển và phát hiện độ nổi bật trong ảnh vệ tinh. Được thiết kế đơn giản nhưng hiệu quả, SAM2-UNeXT giảm sự phức tạp của các kiến trúc decoder truyền thống.
✨ Điểm nổi bật
- Tích hợp DINOv2: Sử dụng encoder phụ DINOv2 để tăng cường khả năng biểu diễn.
- Chiến lược hai độ phân giải: Xử lý paralell ở nhiều tầp zoom khác nhau để nâng cao độ chi tiết.
- Lớp dán dày (dense glue layer): Kết nối thông tin giữa các tầng một cách hiệu quả.
- Kiến trúc đơn giản: Tránh thiết kế decoder phức tạp mà vẫn đạt hiệu suất cao.
- Hỗ trợ đa nhiệm vụ: Áp dụng thành công trên 4 bộ dữ liệu đa dạng: phân đoạn ảnh nhị phân, camouflaged object detection, marine animal segmentation, remote sensing saliency detection.
- Không phụ thuộc cài đặt SAM2: Cài đặt môi trường độc lập qua requirements.txt.
💡 Vì sao đáng chú ý
SAM2-UNeXT không chỉ nâng cấp hiệu năng của SAM2 mà còn khám phá cách tận dụng DINOv2 như một encoder phụ mạnh mẽ. Kết hợp với chiến lược hai độ phân giải, mô hình đạt độ chính xác vượt trội mà không cần tới các mạng decoder phức tạp. Đây là lựa chọn lý tưởng cho nghiên cứu ứng dụng các mô hình nền tảng (foundation models) vào các bài toán phân đoạn thực tế.
#SAM2 #DINOv2 #Segmentation #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
[CVPR'26 Highlight] Official Code for “V²-SAM: Marrying SAM2 with Multi-Prompt Experts for Cross-View Object Correspondence”
Refiners (discontinued early 2025) was a microframework on top of PyTorch with first-class citizen APIs for foundation model adaptation.
Welcome to the project repository for POPE (Promptable Pose Estimation), a state-of-the-art technique for 6-DoF pose estimation of any object in any scene using a single reference.
A Python package for segmenting geospatial data with the Segment Anything Model (SAM)
Effortless AI-assisted data labeling with AI support from YOLO, Segment Anything (SAM+SAM2/2.1+SAM3), MobileSAM!!
Labeling tool with SAM(segment anything model),supports SAM, SAM2, SAM3, sam-hq, MobileSAM EdgeSAM etc.交互式半自动图像标注工具
Must-have resource for anyone who wants to experiment with and build on the OpenAI vision API 🔥
👁️ + 💬 + 🎧 = 🤖 Curated list of top foundation and multimodal models! [Paper + Code + Examples + Tutorials]