nvidia/llama-nemotron-rerank-vl-1b-v2-fp8
Model Overview Description: The NVIDIA llama-nemotron-rerank-vl-1b-v2-fp8 is the quantized version of the NVIDIA llama-nemotron-rerank-vl-1b-v2(https://huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2/tree/9c20c4ae) which is developed for multim...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tuần
#1 Repository Của Tháng
🧠 Reranker đa phương thức NVIDIA Llama-Nemotron VL 1B v2 FP8 — tốc độ cao, độ chính xác vững
Bản quantized FP8 của cross-encoder reranker hỗ trợ truy xuất đa phương thức từ văn bản và hình ảnh.
Đây là phiên bản quantize FP8 của mô hình llama-nemotron-rerank-vl-1b-v2, được phát triển bởi NVIDIA nhằm hỗ trợ truy xuất thông tin đa phương thức (văn bản + hình ảnh). Mô hình được tối ưu bằng TensorRT Model Optimizer, chỉ quantize phần ngôn ngữ (Llama 3.2 1B) trong khi giữ nguyên độ phân giải cao cho vision encoder (SigLIP 2 400M).
✨ Điểm nổi bật
- Quantize FP8 tối ưu hiệu năng: Chỉ quantize phần ngôn ngữ, giữ nguyên độ chính xác cho vision encoder.
- Kiến trúc cross-encoder đa phương thức: Hỗ trợ xử lý kết hợp truy vấn văn bản với tài liệu dạng văn bản hoặc hình ảnh.
- Đầu ra điểm số liên quan (logit): Trả về điểm số phản ánh mức độ liên quan giữa truy vấn và tài liệu.
- Hỗ trợ xử lý theo batch: Cho phép đưa nhiều tài liệu cùng lúc với một truy vấn.
- Kiến trúc Eagle 2 nâng cao hiệu năng: Sử dụng dynamic tiling và nhiều vision encoder để xử lý hình ảnh độ phân giải cao.
- Hỗ trợ thương mại: Được phép sử dụng cho mục đích thương mại theo giấy phép NVIDIA Open Model.
- Đa ngôn ngữ: Hỗ trợ xử lý đa ngôn ngữ trong cả truy vấn và tài liệu.
- Tích hợp với hệ sinh thái Transformers: Tương thích trực tiếp với thư viện Hugging Face Transformers.
💡 Vì sao đáng chú ý
Mô hình kết hợp lợi thế của việc quantize FP8 giúp giảm kích thước mô hình và tăng tốc suy luận, đồng thời duy trì độ chính xác cao nhờ không quantize phần vision encoder. Đây là lựa chọn lý tưởng cho các ứng dụng RAG đa phương thức cần truy xuất thông tin từ cả văn bản và hình ảnh tài liệu.
#MultimodalReranker #FP8Quantization #RAG #VisualDocumentRetrieval #TiniX
Similar Projects
Discover other similar projects and AI models.
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
Trained by Jina AI. jina-reranker-v2-base-multilingual Intended Usage & Model Info The Jina Reranker v2 (jina-reranker-v2-base-multilingual) is a transformer-based model that has been fine-tuned for text reranking task, which is a crucial component...
Model Overview Description The Llama Nemotron Reranking 1B model is optimized for providing a logit score that represents how relevant a document(s) is to a given query. The model was fine-tuned for multilingual, cross-lingual text question-answerin...
Model Overview Description: The llama-nemotron-rerank-vl-1b-v2 was developed by NVIDIA for multimodal question-answering retrieval. It is optimized for providing a logit score that represents how relevant a document page is to a given query. The mod...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
FlagEmbedding Model List | FAQ | Usage | Evaluation | Train | Contact | Citation | License More details please refer to our Github: FlagEmbedding(https://github.com/FlagOpen/FlagEmbedding). If you are looking for a model that supports more languages,...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
📰 Tech Blog | 📄 Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...
Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...