tencent/EVIE-Preview-4.5B
🏆 EVIE-Preview-4.5B Rank 1 on ViDoRe V3 · Rank 1 on ViDoRe V1+V2 The most accurate visual document retriever, with native 128-dimensional token vectors. 🏆 Results(-vidore-v3--rank-1) • 💾 Index Cost(-index-cost) • ⚡ Quick Start(-quick-start) • 🔬...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🏆 EVIE-Preview-4.5B — Mô hình truy xuất tài liệu hình ảnh đứng hạng nhất thế giới
Đứng hạng #1 trên cả ViDoRe V3 (65.36 nDCG@10) và ViDoRe V1+V2 (85.77 nDCG@5), EVIE-Preview-4.5B là mô hình truy xuất tài liệu đa phương tiện (vision-language) chính xác nhất thế giới.
EVIE-Preview-4.5B là một mô hình truy xuất tài liệu hình ảnh (visual-document-retrieval) dựa trên kiến trúc ColPali, được huấn luyện từ mô hình nền Qwen3.5-4B. Dự án do Tencent phát triển, đạt kết quả hàng đầu trên cả hai bảng chuẩn ViDoRe V3 và ViDoRe V1+V2 — bao gồm 14 tác vụ và 8 lĩnh vực công cộng. Khác biệt chính của EVIE là việc sử dụng vector token gốc chỉ với 128 chiều, giúp giảm đáng kể chi phí lưu trữ chỉ số so với các mô hình khác (420.5 GiB cho 1 triệu trang).
✨ Điểm nổi bật
- Hạng #1 trên ViDoRe V3: Đạt 65.36 nDCG@10 trên 8 lĩnh vực công cộng × 6 ngôn ngữ truy vấn.
- Hạng #1 trên ViDoRe V1+V2: Đạt 85.77 nDCG@5 trên 14 tác vụ truy xuất tài liệu hình ảnh.
- Token vector 128 chiều gốc: Sử dụng ColBERT late-interaction với vector token chỉ 128 chiều — ngắn gọn nhưng hiệu quả.
- Chi phí lưu trữ thấp: Chỉ 420.5 GiB cho 1 triệu trang ở tier 1,792 token (BF16), hoặc dưới 180 GiB ở tier 768 token.
- Tăng hiệu năng khi tăng ngân sách token: Tăng 0.80 nDCG@10 khi dùng 1,792 token so với 768 — cùng trọng số, chưa từng fine-tune lại.
- Đa ngôn ngữ: Hỗ trợ 7 ngôn ngữ truy vấn: tiếng Anh, Pháp, Đức, Ý, Tây Ban Nha, Bồ Đào Nha, Trung và Nhật.
- Dựa trên Qwen3.5-4B: Mô hình nền mạnh, hỗ trợ tốt cho truy xuất tài liệu phức tạp.
- Công khai nguồn: Mã nguồn và mô hình có sẵn trên Hugging Face và GitHub.
💡 Vì sao đáng chú ý
EVIE-Preview-4.5B nổi bật không chỉ nhờ kết quả số đứng hạng nhất, mà còn nhờ khả năng tổng quát hóa xuất sắc: cùng một bản cập nhật trọng số, mô hình vẫn cải thiện điểm số khi được dùng ở ngân sạn token cao hơn mức huấn luyện. Điều này cho thấy biểu diễn trang của EVIE rất vững — không bị overfit với độ phân giải cụ thể. Với vector token chỉ 128 chiều, EVIE giảm đáng kể chi phí lưu trữ so với các đối thủ dùng 640 chiều, khiến nó trở thành lựa chọn hiệu quả cho ứng dụng thực tế với quy mô lớn.
#VisualDocumentRetrieval #ColPali #ViDoRe #Qwen3.5 #Multimodal #TiniX
Similar Projects
Discover other similar projects and AI models.
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
🏆 EVIE-8B: The Most Accurate Visual Document Retriever Evidence-Vector-Informed Embedding (EVIE-8B Flagship Teacher) 4096-Dimensional Token Representation • Bidirectional Full-Attention • Teacher for EVIE-4.5B Prefix-MRL 🤗 EVIE-8B (Flagship Teache...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
🏆 EVIE: The Most Accurate and Lightweight Visual Document Retriever Evidence-Vector-Informed Embedding (EVIE) High-Precision Late-Interaction Retrieval • Dynamic Prefix-MRL (64D–2048D) • Training-Free HAC Token Compression 🤗 EVIE-4.5B (Prefix-MRL...
LTX-2.5 — Video, Audio & World Simulation Full control and customization — self-host on your infrastructure. Homepage Docs GitHub Research API Playground Discord LTX License LTX-2.5 — Video, Audio & World Simulation Full control and customiz...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
Multilingual-E5-large Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 24 layers and the embedding size is...
Multilingual-E5-small Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...