nomic-ai/nomic-embed-text-v1.5
nomic-embed-text-v1.5: Resizable Production Embeddings with Matryoshka Representation Learning Blog(https://www.nomic.ai/blog/posts/nomic-embed-text-v1) | Technical Report(https://arxiv.org/abs/2402.01613) | AWS SageMaker(https://aws.amazon.com/mark...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🧠 Nomic Embed Text v1.5: Nhúng văn bản linh hoạt, tùy chỉnh kích thước theo nhu cầu
Mô hình nhúng văn bản (text embedding) có khả năng điều chỉnh kích thước embedding tùy ý nhờ công nghệ Matryoshka Representation Learning.
nomic-embed-text-v1.5 là một mô hình nhúng văn bản do Nomic AI phát triển, được thiết kế để hỗ trợ các ứng dụng thực tiễn như tìm kiếm ngữ nghĩa, phân loại văn bản và so khớ nội dung. Khác với các mô hình truyền thống chỉ cho phép sử dụng toàn bộ vector đặc trưng, phiên bản này áp dụng Matryoshka Representation Learning (MRL), cho phép người dùng linh hoạt cắt ngắn hoặc mở rộng độ dài embedding tùy theo yêu cầu bộ nhớ và độ chính xác.
✨ Điểm nổi bật
- Matryoshka Representation Learning: Hỗ trợ điều chỉnh kích thước embedding linh hoạt mà không cần huấn luyện lại mô hình.
- Đánh giá trên MTEB: Đạt kết quả mạnh trên nhiều tác vụ như phân loại, truy xuất, gom cụm và đo độ tương tự câu.
- Hỗ trợ ONNX và Transformers.js: Dễ dàng triển khai trên cả máy chủ và trình duyệt.
- Apache 2.0 License: Miễn phí sử dụng cho cả mục đích thương mại và nghiên cứu.
- Kết quả cao trên ArguAna: Đạt 40.089 MAP@1000, cho thấy hiệu suất mạnh trong tìm kiếm thông tin.
- Độ chính xác tốt trên phân loại: Đạt 91.81% độ chính xác trên tập dữ liệu AmazonPolarity.
- Hỗ trợ đa ngôn ngữ (en): Tối ưu cho tiếng Anh, dễ dàng mở rộng cho các ngôn ngữ khác.
💡 Vì sao đáng chú ý
nomic-embed-text-v1.5 nổi bật nhờ khả năng linh hoạt điều chỉnh kích thước embedding thông qua MRL, giúp cân bằng giữa hiệu suất và chi phí tính toán. Điều này đặc biệt hữu ích trong môi trường cần tối ưu bộ nhớ hoặc triển khai trên thiết bị đầu cuối. Mô hình còn được kiểm chứng mạnh trên bộ chuẩn MTEB với nhiều tác vụ đa dạng, minh chứng cho tính đa năng và độ ổn định cao.
#TextEmbedding #MatryoshkaLearning #SentenceTransformers #ONNX #TiniX
Similar Projects
Discover other similar projects and AI models.
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
FlagEmbedding Model List | FAQ | Usage | Evaluation | Train | Contact | Citation | License More details please refer to our Github: FlagEmbedding(https://github.com/FlagOpen/FlagEmbedding). If you are looking for a model that supports more languages,...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
all-mpnet-base-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 768 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using...
For more details please refer to our github repo: https://github.com/FlagOpen/FlagEmbedding BGE-M3 (paper(https://arxiv.org/pdf/2402.03216.pdf), code(https://github.com/FlagOpen/FlagEmbedding/tree/master/FlagEmbedding/BGEM3)) In this project, we intr...
nomic-embed-text-v1: A Reproducible Long Context (8192) Text Embedder Blog(https://www.nomic.ai/blog/posts/nomic-embed-text-v1) | Technical Report(https://arxiv.org/abs/2402.01613) | AWS SageMaker(https://aws.amazon.com/marketplace/seller-profile?id...
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
Multilingual-E5-small Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is...
Multilingual-E5-base Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is 7...