intel/ScalableVectorSearch

🚀 SVS - Tìm kiếm vector hàng tỷ với tốc độ ánh sáng trên CPU Intel

Scalable Vector Search (SVS) là thư viện tìm kiếm độ tương đồng vector hiệu nghệ cao của Intel, tối ưu cho CPU Xeon, kết hợp kỹ thuật Locally-adaptive Vector Quantization (LVQ) để tìm kiếm nhanh trên hàng tỷ vector đa chiều.

SVS (Scalable Vector Search) là thư viện do Intel phát triển, cung cấp tính năng tìm kiếm độ tương đồng vector với hiệu nhiệm cao và bộ nhớ tối ưu. Nhờ sử dụng kỹ thuật Locally-adaptive Vector Quantization (LVQ) và các thuật toán lập chỉ mục/tìm kiếm được tối ưu, SVS hỗ trợ tìm kiếm trên hàng tỷ vector đa chiều với độ chính xác cao và tốc độ nhanh, đồng thời giảm bớt sử dụng bộ nhớ so với các giải pháp khác. Thư viện này được viết bằng C++ để dễ dàng tích hợp vào các ứng dụng yêu cầu hiệu năng cao và cung cấp API Python đầy đủ, tương thích với hầu hết các thư viện tiêu chuẩn.

✨ Điểm nổi bật

• Tìm kiếm hàng tỷ vector: Hỗ trợ tìm kiếm độ tương đồng trên quy mô hàng tỷ vector đa chiều.
• Độ chính xác cao: Đạt độ chính xác cao nhờ kỹ thuật LVQ và các thuật toán tối ưu.
• Tốc độ ánh sáng: Tốc độ truy vấn (QPS) nhanh hơn đáng kể so với các giải pháp thay thế.
• Bộ nhớ tối ưu: Sử dụng ít bộ nhớ hơn so với các thư viện tương tự.
• API Python đầy đủ: Cung cấp API Python đơn giản, dễ sử dụng, tương thích với thư viện chuẩn.
• Tối ưu cho CPU Intel Xeon: Hỗ trợ tối ưu cho các thế hệ CPU Xeon từ thế hệ 2 đến 6 (Cascade Lake đến Granite Rapids).
• Hỗ trợ nhiều hàm số tương đồng: Euclidean distance, inner product, cosine similarity.
• Đa dạng định dạng vector: Hỗ trợ mã hóa giá trị float32, float16, uint8, int8.

💡 Vì sao đáng chú ý

SVS khác biệt nhờ sự kết hợp giữa kỹ thuật nén vector LVQ và các thuật toán tối ưu cho kiến trúc CPU Intel Xeon. Điều này giúp SVS đạt được hiệu năng vượt trội cả về tốc độ và bộ nhớ so với các thư viện tìm kiếm vector khác, đặc biệt trên các bộ xử lý Intel Xeon hiện đại với hỗ trợ AVX-512. SVS phù hợp cho các ứng dụng RAG (Retrieval-Augmented Generation), hệ thống đề xuất, và bất kỳ trường hợp nào cần tìm kiếm độ tương đồng vector trên quy mô lớn.

Lưu ý: Kho mã nguồn này chỉ chứa phần mã nguồn mở của thư viện SVS. Các kỹ thuật nén vector độc quyền như LVQ và Leanvec chỉ được hỗ trợ thông qua thư viện chia sẻ và gói PyPI từ Intel, tối ưu cho phần cứng Intel.

#VectorSearch #RAG #SimilaritySearch #Intel #OpenSource #TiniX