IntelLabs/fastRAG
Efficient Retrieval Augmentation and Generation Framework
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#2 Repository Của Tháng
#2 Repository Của Tháng
🧠 fastRAG: Framework RAG hiệu quả, tối ưu cho phần cứng Intel
fastRAG là framework nghiên cứu dùng để xây dựng và khám phá các pipeline RAG hiệu quả và được tối ưu, kết hợp LLM và Information Retrieval.
fastRAG là một framework nghiên cứu Python, giúp các nhà nghiên cứu và lập trình viên dễ dàng thiết lập và tối ưu hóa các pipeline RAG (Retrieval-Augmented Generation). Dự án tích hợp các thành phần SOTA và hỗ trợ chạy trên nền tảng phần cứng của Intel như Xeon và Gaudi.
✨ Điểm nổi bật
- Tối ưu RAG: Xây dựng pipeline RAG với các thành phần hiệu quả cao nhất.
- Hỗ trợ phần cứng Intel: Tích hợp IPEX, Optimum Intel, Optimum Habana để chạy tối ưu trên Xeon và Gaudi.
- Tương thích Haystack v2: Tất cả thành phần đều tương thích 100% với Haystack.
- Đa dạng backend LLM: Hỗ trợ Gaudi, ONNX Runtime, OpenVINO, Llama-CPP.
- Thành phần tối ưu: Bao gồm embedders int8, rankers sparse cross-encoders.
- Các mô hình RAG tiên tiến: ColBERT với PLAID, Fusion-in-Decoder (FiD), REPLUG.
- Cài đặt linh hoạt: Hỗ trợ cài đặt qua pip với các tùy chọn mở rộng (intel, openvino, elastic, qdrant, colbert, faiss).
💡 Vì sao đáng chú ý
fastRAG khác biệt nhờ sự tích hợp sâu với phần cứng Intel, giúp tận dụng tối đa hiệu năng trên các nền tảng như Xeon và Gaudi. Điều này mang lại hiệu quả tính toán vượt trội so với các framework RAG thông thường. Đặc biệt, việc hỗ trợ nhiều backend LLM và các thành phần RAG tiên tiến như ColBERT, FiD và REPLUG giúp người dùng dễ dàng thử nghiệm và so sánh các phương pháp khác nhau trong một môi trường thống nhất.
#RAG #FastRAG #Intel #Haystack #OpenSource #TiniX
Similar Projects
Discover other similar projects and AI models.
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
MTEB: State-of-the-art evaluation of embeddings across languages and modalities
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.
FlagEmbedding Model List | FAQ | Usage | Evaluation | Train | Contact | Citation | License More details please refer to our Github: FlagEmbedding(https://github.com/FlagOpen/FlagEmbedding). If you are looking for a model that supports more languages,...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...