MoyuFamily/ai-relay
Open-source AI API Gateway | Serverless & VPS Self-hosted | Vercel, Cloudflare & Local | Multi-Provider, Smart Routing, Key Rotation & Failover
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🚀 AI Relay — Gateway đa nhà cung cấp AI, triển khai 1-click hoặc chạy local
Một endpoint quản lý toàn bộ API AI: tự động xoay Key, chuyển đổi nhà cung cấp, failover thông minh, hỗ trợ OpenAI/Claude/DeepSeek.
AI Relay là một API Gateway serverless giúp bạn tích hợp nhiều nhà cung cấp AI lớn (OpenAI, Claude, DeepSeek, MiMo…) thông qua một endpoint thống nhất. Tự động xoay API Key, hỗ trợ chuỗi failover, bảo vệ qua circuit breaker, đồng thời tương thích ngay với OpenAI SDK mà không cần thay đổi code. Hỗ trợ 3 cách triển khai: Vercel, Cloudflare, hoặc CLI local.
✨ Điểm nổi bật
- Triển khai 1-click: Hỗ trợ deploy nhanh trên Vercel, Cloudflare Pages hoặc chạy local bằng CLI.
- Đa nhà cung cấp: Kết nối OpenAI, Claude, DeepSeek, MiMo… qua một endpoint thống nhất.
- Xoay Key tự động: Round-robin + 429 backoff, tránh lỗi do Key hết hạn.
- Failover đa cấp: Chuyển đổi Provider → Key tự động khi lỗi, có thể cấu hình chiến lược phục hồi.
- Circuit Breaker: Tự động ngắt kết nối khi Provider liên tục lỗi.
- Tương thích OpenAI: Dùng ngay với OpenAI SDK chỉ bằng cách thay đổi
base_url. - Quản lý qua Admin Web: Giao diện web quản lý Key, quota, thống kê usage.
- Thống kê Token chính xác: Hỗ trợ lưu trữ SQLite local để thống kê chi tiết.
💡 Vì sao đáng chú ý
AI Relay khác với các giải pháp khác ở khả năng hợp nhất đa nhà cung cấp AI trong một lớp đường mòn duy nhất, kèm theo đó là cơ chế failover và xoay Key thông minh giúp tối ưu chi phí và độ tin cậy. Đặc biệt phù hợp với người dùng muốn tránh việc quản lý nhiều endpoint riêng lẻ, đồng thời hỗ trợ linh hoạt từ triển khai đám mây serverless cho đến môi trường local.
#AIRelay #APIGateway #OpenAI #LLM #Serverless #Vercel #Cloudflare #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Build Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so teams move from prototype to production without rebuilding the stack.
AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mission is to provide the tools, so that you can focus on what matters.
Supercharge your AI agents with data from the web and beyond. Building the library for superintelligence. 🔥
Fair-code workflow automation platform with native AI capabilities. Combine visual building with custom code, self-host or cloud, 400+ integrations.
21 Lessons, Get Started Building with Generative AI
Python tool for converting files and office documents to Markdown.