stimm-ai/stimm

🚀 Stimm: Nền tảng Voice Agent thời gian thực với Optimistic VUI

Stimm mang tư duy Optimistic UI vào thế giới giọng nói: nhận biết ngay, phản hồi sớm, và suy luận song song.

Stimm là một runtime Optimistic VUI xây dựng trên nền tảng livekit-agents. Thay vì yêu cầu người dùng chờ đợi toàn bộ chuỗi suy luận hoàn tất, Stimm bắt đầu hoạt động ngay khi có đủ độ tin cậy để tiếp tục cuộc trò chuyện. Dự án được thiết kế cho những trường hợp cần một agent giọng nói phản hồi nhanh nhưng vẫn duy trì khả năng sử dụng công cụ, lập kế hoạch và giám sát sâu.

✨ Điểm nổi bật

• Optimistic VUI: Nhận biết người dùng ngay lập tức, bắt đầu phản hồi sớm và giữ cho cuộc trò chuyện luôn có thể ngắt và điều chỉnh.
• Vòng lặp thấp độ trễ: VAD -> STT -> LLM nhanh -> TTS, tối ưu cho trải nghiệm thời gian thực.
• Kiến trúc song người dùng: VoiceAgent xử lý lượt trò chuyện trực tiếp, Supervisor suy luận và lên kế hoạch ở nền.
• Giao thức có kiểu dữ liệu: Hỗ trợ cả Python và TypeScript cho các module giám sát.
• Quy trình cài đặt thông minh: Khám phá nhà cung cấp trước, cài đặt phụ thêm sau thông qua wizard.
• Hỗ trợ đa nhà cung cấp: Cài đặt linh hoạt các plugin như Deepgram, OpenAI, Azure OpenAI chỉ với một lệnh.

💡 Vì sao đáng chú ý

Stimm khác biệt từ các nền tảng voice agent truyền thống bằng cách tách rõ quá trình phản hồi và suy luận. Trong khi VoiceAgent chịu trách nhiệm duy trì luồng trò chuyện mạch lạc và phản hồi nhanh, Supervisor có thời gian xử lý sâu hơn như gọi công cụ hay lấy thông tin bổ sung — tất cả diễn ra đồng thời mà không làm chậm tốc độ nhận phản hồi ban đầu. Kiến trúc này đặc biệt phù hợp với các ứng dụng như trợ lý hỗ trợ khách hàng, trợ lý điện thoại SIP hoặc các trải nghiệm giọng nói nhúng nơi độ trễ nhận thức là yếu tố then chốt.

#VoiceAgent #LiveKit #OptimisticVUI #LowLatency #OpenSource #TiniX