maze-agent/Maze

🧩 Maze: Framework phân tán cho LLM agents

Maze xây dựng workflow agent phân tán từ task nhỏ tới cluster lớn — không cần viết lại logic framework hiện tại.

Maze (maze-agent/Maze) là một framework Python phân tán thiết kế để chạy các agent LLM một cách có hệ thống và có khả năng mở rộng. Thay vì giới hạn ở một tiến trình đơn, Maze cho phép bạn phân phối công việc của agent lên nhiều nút (node), quản lý tài nguyên CPU/GPU, và ghi lại toàn bộ lịch sử chạy dưới dạng snapshot bền vững. Dự án hỗ trợ cả triển khai độc lập (standalone) lẫn cụm máy chủ (cluster), đồng thời cung cấp giao diện Playground trực quan để thiết kế workflow, theo dõi chạy, và quản lý tài nguyên.

✨ Điểm nổi bật

• Quản lý task cấp độ: hỗ trợ task parallelism và append_task để tạo workflow động tại thời gian chạy.
• Quản lý tài nguyên: phân bổ CPU/GPU/I/O cho từng task, tránh tranh chấn tài nguyên trong và giữa các workflow.
• Snapshot bền vững: ghi nhận run/task history, lifecycle events, lỗi có cấu trúc, retry/timeout/cancel, và trạng thái hàng đợi.
• Triển khai phân tán: hỗ trợ standalone hoặc cluster, dễ dàng mở rộng để đáp ứng tải lớn.
• ReAct + MCP: hỗ trợ chạy ReAct với MCP server, bao gồm cấu hình, kiểm thử, và theo dõi trace chi tiết.
• Store nội dung địa chỉ: sử dụng maze://artifacts/sha256/... để truyền input/output mà không cần filesystem chung.
• Sandbox: cô lập môi trường chạy agent an toàn cho các task thử nghiệm.
• Playground trực quan: giao diện web hỗ trợ workspace, upload/download file, và thiết kế task từ ngôn ngữ tự nhiên.

💡 Vì sao đáng chú ý

Maze khác biệt từ các framework agent khác bằng cách tách nhỏ logic thành các task độc lập và phân phối chúng trên cụm. Điều này giúp tận dụng tối đa tài nguyên phần cứng và cải thiện hiệu năng tổng thể của workflow. Ngoài ra, Maze còn có thể đóng làm backend thời gian chạy cho các framework khác như LangGraph, giúp chúng nhận được khả năng song song cấp task mà không cần thay đổi mã nguồn gốc.

#LLMAgents #DistributedSystems #Python #ReAct #TiniX