XuehaiPan/nvitop

🖥️ nvitop: Giám sát GPU NVIDIA đa tính năng trên terminal

Một công cụ giám sát GPU tương tác mạnh mẽ, vượa xa nvidia-smi với giao diện trực quan và nhiều tính năng cao cấp.

nvitop (NVIDIA + top) là một công cụ xem và quản lý tiến trình GPU NVIDIA trên terminal mang tính tương tác cao. Phát triển bởi Xuehai Pan, dự án cung cấp giao diện màu sắc, cập nhật liên tục trạng thái thiết bị và tiến trình, đồng thời hỗ trợ đa dạng tính năng như biểu đồ thanh, lọc tiến trình, gửi tín hiệu đến tiến trình và chế độ xem dạng cây. Ngoài chế độ giám sát, nvitop còn cung cấp công cụ chọn thiết bị CUDA nvisel và các API mạnh mẽ giúp người dùng hoặc nhà phát triển viết ứng dụng giám sát riêng.

✨ Điểm nổi bật

• Giao diện màu sắc đầy thông tin: hiển thị nhiều thông tin hơn nvidia-smi với khung vẽ màu sắc sinh động.
• Chế độ giám sát liên tục: hoạt động như một resource monitor, cập nhật trạng thái theo thời gian thực.
• Biểu đồ và lịch sử: hỗ trợ vẽ biểu đồ thanh và đường biểu diễn lịch sử sử dụng GPU.
• Sắp xếp và lọc tiến trình: người dùng có thể sắp xếp và lọc tiến trình theo nhu cầu.
• Gửi tín hiệu nhanh: hỗ trợ gửi tín hiệu (signal) đến tiến trình chỉ bằng một phím tắt.
• Chế độ cây (tree-view): hiển thị quan hệ giữa tiến trình GPU và tiến trình cha của chúng.
• Công cụ chọn thiết bị CUDA nvisel: hỗ trợ nghiên cứu sâu học máy bằng cách chọn thiết bị CUDA một cách thông minh.
• API phát triển thêm: cung cấp các API cấp thấp cho phép viết công cụ giám sát tùy chỉnh.

💡 Vì sao đáng chú ý

Khác với nvidia-smi chỉ in kết quả một lần, nvitop mang lại trải nghiệm giống htop hoặc top — liên tục cập nhật và tương tác trực tiếp trên terminal. Điều này giúp người dùng dễ dàng theo dõi và quản lý tài nguyên GPU một cách hiệu quả, đặc biệt hữu ích trong môi trường đào tạo mô hình AI đòi hỏi kiểm soát chặt chẽ tiến trình đang chạy. Ngoài ra, việc cung cấp API mở rộng giúp nvitop trở thành nền tảng cho các công cụ giám sát tùy chỉnh, phù hợp cả cho người dùng thông thường và nhà phát triển.

#GPUMonitoring #NVIDIA #Python #TerminalTools #TiniX