Thụy Sĩ
CMU-SAFARI/Pythia
A customizable hardware prefetching framework using online reinforcement learning as described in the MICRO 2021 paper by Bera et al. (https://arxiv.org/pdf/2109.12021.pdf).
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Pythia: Prefetch phần cứng thông minh bằng học tăng cường trực tuyến
Pythia biến bài toán hardware prefetch thành một tác vụ học tăng cường, quan sát ngữ cảnh chương trình và nhận phản hồi để ra quyết định prefetch chính xác.
Pythia là một khung prefetch phần cứng nhẹ, khả thi trên phần cứng, sử dụng học tăng cường trực tuyến để tạo ra các yêu cầu prefetch chính xác, kịp thời và nhạy với trạng thái hệ thống. Dự án được trình bày tại MICRO 2021 bởi Rahul Bera và đồng nghiên cứu của CMU-SAFARI. Pythia được triển khai trên mô phỏng ChampSim và tích hợp hỗ trợ nhiều trình prefetch hiện có.
✨ Điểm nổi bật
- Formulate prefetch as RL task: Biến toán bài toán prefetch thành học tăng cường, dùng ngữ cảnh chương trình để quyết định.
- Online training với reward: Huấn luyện trực tuyến, nhận reward dựa trên chất lượng prefetch và tình trạng băng tần bộ nhớ.
- Hardware-realizable: Thiết kế nhẹ, có thể triển khai trên phần cứng thực tế.
- Tích hợp nhiều trình prefetch truyền thống: Hỗ trợ Stride, Streamer, SMS, AMPM, BOP, SPP, Bingo, IPCP, DSPatch, MLOP...
- Dựa trên ChampSim: Mở rộng pipeline tích hợp prefetcher trong ChampSim để hỗ trợ đánh giá đa dạng.
- Hỗ trợ đa lõi: Cung cấp script build cho cả cấu hình đơn và đa lõi.
- HDL Implementation: Cung cấp bản cài đặt HDL để mô phỏng trên nền tảng FPGA/ASIC.
- Trace preparation tự động: Cung cấp script tải trace và công cụ thu thập thống kê thử nghiệm.
💡 Vì sao đáng chú ý
Pythia khác biệt từ các phương pháp prefetch truyền thống bằng cách áp dụng học tăng cường để học hành vi prefetch tối ưu dựa trên ngữ cảnh chương trình thời gian thực. Thay vì dùng quy tắc cố định, Pythia tự điều chỉnh chiến lược dựa trên phản hồi từ hệ thống. Điều này giúp Pythia đáp ứng tốt với nhiều kiểu ứng dụng và tình huống băng tần khác nhau.
Phù hợp cho nghiên cứu kiến trúc máy tính, đặc biệt là trong lĩnh vực tối ưu hiệu năng bộ nhớ và thiết kế prefetcher thông minh.
#Prefetcher #ReinforcementLearning #ChampSim #ComputerArchitecture #MICRO2021 #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
🧑🏫 60+ Implementations/tutorials of deep learning papers with side-by-side notes 📝; including transformers (original, xl, switch, feedback, vit, ...), optimizers (adam, adabelief, sophia, ...), gans(cyclegan, stylegan2, ...), 🎮 reinforcement learning (ppo, dqn), capsnet, distillation, ... 🧠
🧑🏫 60+ Implementations/tutorials of deep learning papers with side-by-side notes 📝; including transformers (original, xl, switch, feedback, vit, ...), optimizers (adam, adabelief, sophia, ...), gans(cyclegan, stylegan2, ...), 🎮 reinforcement learning (ppo, dqn), capsnet, distillation, ... 🧠
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
Implement a ChatGPT-like LLM in PyTorch from scratch, step by step
Tensors and Dynamic neural networks in Python with strong GPU acceleration
12 weeks, 26 lessons, 52 quizzes, classic Machine Learning for all