deep-symbolic-mathematics/LLM-SR

🔍 LLM-SR: Khám phá phương trình khoa học bằng lập trình với LLM

Kết hợp kiến thức khoa học của LLM, sinh code và tìm kiếm tiến hóa để tìm phương trình từ dữ liệu.

LLM-SR là cách tiếp cận mới cho khám phá phương trình khoa học và hồi quy biểu tượng, dùng LLM. Dự án biểu diễn phương trình dưới dạng khung chương trình, kết hợp kiến thức khoa học và sinh code của LLM với tìm kiếm tiến hóa để tạo giả thuyết linh hoạt theo tiên đề miền. Thử nghiệm trên các bài toán vật lý, sinh học, vật liệu cho hiệu suất vượt trội.

✨ Điểm nổi bật

• Biểu diễn khung chương trình: Phương trình dưới dạng skeleton cho phép sinh giả thuyền linh hoạt.
• Kết hợp LLM + tìm kiếm tiến hóa: Dùng kiến thức LLM và tìm kiếm để tối ưu phương trình.
• Hỗ trợ chạy local và API: Dùng LLM nguồn mở (Mixtral) hoặc GPT qua API.
• Bộ dữ liệu đa ngành: Vật lý, sinh học, vật liệu với các bài toán oscillator, bactgrow, stressstrain.
• Tối ưu đa dạng: Hỗ trợ numpy+BFGS và torch+Adam tùy spec.
• Benchmark thử thách: Đề xuất dataset mới đánh giá sâu hơn trường hợp ghi nhớ.

💡 Vì sao đáng chú ý

LLM-SR khác biệt bằng cách dùng LLM không chỉ sinh code mà còn kết hợp tìm kiếm tiến hóa để tinh chỉnh phương trình. Phương pháp này đặc biệt mạnh trong general hoá ra ngoài domain so với các phương pháp truyền thống. Dự án còn chỉ ra hạn chế của benchmark hiện tại và đưa ra phiên bản khó khăn hơn để đánh giá thực sự.

#EquationDiscovery #SymbolicRegression #LLM #ScientificAI #TiniX