Disiok/poetry-seq2seq

🧠 Sinh thơ cao truyền với Seq2Seq và Attention

Một dự án mã nguồn mở dùng TensorFlow và kiến trúc RNN Encoder-Decoder để tạo ra các bài thơ Trung Quốc kiểu lục bát, tích hợp cơ chế chú ý (attention) và các kỹ thuật cải tiến từ mô hình Neural Network có lập kế hoạch.

Dự án poetry-seq2seq do người dùng Disiok phát triển, nhằm cài đặt và nâng cấp hệ thống sinh thơ Trung Quốc dựa trên công trình "Chinese Poetry Generation with Planning based Neural Network". Dự án sử dụng kiến trúc mạng RNN kết hợp encoder-bidirectional và decoder-attention, hỗ trợ nhiều chế độ huấn luyện và sinh như scheduled sampling, greedy decoding, sampling, cùng các công cụ đánh giá như kiểm tra nhịp điệu và thanh âm.

✨ Điểm nổi bật

• Encoder hai chiều (Bidirectional Encoder): sử dụng RNN hai chiều để mã hóa đầu vào, nắm bắt ngữ cảnh hai chiều từ từ khóa.
• Decoder có chú ý (Attention Decoder): tích hợp cơ chế attention giúp mô hình tập trung vào các phần quan trọng của đầu vào khi sinh từng câu thơ.
• Tăng cường nhúng từ (Alignment Boosted Word2Vec): cải tiến nhúng từ thông qua giai thuật căn chỉnh (alignment) giữa từ và ngữ cảnh.
• Hỗ trợ nhiều chế độ tải dữ liệu: bao gồm chế độ chỉ dùng từ khóa, đảo ngược (reversed), và căn chỉnh (aligned).
• Chế độ huấn luyện linh hoạt: hỗ trợ cả huấn luyện với ground truth và scheduled sampling để cải thiện khả năng chung chung.
• Chế độ sinh đa dạng: hỗ trợ sinh thơ bằng greedy decoding và sampling; beam search đang được phát triển.
• Đánh giá chất lượng thơ: kiểm tra nhịp điệu (rhyming) và cấu trúc thanh âm (tonal structure) của bài thơ sinh ra.
• Cơ chế tinh chỉnh đầu ra (Output Refiner): hỗ trợ tinh chỉnh kết quả thơ trước khi trả về người dùng.

💡 Vì sao đáng chú ý

Khác biệt với các dự án sinh thơ đơn thuần dựa trên ngôn ngữ tự nhiên, poetry-seq2seq không chỉ dựa trên mô hình Seq2Seq cơ bản mà còn tích hợp các cải tiến như encoder hai chiều, cơ chế attention và các chiến thuật huấn luyện nâng cao như scheduled sampling. Nhờ đó, mô hình có khả năng sinh ra các câu thơ mạch lạc hơn, tuân thủ cấu trúc nhịp điệu và thanh âm của thơ Trung Quốc truyền thống.

Dự án còn cung cấp công cụ đánh giá tự động dựa trên rhyming và tonal structure — hai yếu tố then chốt trong thẩm mỹ thơ cao truyền. Đây là lựa chọn lý tưởng cho các nghiên cứu sinh, nhà AI yêu thích văn hóa và phát triển ứng dụng sinh nội dung sáng tạo dựa trên kiến thức văn hóa truyền thống.

#Seq2Seq #RNN #ChinesePoetry #TensorFlow #AttentionMechanism #TiniX