Trung Quốcshengqiangzhang/examples-of-web-crawlers
一些非常有趣的python爬虫例子,对新手比较友好,主要爬取淘宝、天猫、微信、微信读书、豆瓣、QQ等网站。(Some interesting examples of python crawlers that are friendly to beginners. )
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🤖 Hơn 20 ví dụ crawler Python thực tế, thân thiện với người mới
Tập trung vào các trang web phổ biến như Taobao, Tmall, Douban, Tianyancha... kết hợp Selenium, PyQuery và Requests.
Đây là kho lưu trữ mở nguồn chứa nhiều ví dụ về web crawler bằng Python, được thiết kế với mã nguồn dễ đọc và chú thích chi tiết. Dự án hướng đến người mới bắt đầu muốn học cách crawl dữ liệu từ các trang web phổ biến như Taobao, Tmall, WeChat, Douban, QQ...
✨ Điểm nổi bật
- Đăng nhập mô phỏng: Sử dụng Selenium để tự động đăng nhập Taobao/Tmall thông qua Weibo.
- Crawl sản phẩm: Lấy dữ liệu sản phẩm từ trang TMall đã đăng nhập.
- Lịch sử mua hàng: Crawl danh sách mặt hàng đã mua trên Taobao.
- Nhắn tin tự động: Gửi tin nhắn định thời đến vợ/chủ qua WeChat.
- Crawl hình nền: Tải hình nền 5K chất lượng cao từ Pap.er.
- Phân tích phim: Crawl dữ liệu phim từ Douban bao gồm cả giao diện GUI.
- Dữ liệu tài chính: Crawl dữ liệu cổ phiếu và quỹ từ Tianyancha bằng đa luồng và proxy pool.
💡 Vì sao đáng chú ý
Dự án không chỉ cung cấp mã nguồn mà còn hướng dẫn chi tiết cách cài đặt môi trường, đường dẫn chromedriver và cấu hình tài khoản. Đây là nguồn học tập rất hữu ích cho người mới muốn nhanh chóng thực hành với các kỹ thuật crawl thực tế. Các ví dụ được cập nhật liên tục và phù hợp với nhu cầu học tập cá nhân hoặc dự án nhỏ.
#Python #WebCrawler #Selenium #PyQuery #OpenSource #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
🕷️ The BEST Web Scraping framework that handles everything from a single request to a full-scale crawl! Don't be shy, join here: https://discord.gg/EMgGbDceNQ and follow here for daily tips and tricks: https://x.com/Scrapling_dev
Open-source web crawler and scraper for LLMs and AI agents: any website into clean, LLM-ready Markdown. Run it yourself, or use Crawl4AI Cloud with one key. Join our Discord https://discord.gg/VuxzM8mtf
Supercharge your AI agents with data from the web and beyond. Building the library for superintelligence. 🔥
:octocat: 分享 GitHub 上有趣、入门级的开源项目。Share interesting, entry-level open source projects on GitHub.
A visual no-code/code-free web crawler/spider易采集:一个可视化浏览器自动化测试/数据采集/网页爬虫软件,可以无代码图形化的设计和执行爬虫任务。别名:ServiceWrapper面向Web应用的智能化服务封装系统。