Crwy是一个轻量级的爬虫抓取框架,参考Scrapy框架结构开发而来。该框架提供了实用的爬虫模板,旨在帮助大家快速实现爬虫任务,高效开发。并为scrapy使用者提供通用轮子^.^。新增了gevent,使爬虫异步执行,速度更快。
- Python3
- Works on Linux, Mac OSX
快速安装
pip install crwy
or 前往下载: https://pypi.python.org/pypi/Crwy/
- 完善scrapy_plugs
- 完善selenium_api
- 兼容python3