scrapy是目前非常热门的一种爬虫框架,它把整个爬虫过程分为了多个独立的模块,并提供了多个基类可以供我们去自由扩展,让爬虫编写变得简单而有逻辑性。 并且scrapy自带的多线程、异常处理、以及强大的自定义Settings也让整个数据抓取过程变得高