scrapy fromrequest 和 requests有什么区别

2025-04-15 14:43:51
推荐回答(1个)
回答1:

你好

正如很多人说的,requests是库,scrapy是框架,题主可能是对框架这个概念不太熟悉。

我们可以看看scrapy的框架图:

  • 这一框架就像一条爬虫流水线,有工作队列、有下载器、有分配任务的引擎,有对爬取数据写逻辑的地方、也有写保存处理数据的数据库SQL的地方。对于scrapy而言,更多的时候是在配置scrapy。先要继承一个spider写爬虫的主体,然后还要在setting里写配置,在pipeline里写数据库。而且还要注意在主函数parse里的返回值,返回item时是交给pipline做数据处理,返回Request回调函数时是向爬取队列注册二级链接等等。

  • 这样看scrapy使用时比requests要繁琐很多,后者只需要调用一下requests类,然后配置一下成员变量就可以使用,但获取到html后其他的事情就都得你自己处理,自己写的代码还不是最好的。而scrapy在配置好后就可以很顺畅的跑起来,还会自动处理很多东西,而且往往效率比自己造的轮子效率高。

希望对你有帮助