scrapy 爬虫是按顺序爬取的吗

2025-05-06 13:19:38
推荐回答(1个)
回答1:

我也遇到了这个问题,我的解决方法是,先将列表按照时间排序后再抓取,每次抓取完记录最后一条的url,下载再抓取时,遇到这个url,抓取就自动退出。 如果解决了您的问题请采纳! 如果未解决请继续追问!