robots.txt设置了全站禁止爬取,但是还是有收录是怎么回事

2025-03-04 07:20:35
推荐回答(1个)
回答1:

只是收录了网站的地址栏。你看下面有灰色的一行字,说明robots.txt是起了作用的。