Discuz!小编 发表于 2025-11-9 21:44:17

问个seo问题，为什么百度蜘蛛一直在抓去大量的TAG页和会员的资料页，没有抓取帖子页和板块页 New

网站地图里没有TAG页和会员的资料页，理解不了


我知道答案 回答被采纳将会获得1 贡献 已有3人回答

杰克 发表于 2025-11-9 21:44:41

我的理解是：聚合，TAG聚合了帖子，个人资料里面包含个人的主题。

KarlMock59 发表于 2025-11-9 21:45:07

百度的蜘蛛，是最蠢和最不守规则的。
另外，当下AI时代，好多AI数据抓取是用的这类蜘蛛来抓，他们要抓大量索引，正如上面说的，tag和个人资料里，都有大量索引数据

KarlMock59 发表于 2025-11-9 21:45:58

蜘蛛就是乱爬。这和他收录不收录没关系
页: [1]
查看完整版本: 问个seo问题，为什么百度蜘蛛一直在抓去大量的TAG页和会员的资料页，没有抓取帖子页和板块页 New