Google 的约翰·穆勒 (John Mueller) 表示,没有基准可以确定网站的最佳抓取预算。

这是对 Reddit 线程搜索引擎优化 (SEO) 的回应,该线程询问 Googlebot 是否应该每天抓取理想的页面百分比。这个问题背后的想法是,如果 Googlebot 定期抓取内容,内容可能会保持新鲜。

这里是完整的问题:

“虽然每个人都在谈论抓取预算,但我没有找到具体的限制或范围。例如,每天应该被抓取GoogleBot 爬取的页面总数(或每天所做的总更改数)的最小百分比应该是多少才能保持内容新鲜?

我知道这可能有很大差异,因为在很大程度上取决于网站 Static/上的可变内容。我只是想了解如何对抓取预算进行基准测试。”

作为回应,Muller 只是说,“没有数字。”

p>

因此,如果您希望增加抓取预算,那确实没有理想的目标。但是,这并不是说优化网站的抓取预算没有任何好处。

什么是抓取预算?

简而言之,抓取预算是 Googlebot 能够抓取(基于网站速度)和想要抓取(基于用户需求)的网址数量。

较高的抓取预算有助于保持热门内容的新鲜度,并有助于防止旧内容过时。

请参阅:Google 的 Gary Illyes 解释 Googlebot 抓取预算

影响抓取预算的因素

提高抓取预算的最佳方法之一是限制您网站上的低附加值网址,例如:

  • 分面导航和会话标识符
  • 现场重复内容
  • 软错误页面
  • 被黑页面
  • 无限空间和代理
  • 低质量和垃圾内容

这些类型的页面可以进行抓取从您网站上更重要的页面窃取活动。

建议网站所有者在 Search Console 中监控抓取错误报告,并将服务器错误降至最低。

另请参阅:优化 SEO 抓取预算的 7 个技巧