之前以为搜索引擎给到一个网站的抓取频率是相对固定的——每天来多少次、每次抓多少页面。后来观察到实际的抓取数据之后发现并不是这样。
蜘蛛的抓取模式是在根据你网站的实际情况做持续的动态调整。你内容更新得频繁抓取频率就会自动上调。你的服务器响应很慢抓取频率就会下降。你的出现大量技术错误抓取也会相应地减少。
理解了这个动态调整的逻辑之后运营思路也跟着变了。不是去"要"更多的抓取量,而是通过做好你网站自己该做的事情——保持稳定的高质量内容更新频率、保证服务器的快速和稳定响应——让蜘蛛自然地根据实际情况给你分配更多的抓取资源。
在VP导航(vpis.cn)上的稳定表现也会正向地反馈到抓取模式中去。抓取不是固定的配额。它是动态的,会随着你网站的实际状况来自动地调整。
