分析百度蜘蛛抓取频次数量与网页不收录原因

Spider对网站抓取数量突增往往给站点带来很大烦恼，纷纷找平台想要BaiduspiderIP白名单，但实际上BaiduSpiderIP会随时变化，所以并不敢公布出来，担心站长设置不及时影响抓取效果。百度是怎么计算分配抓取频次数量的呢？站点抓取频次数量暴增的原因有哪些呢？总体来说，Baiduspider会根据站点规模、历史上网站每天新产出的链接数量、已抓取网页的综合质量打分等等，来综合计算抓取频次数量，同时兼顾站长在抓取频次工具里设置的、网站可承受的抓取值。从目前追查过的抓取频次数量突增的case中，原因可以分为以下几种： 1、Baiduspider发现站内JS代码较多，调用大量资源针对JS代码进行解析抓取 2、百度其他部门（如商业、图片等）的spider在抓取，但频次数量没有控制好，sorry 3、已抓取的链接，打分不够好，垃圾过多，导致spider重新抓取 4、站点被攻击，有人仿冒百度爬虫（推荐阅读：《如何正确识别BaiduSpider》）如果站长排除了自身问题、仿冒问题，确认BaiduSpider抓取频次数量过大的话，可以通过反馈中心来反馈，切记一定要提供详细的抓取日志截图。百度不收录页面的原因分析：目前百度spider抓取新链接的途径有两个，一是主动出击发现抓取，二就是从百度站长平台的链接提交工具中获取数据，其中通过主动推送功能收”上来的数据受百度spider的欢迎。对于站长来说，如果链接很长时间不被收录，建议尝试使用主动推送功能，尤其是新网站，主动推送首页数据，有利于内页数据的抓取。那么同学们要问了，为什么我提交了数据还是迟迟在线上看不到展现呢？那涉及的因素可就多了，在spider抓取这个环节，影响线上展现的因素有： 1、网站封禁：你别笑，真的有同学一边封禁着百度蜘蛛，一边向百度狂交数据，结果当然是无法收录。 2、质量筛选：百度蜘蛛spider30对低质内容的识别上了一个新台阶，尤其是时效性内容，从抓取这个环节就开始进行质量评估筛选，过滤掉大量过度优化等页面，从内部定期数据评估看，低质网页比之前下降62%。 3、抓取失败：抓取失败的原因很多，有时你在办公室访问完全没有问题，百度spider却遇到麻烦，站点要随时注意在不同时间地点保证网站的稳定性。 4、配额限制：虽然我们正在逐步放开主动推送的抓取配额，但如果站点页面数量突然爆发式增长，还是会影响到高质链接的抓取收录，所以站点在保证访问稳定外，也要关注网站安全，防止被黑注入。