欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  网络运营

资讯页不收录怎么回事?原来是站点的抢发行为不友好

程序员文章站 2023-11-02 22:35:04
要知道,搜索引擎每日在互联网上抓取大量的数据存取到数据库中,如果不对抓取内容进行甄别,对服务器来说将会是一个巨大的负担。那么资讯页不收录怎么回事?原来是站点的抢发行为不友... 16-08-25...

  里约奥运会结束了,资讯站点的小编们终于可以松口气了,可有些seoer却高兴不起来:编辑辛苦抢先制作的原创稿件,百度却不!收!录!奥运会期间接到了四五起这样的反馈,经追查,原来是站点的抢发行为不够友好,导致spider抓取失败。结论:

  1,页面制作完成后再放到spider可以发现的地方,这样才能达到最好的抓取效果。

  2,页面未对外公开之前,千万不要通过工具推送给百度呀。

  接到站长反馈后,联系了spider工程师,工程师在后台查询了这些未收录的链接,发现均显示为“死链”,然而这些所谓的死链现在访问都是好好的。根据后台显示的抓取时间,反复和站点进行沟通,终于找到了根源:原来,站点为了抢新闻,提前制作了新闻稿并制作成链接并且发布,虽然没有在首页等重要页面推送给用户,但却被baiduspider发现,更重要的是,这些链接向baiduspider返回的状态码是404。

  举个例子,中国女排进入决赛后,某网站做了a和b两个页面,分别为夺冠和摘银,为了防止用户在比赛结束之前阅读到页面内容,站点将两个链接都设置为404!404!(等到比赛结束后,再将其中一个页面的html返回码改为200)。虽然页面并没有向用户推送,但还是被聪明的baiduspider发现。然而这里的问题是,baiduspider发现页面是404,又无法判断出这是一个重要页面,于是直接打入冷宫不再理睬。

  所以,小编反复强调,确认页面真的不需要被搜索引擎保留时可以使用404(临时闭站可使用百度站长平台的闭站保护工具),如果还希望和搜索引擎保持友好关系的话,请使用503,防止页面被删除。虽然baidu有对高价值内容的“删除保护”功能,但毕竟不是每个站点都可以享受到这个特权的。