关注百度蜘蛛IP 近距离了解站点收录情况

来源:岁月联盟 编辑:exp 时间:2013-12-08

  众所周知,百度蜘蛛,是百度搜索引擎的一个自动程序,它的作用是访问收集整理互联网上的网页、图片、视频 等内容,然后分门别类建立索引数据库, 使用户能在百度搜索引擎中搜索到您网站的网页、图片、视频等内容。分析和了解百度蜘蛛你可以很直观的掌握自己站点收录情况,当你了解百度蜘蛛以及其对应蜘 蛛IP的含义后,你再也不必要在不知情的情况因为站点迟迟不为百度收录而烦恼,也不会因为百度短暂的快照不更新而放弃原本一颗坚持建站的心,那么剩下的就 只有肯勤奋的付出,坚持原创,坚持外链,站点可观的收录和理想的排名将成为水到渠成的事,这一切只因为你深刻了解百度蜘蛛。

  那么我们通过什么方式去了解一个个搜索引擎的蜘蛛程序呢?

  其实很简单,每一个蜘蛛程序就犹如一个用户,他对任意站点的访问,都尤其访问的轨迹,linux主机下我们完全可以透过网站主机日志文件去观察和分 析各大搜索引擎的蜘蛛来访情况,并根据来访Ip去分析和判断当前站点具体收录情况,了解和分析站点目前所存在的问题,诸如:URL是否符合蛛蛛抓爬习 惯,robots.txt文件是否设置合理,网站结构是否合理等。本文主要以百度蜘蛛作为分析和介绍对象,从而帮助站长能更好的针对自己的站点进行SEO优化和推广。

  首先,我们先来看看一下具体的日志截图(该截图来源于本博客网站)

  

untitled

 


  百度蜘蛛IP分析

  透过以上截图可以得知百度蜘蛛来访时以Baiduspider名称显现,并且来访IP存在多个,那么多的百度蜘蛛IP到底分别是代表啥呢?

  在百度站长平台《百度spider介绍》一文中已有相应的解释、并且清楚的说明百度不同的产品使用不同的user-agent

 

QQ截图20131207094137

  本人在此也不具体分解,有了解必要的朋友可以去参看原文,原文地址:http://zhanzhang.baidu.com/wiki/161

  今天想给大家介绍的主要是百度蜘蛛IP、从本博客的站点日志截图可看出,Baiduspider是多个IP来访的,那么具体分

  为哪几类蜘蛛、具体有代表啥意义呢?

  一、代表性沙盒蜘蛛IP:

  123.125.68.* 这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。

  220.181.68.* 每天这个IP 段只增不减很有可能进沙盒或K站。

  二、代表性正常蜘蛛IP:

  220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。

  121.14.89.* 这个ip段作为度过新站考察期。

  203.208.60.* 这个ip段出现在新站及站点有不正常现象后。

  210.72.225.* 这个ip段不间断巡逻各站

  125.90.88.* 广东茂名市电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或SEO综合

  检测造成的。

  220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对

  错不了的,我保证。

  220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页

  基本24小时放出来。

  123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。

  220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24

  小时放出来。

  220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  注:以上IP尾数还有很多,但段位一样的123.125.71.*段IP 代表抓取内页收录的权重比较低.可能由于你采集文章或拼

  文章暂时被收录但不放出来.(意思也就是说待定)。

  220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照

  在了解蜘蛛IP对应的作用和含义后,我们如何判断百度到底有无收录或抓取站点内容呢?大家可以根据每一行日志后

  抓取返回的状态响应码去分析:

  1、成功抓取 返回代码是 200 0 0;

  2、网站没更新 返回代码是304 0 0;

  3、蜘蛛来过 返回的是200 0 64

  本文由《点滴互动》SEO优化 栏目整理提供,转载须注明出处,谢谢!