兜爸网络工作室
详解百度蜘蛛IP段代表的不同含义
2012-8-11 兜爸


根据不同的IP我们可以分析网站是个怎样的状态.下面 就按照IIS日记上的百度蜘蛛IP为例:



123.125.68.*这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。



220.181.68.*每天这个IP 段只增不减很有可能进沙盒或K站。



220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。



121.14.89.*这个ip段作为度过新站考察期。



203.208.60.*这个ip段出现在新站及站点有不正常现象后。



210.72.225.*这个ip段不间断巡逻各站。



125.90.88.* 广东茂名市电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或SEO综合检测造成的。



220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对错不了的,我保证。



220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页基本24小时放出来。



123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。



220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。



220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24小时放出来。



220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。



123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。



220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。



123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。



220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。



注:以上IP尾数还有很多,但段位一样的123.125.71.*段IP 代表抓取内页收录的权重比较低.可能由于你采集文章或拼文章暂时被收录但不放出来.(意思也就是说待定)。



220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照的,这点我可以保证!







相信做网站的朋友,一般是电信网络的话,有观察IIS日志的话基本上都知道一般的百度蜘蛛的IP是220.181.108.*(这是我自己网站的蜘蛛IP,不代表全部人的,只是列出来做个参考),是北京电信的IP。







之后一直都是保持220.181.108.*这个IP段,其中经历了整站改版和上线,但是这个IP在之后的一个月中都没有改变,说明改版并不能影响蜘蛛对网站的抓取、看法和态度(这里指的是仍然派同一个性质的ZZ和网站打交道)。在改完版一个月后,服务器因为所在机房的部分原因受到了影响,出现了问题导致了网站不能打开,一直持续了长达7天之久!足足7天网站都打不开,造成的影响是继改版后流量下降的再次下降,而百度蜘蛛由原来220.181.108.*的IP现在也大部分变成了123.125.71.*。







上图是IP排名的前十位,从图中可以看出,22号还是正常的蜘蛛IP(220.181.108.*的,在这之前也一直都是这个IP;23~28号是空置期,服务器有问题的时间,29号才正式恢复),29号的前十IP数据中已经有部分出现123.125.71.*的数据了,还有一些其它的IP,我都分别查看过,几乎都是抓取错误状态码503的蜘蛛;在30号的时候,前十几乎已经全是123.125.71.*的IP了,在31号的时候就已经完全是123的蜘蛛了。







在这个改变的过程中,主要原因是服务器出现问题(网站不能打开)导致的,也看了很多网络上和人的说法认为这种IP的蜘蛛是属于“降权蜘蛛”(即这种蜘蛛出现时代表网站即将降权)。







最开始我也是这么认为的,我站是在29号出现“降权蜘蛛”,7月30号的时候收录还是693000,之后半个月升升降降,在17号时是774000,18号突然降到了184000,“降权蜘蛛”出现了半个月,网站收录受到了打击,这是让我相信的源头。







为了验证这个信息是否属实,我将220.181.108.*的蜘蛛和123.125.71.*的蜘蛛以及22号,29号,30号不同IP段的蜘蛛各挑选其中一个IP进行了分析,经过分析发现220和123这两个IP的蜘蛛并没有太大的区别,它们爬行的页面、返回的状态码以及爬行的频率几乎没有太大的改变,而且我的站点从220的IP变成了“降权蜘蛛”的IP,收录方面每天只能够收录1K左右页面。







查询日期是8月25日,最近30天也就是7月25到8月25,这段期间的主要爬行蜘蛛的IP是123.125.71.*,也就是“降权蜘蛛”。还记得上文中提过收录在18号降到了184000,之后的日子一直到今天(8月25日),收录都有上升的趋势,下图是收录历史,今天的收录是18万8000,几乎每天增长1千。







再看看蜘蛛来访量吧,22号前百度的ZZ日访问平均次数为1千次,总抓取平均量为120000。而22号之后的日访问平均次数在6~7百次,总抓取平均量为6~7万,无论是访问次数或抓取量几乎都减少了一半,而流量自然不必说,在收录减少的同时也受到了毁灭性的打击,欲哭无泪啊。







网站造成这种现象的具体原因尚不明确,6月22是整站改版上线的日子,7月22时是服务器出问题一个星期的日子,而这之间一个月几乎都在调整改版后未完善好的小细节,动的比较多所以不能也不太敢确定具体原因是什么,只能说短期内变动的太频繁了,所以才有今日的恶果。







但就这“降权蜘蛛”的说法个人还是不太认同的,它更适合称作“某时期的蜘蛛”,打个比方网站权重有高、中、低三期,那么这三种不同时期分别会有三种不同IP段的蜘蛛来重点接待。比如我网站原来是中,经过短期的频繁改动让网站原有权重、排名、流量、收录等流失,那么这时的网站就不是原来那个拥有诸多权重的网站,所以百度在发现这一现象后进行了相应的处理,把原有ZZ收回,放出它认为符合你网站的ZZ来招呼你,而明显123的ZZ比之前220的ZZ在访问次数和抓取量上都不是同一个等级的,但是如果要用“降权”来称呼的话,我更喜欢用“不同时期的不同蜘蛛”来说明这个问题。







最后说下怎么应对这种问题。针对这种问题的话还是要先分析出是什么原因导致这种IP的出现,比如我这个,我判断为短期频繁改动(而且是比较大的改动),那我之后一段时间就不敢短期频繁改了,追求稳定的增加链接资源和内容,重新引起ZZ的注意以及重新审视网站,在这个基础上再继续分析数据和调整网站的SEO因素.





评论:
解钲
2024-05-11 16:56 回复
感谢无私分享
哀彤
2024-05-10 13:10 回复
好东西值得分享
潭小倩
2024-05-08 13:00 回复
非常有用,感谢分享
贺纲
2024-05-06 22:03 回复
感谢无私分享
理博嘉
2024-04-28 11:06 回复
好东西值得分享
亥华
2024-04-26 12:53 回复
支持支持,资料真的很好!
甲风光
2024-04-20 22:05 回复
感谢无私分享
左欣阳
2024-04-15 09:17 回复
学一学!!
绍晓涵
2024-04-13 11:06 回复
好东西值得分享
声佳隆
2024-04-11 06:25 回复
好资源
1 2 3 4 5 6 ... »
发表评论:
昵称

邮件地址 (选填)

个人主页 (选填)

内容