您好,欢迎来到聚站网!
当前位置:聚站网 » 站长资讯 » 互联网资讯 » 优化推广 » 文章详细

百度蜘蛛抓取不存在目录 对应的解决方法

来源:网络 浏览:183次 时间:2021-11-16

相信大家在分析百度蜘蛛日志的时候经常会发现一个问题,就是百度蜘蛛经常会抓取一些不存在的目录,比如:我网站没有这些目录,但是百度蜘蛛一直在抓取,或者你会发现百度蜘蛛在抓取自己的隐私目录,或者说php文件,这个是为什么哪?今天就为大家进行详细解析,讲解对应的解决办法,本篇文章干货较多,建议仔细阅读。

1,如果蜘蛛只抓取首页,打死不抓取内页,是什么情况!很简单,域名有问题,一般来讲,如果遇到这种情况,域名目前可能在审核期,也就是说,做过违规行业,或者你的程序有作弊的嫌疑,但是域名的占比较大,如果程序有问题,开始百度蜘蛛也会抓取一些的。

2,如果百度蜘蛛抓取一些隐私文件,例如php、zip、rar什么情况!对于这种情况,你要去判断当前这个IP是不是假蜘蛛文件,因为现在很多IP会自动更改自己的UA,跟百度蜘蛛一样,你无法从蜘蛛日志中分辨,你可以去识别下IP,通过ip138看看是不是蜘蛛IP,如果不是,果断屏蔽掉,如果太多,按照IP段进行屏蔽。

3,如果百度蜘蛛抓取一些隐私目录,真蜘蛛的情况下,怎么处理。如果你确认是真的百度蜘蛛,百度可能是在抓取你的页面内部程序,考察你用的程序的版本,等,这些百度都会有分辨策略的,一般来讲,自己编写的程序,百度都会优先给予高评分,是这样的。我们为了防止蜘蛛抓取我们的隐私目录,我们一般都会用robots.txt进行屏蔽,记住:生效时间24小时左右。

4,如果蜘蛛抓取一些不存在的目录,一些不存在的文件,怎么办?

首先依然是判断是否是真蜘蛛,如果是真蜘蛛,百度抓取一些不存在的目录,是因为,你这个域名之前做过一些站点,现在又开始做,百度会根据之前的评分、URL进行抓取,看看是不是之前的站点又恢复了,一般来讲,这种抓取会在30天内自动消失的,如果30天后一直存在,你就要屏蔽这类链接了,总之:这种抓取对于你的站点,没有太大的伤害,只是排查而已。

另外还有一种情况,如果你把其他的站点301到你当前的域名上,蜘蛛就会按照其他站点的URL来抓取你的网站,这个时候你也会发现百度在抓取一些不存在的目录,不过不用怕,这种对于你的站点没有伤害的。

5,蜘蛛抓取,301、304,、200、403、404、444状态码怎么办?

首先我们要明白,301状态码,就是重定向,如果你的顶级域名,例如daidaiseo.com-》www.daidaiseo.com当百度抓取daidaiseo.com上面的资源时,就会出现301重定向的代码,如果抓取www.daidaiseo.com上面的资源,就会是200状态码,意思是抓取成功。

而抓取304状态码是为什么那?如果你在日志上看到了304状态码,则表示,你的资源一直都没有变化,属于静态页面资源,304状态码,对于网站的影响比较小,一般来讲是做了百度cdn,有缓存,就容易出现304状态码,但只要你每天给百度提交资源,时时保持更新,就没事。

403是权限问题,禁止访问,是你服务器进行了设置,而444则是未找到服务器,404则是空页面,这个页面丢失,这三个状态码,则表示网站出现问题,记住:不要让网站出现大量404,你可以让状态码变成403只是限制访问,如果都是404,则表明网站大量页面不可用,百度评分就会降低,好了,今天就讲解到这么多,后面会陆续分享这方面的知识点。

推荐站点

  • 高仿包高仿包

    竭誠精品-高仿世界名牌包包專賣網主營高仿LV包,高仿GUCCI古奇包,高仿HERMES愛馬仕,高仿CHANEL香奈兒,高仿PRADA,高仿巴黎世家等國際高仿包包、1比1高仿女包、高仿包、精仿奢侈品、世界名包、皮帶、皮具、手表、飾品等。LV新款包包同步香港LV專櫃及LV官方網站,LV行業最好品質!

    awhso.net
  • YY分类目录YY分类目录

    YY分类目录全人工编辑的开放式网站分类目录,收录国内外、各行业优秀网站,旨在为用户提供网站分类目录检索、优秀网站参考、网站推广服务。

    www.yydir.com
  • 70网站目录70网站目录

    全人工编辑的开放式网站分类目录,免费收录国内外、各行业优秀网站,旨在为用户提供网站分类目录检索、优秀网站参考、网站推广服务。

    www.70dir.com
  • 25分类目录25分类目录

    25分类目录专业提供网站网址免费提交收录,25分类目录是采用开放导航式的网站大全,收录国内外各行业优秀的网站网址,让网站在各大搜索引擎收录快排名靠前。

    www.25dir.com
  • 99网站目录99网站目录

    久久网站目录采用全人工编辑的开放式网站分类目录,久久网站大全免费收录国内外、各行业优秀网站网址,旨在为用户提供网站分类目录检索、优秀网站参考、网站推广服务。

    https://www.99dir.com