点击精灵Logo
您的位置:首页 >seo诊断

robots文件禁止后还能索引收录是什么原因

来源:精灵SEO 发布时间:2019-12-13

  SEO优化中很多细节容易被人忽略,比方说robots文件。如果网站的robots协议文件禁止了搜索引擎蜘蛛,那么无论你怎么优化都不会被收录。有时候不希望搜索引擎抓取某些内容可以写robots.txt文件放到根目录,按理蜘蛛会首先读取这个文件,按照robots协议抓取相应的内容。

  但很多时候搜索引擎抓取收录了你robots.txt不允许抓取的内容,不是因为机器人不遵守,而是从抓取到索引到展现这个过程需要一段时间,当搜索引擎已经抓取了,你才更新,那么之前抓取的是不会那么快删掉的,删除周期并不规律,一般是算法更新后生效的情况多些。但是许多站长们发现,蜘蛛并不太遵守这个协议。

robots文件禁止后还能索引收录是什么原因

  下面说下几个SEO新手可能会需要的信息。

  1、robots.txt怎么写?

  各大搜索引擎的站长平台(英文叫webmasters)都有详细说明,也有生成工具。

  2、怎样确定robots.txt有效?

  站长平台都有抓取robots.txt的工具,也会有“抓取工具”来确认某个页面是不是可以正确抓取。

  3、怎样通知搜索引擎robots.txt已更新?

  和上面的一样,通过站长平台的抓取工具重新抓取(有的是“更新”)即可。

  4、让搜索引擎抓取了不应该抓取的内容怎么办?

  5、整站禁止抓取,如何操作更有效?

  有的搜索引擎索引是不遵守robots.txt的,只有在展现的时候遵守,也就是说,就算你robots.txt写明了禁止抓取,你会发现还是有机器人来爬。

  所以如果是大目录或者是整站禁止抓取,建议在服务器软件(如nginx)的代码段中直接判断搜索引擎UA并返回错误代码。这样一方面可以减轻服务器压力,一方面可以真正禁止抓取。


相关文章内容简介

1 网站优化过程中导致网站降权的原因

  作为一名seo网站优化人员,大家可能都遇到过网站被降权的情况。要知道网站被降权,首先会影响着我们关键词的排名还有流量,以及网站的收录,会对我们的网站有着非常严重的影响。其实网站被降权和我们的优化方式有着非常大的关系,那么今天就为大家介绍网站优化过程中导致网站降权的原因吧!   1.服务器的稳定   服务器的稳定与否对网站有着非常大的影响,这也是为什么更多的人哪怕多些费用也要找一家稳定服务器的主要原因。   2.网站标题频繁的修改   网站在没有上线之前,我们可以根据需求需求对网站的标题进行修改,但是网站上线之后,如果频繁的对网站标题进行修改,那么就会导致网站出现被降权的现象,因此网站标题不建议频繁修改!   3.网站大批量删除或增加站外链接   这里说的站外链接多是友情链接,我们都知道友情链接对网站有着非常大的帮助,但是如果网站的友情链接如果有降权或者打不开的状态,那么也会影响到自己的网站,因此在添加友情链接的适合也需要找合适的友情链接,并且不要大量的增加或删除,大概一天加一个友 [阅读全文]

2 SEO关键词分类应该怎么考虑

  SEO关键词分类应该怎么考虑,按理说,在网站设计优化的过程中,首先我们要注意网站关键词的布局,这是一个网站主要内容可以优化的首步。清晰的关键词分类和挖掘学生更有利于后续的优化管理工作。比如网站系统首页、内页关键词等等,那么作为如何对网站关键词之间进行上海优化分类呢?   在选择关键字之前,网站管理员需要确保某些用户会搜索您选择的关键字。   为了降低理解关键词的难度,我们需要同时选择一定数量的搜索词,但这并不意味着我们必须选择一些流行的、有竞争力的词。这种类型的关键词优化特别困难,一般新站不能接受这种类型的关键词。这样的词一般都是行业大型站点优化,中小型企业很难与之竞争,但是他们可以根据这些关键词的长尾优化,这是一个不错的选择。   如果网站中优化后的关键词在优化后有排名和流量,但没有转化,这一系列问题主要是因为你选择的关键词和你的网站相关性低,导致访问网站的用户不是目标用户。如果想避免这种情况,可以选择一些准确的长尾词,这也是中小企业上海优化初期优化的重点。为网站优化打好基础, [阅读全文]

系统提示

登录密码错误!!!