SEOVIP学习社区

 找回密码
 注册
搜索
查看: 2208|回复: 9

SEO请进:搜索引擎网络爬虫爬行原理大揭密

[复制链接]

该用户从未签到

juanzi5y1 发表于 2010-11-24 12:00:10 | 显示全部楼层 |阅读模式
我是蜘蛛,也有人管我叫网络爬虫,总之,我是搜索引擎的一个自动程序,我每天的工作就是访问互联网上的“html”网页。我的好奇心很强,通常对于第一次遇到的“html”网页,我都会把它们带回来,放到索引数据库里面,你能在搜索引擎上找到的网页就是我带回来的。
  因为我是一个自动程序,我是依靠各项设定的规则来行动的,如果你想知道我的行动规则,就继续向下读吧。

  我每天都非常勤奋的工作,从来都不知道休息,我最喜欢去的地方就是网站提交服务器,因为大家会把最新的网站网址提交到那里,沿着提交过来的网址,我总能找到很多的“html”网页。但是对于这些新提交过来的网址,我还是非常挑剔的。我最怕的就是沿着网址爬过去了,却发现什么都没有,或者爬过去之后发现环境很不稳定,有的道路都是死路口或者错误的路口,对于这种情况,我会毫不犹豫的马上走掉,什么都不带走。当然,我走了以后,还会抽空再过来看看,如果情况长时间没有改变,我就发誓这辈子都不再来了。相反,如果我来的时候,发现环境很好,道路通畅,而且内容丰富,我的心情自然就变的非常的好,不仅会带走很多东西,而且会经常的光顾,这样的情况持续的时间长了,我就会非常信任这样的站点。

  说实话,我的工作还是非常辛苦的,需要去的地方实在的太多了,但是别担心,我不会偷懒的。为了提高我的工作效率,我总结了一个经验,这也是长期的工作积累下来的一个经验。我经常光顾一个站点的时候就发现,并不是我每次去都能发现新东西的。而是有固定的时间间隔和一定的规律可循的,我举个例子,当我对一个站点经过一段时间的观察,就会发现这个站点是每天的上午9点钟到下午的6点种,这段时间新内容比较多,而且要拿来这些内容,每隔两个小时去一次就行了,其他是时间去了也是白去。那么针对这个站点,我就会在自己的规则里填写上这样一条规则,以后就按照这样的规则执行,即节省了时间,又提高了效率。

  对于一些不能发现规律的站点,我也会自定义规则,其实我每次去的时候都会留下痕迹的,我非常希望站长们能发现这些痕迹,让我每次去的时候都能有所收获,因为徒劳无功的感觉实在很难过。

  实际上,我是非常好相处的。因为我信任谁,就会把谁当成我的朋友,有朋友的感觉实在是好的不得了,平时有很多地方都是朋友介绍我去的,你可以看看我经常光顾的站点上的“友情链接”部分,那就是我的朋友特意为我准备的。对于朋友的介绍,我自然是非常的信任,因为好朋友是不会欺骗我的,但是对于欺骗我的朋友,我也会给他严厉的惩罚。

  我是蜘蛛,是网站与搜索引擎交流的自动程序,跟踪我的动向和搜索引擎的反应,然后对你的网站进行有的放矢的优化,这是我给你的建议
     本文来自于由牛商网整理,转载请注明深圳网站优化, 请保留该网址http://www.51yxwz.cn  ,谢谢

该用户从未签到

aixuan99 发表于 2010-11-24 21:44:33 | 显示全部楼层
good~~~~~~

该用户从未签到

 楼主| juanzi5y1 发表于 2010-11-25 10:09:12 | 显示全部楼层
我是蜘蛛,也有人管我叫网络爬虫,总之,我是搜索引擎的一个自动程序,我每天的工作就是访问互联网上的“html”网页。我的好奇心很强,通常对于第一次遇到的“html”网页,我都会把它们带回来,放到索引数据库里面,你能在搜索引擎上找到的网页就是我带回来的。

该用户从未签到

xn89028902 发表于 2010-11-25 14:32:13 | 显示全部楼层
学习,顶一个

该用户从未签到

njloong 发表于 2010-11-26 14:14:18 | 显示全部楼层
好不错的一个。

该用户从未签到

ersxhj 发表于 2010-11-27 10:09:50 | 显示全部楼层
支持下楼主·······
  • TA的每日心情
    开心
    2011-7-7 16:49
  • 签到天数: 2 天

    [LV.1]初来乍到

    邱凯 发表于 2010-11-30 22:22:02 | 显示全部楼层
    不错啊,收藏了

    该用户从未签到

    小泡泡 发表于 2010-12-1 09:51:46 | 显示全部楼层
    哈哈  很不错很生动

    该用户从未签到

    wusuowei 发表于 2010-12-1 14:04:09 | 显示全部楼层
    看看嘛玩意
  • TA的每日心情
    开心
    2011-7-7 16:49
  • 签到天数: 2 天

    [LV.1]初来乍到

    邱凯 发表于 2010-12-2 23:22:29 | 显示全部楼层
    这个文章很不错,站在蜘蛛的角度去思考了,我们应该怎么做seo谢谢分享
    您需要登录后才可以回帖 登录 | 注册

    本版积分规则

    小黑屋|手机版|Archiver|SEOVIP学习社区

    GMT+8, 2024-5-2 19:06 , Processed in 0.055911 second(s), 21 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表