|
|
雅虎是如何抓取我的网站的? |
发布:巨鼎网络 www.judweb.com | 发布时间 2011-10-08 |
雅虎是如何抓取我的网站的? 雅虎应用雅虎搜索引擎技术(Yahoo! Search Engine Technology,简称YST),它是一套基于算法的Web索引抓取程序,能够自动探测网络内容。YST 这套机器搜索程序从因特网上采集文档,建立起一个可搜索的索引系统。这些文件(即您的网站文件)能被YST程序发现和抓取的主要原因是,在因特网其他的网页上包含有这些文档的直接链接。 YST 搜索程序严格遵守robots.txt标准执行抓取,因此,对于那些您不希望被雅虎搜索引擎返回的结果,搜索程序不会执行抓取。任何被robots.txt标准认为不适宜抓取的文件,既不会被包括在抓取文档中,也不会进入到搜索引擎的数据库。 本文由东莞巨鼎网络公司整理发布,原创文章如转载请注明出处并保留文章链接!http://www.judweb.com/userlist/163/newshow-3861.html |
![]() |
[文章评论(0)] [ 点击数:] [打印本网页] [关闭本窗口] |
相关内容 |
巨鼎网络相关:提交订单 | 网站解决方案 | 经典案例 | 建站套餐 | 优化推广 | 百度 | 必应 | 雅虎 | 搜搜 | 网站提交 | 联系我们 | 网站地图 |
![]() ![]() 东莞长安巨鼎网站建设工作室 -- 东莞市慧汇网络科技有限公司旗下专业网站建设平台 服务范围:东莞长安、虎门、厚街、沙田、大岭山、黄江、大朗、凤岗、樟木头等东莞28个镇区 Copyright © 2008-2019 WWW.JUDWEB.COM All Rights Reserved 网站备案号:粤ICP备11048236号 |