Robots

介绍robots是网址跟爬虫间的协议书，用简易立即的txt格式文字方法告知相匹配的爬虫被容许的管理权限，换句话说robots.t魔贝seo教程:xt是搜索引擎中访问网址的情况下要查询的第一个文档，该协议书仅约定成俗，社会道德管束，无法律效益和实际性的安全性实际意义举例说明如下图，也能看下百度搜索自身的robots h魔贝seo教程:ttps://www.baidu.com/robots.txt

英语的语法User-长尾关键字agent: 描述搜索引擎robot的姓名Disallow: 描述不期待被访问到的一个URLAllow: 描述期待被访问的一组URLDisAllow 和 Allow 中间的次序是更有意义的，robot会依据第一个配对取得成功的Allow或Disallow行明确是不是访问某一URL专用工具robots 转化成专用工具参照连接https://baike.baidu.com/item/robots/52433魔贝seo教程:74?fr=aladdin