Skip to main content

SEO robots 元标签

<meta name="robots">页面级指令,告诉搜索引擎爬虫(如 Googlebot)如何 索引 该页面、是否 跟踪 页面上的链接。它与控制「能否抓取」的 robots.txt 不同——元标签控制的是「抓取后如何处理」。

示例配置

content="follow, index, max-snippet:-1, max-video-preview:-1, max-image-preview:large" 是一组针对 Google 等搜索引擎的精细指令:

指令含义
index允许搜索引擎索引此页面,使其出现在搜索结果中
follow允许跟踪页面上的链接,将权重传递到其他页面
max-snippet:-1允许在搜索结果摘要中显示任意长度的文字片段
max-video-preview:-1允许在搜索结果中显示视频的完整长度预览
max-image-preview:large允许在搜索结果中显示大尺寸图片预览

常用指令

基础索引与跟踪

  • all:等同于 index, follow,默认行为
  • none:等同于 noindex, nofollow
  • noindex阻止 页面被索引,不会出现在搜索结果中
  • nofollow阻止 跟踪页面上的任何链接

搜索结果呈现控制

  • nosnippet:禁止在搜索结果中显示任何文字摘要
  • max-snippet:[number]:限制文字摘要的最大字符数
  • max-image-preview:[setting]:限制图片预览尺寸,可选 nonestandardlarge
  • max-video-preview:[number]:限制视频预览的最大秒数
  • noarchive:禁止在搜索结果中显示「缓存」链接
  • notranslate:禁止 Google 在搜索结果中提供该页面的翻译版本
  • noimageindex:阻止 Google 将该页面上的图片单独编入图片搜索索引

robots 元标签 vs robots.txt

两者常被混淆,但作用层面完全不同:

robots.txt(站点级)robots 元标签(页面级)
位置网站根目录文本文件HTML <head>
作用告诉爬虫 哪些页面不能抓取(管「进不进」)告诉爬虫 抓取后如何对待该页面(管「抓了后怎么办」)
遵守程度建议性必须遵守

关键区别robots.txt 禁止抓取的页面,爬虫 看不到 其中的 robots 元标签。

针对特定搜索引擎

若需为不同爬虫设置不同指令,可将 namerobots 改为具体爬虫名称:

  • googlebot:仅针对 Google 网页搜索爬虫
  • googlebot-news:仅针对 Google 新闻爬虫

配置完成后,可用 SEO 技术配置验证 中的方法快速自检。官方细则见 Google:robots 元标记、data-nosnippet 和 X-Robots-Tag