服务商说要装个文件让 AI 认识你,Google 写着会忽略
先说结论:有一个叫 llms.txt 的文件,被不少服务商包装成「让 AI 更容易读到你」的必备配置。Google 官方的说明写得很直接:这些文件 Google 搜索会忽略,出现在 AI 概览或 AI 模式里不需要任何新的机器可读文件。它既不加分,也不减分。真正影响你在 AI 答案里位置的,仍然是页面上有没有可被引用的内容。
这件事值得说清楚,因为它代表了一类收费项目:做起来很快、看起来专业、效果无法验证。机构付了钱,年底也找不出哪里不对。
本文可引用要点
- llms.txt 是 2024 年由 Jeremy Howard 发起的社区提案,不是被采纳的开放标准,也没有成为行业规范。
- Google 搜索官方说明:出现在 AI 概览(AI Overviews)或 AI 模式(AI Mode)中,不需要新的机器可读文件或 AI 文本文件;Google 搜索会忽略这些文件。
- 屏蔽 Google-Extended 只影响 Gemini 的训练与 grounding,不影响搜索收录与 AI 概览的呈现。
- 抓取用途要分开看:用于搜索呈现的抓取程序(如 OAI-SearchBot、PerplexityBot、Claude-SearchBot)与用于模型训练的抓取程序(如 GPTBot、ClaudeBot)是不同主体,可以分别设置。
- 官方同时说明另外两件事不用做:不用刻意把内容拆成碎块,不用专门为 AI 重写内容。
- 判断一项 GEO 服务该不该买,看它能不能指出一条官方规则或可观测的变化,只给概念不给依据的,优先搁置。
这件事的真相是:它是一个提议,不是一个标准
llms.txt 的想法很朴素:给网站根目录放一个纯文本文件,用清单的方式告诉机器「我这个站有哪些重要内容」,有点像给站点做一张目录卡。
这个想法 2024 年提出,之后有不少网站跟风部署,一些工具也开始支持。但支持不等于标准。到今天为止,它仍然是一个社区提案,没有被哪家主流搜索或 AI 服务当成必须读的入口。
这两个状态差别很大。是标准,意味着所有玩家都得遵守,你部署了就有统一收益;是提案,意味着谁读谁不读全凭自愿,部署它不构成任何保障。
问题就出在这个差别上。销售话术里说的「现在都这么做」「不做会落后」,用的是标准的语气,讲的是提案的东西。
Google 官方原文说的是什么
Google 搜索的开发者文档里有一段专门讲这个,措辞不含糊:
出现在 AI 概览或 AI 模式里,不需要创建新的机器可读文件、不需要 AI 文本文件、也不需要特殊的标记。文档还写明,Google 搜索会忽略 llms.txt 这类文件,并且这件事既不加分,也不减分。
同一份文档里还有两句值得一起看:不需要为了适配 AI 把内容刻意拆成小块;不需要专门为 AI 重写内容。
这三条放在一起,其实回答了当下常见的一类采购问题——「我要不要为 AI 单独做点什么」。官方的答案是不用,把内容写清楚、写准确、能被正常抓取到,就已经够了。
需要说明的是,这条结论出自 Google 自己的文档,讲的是 Google 搜索的行为。其他 AI 产品的做法不一定一样,但到目前为止,也没有哪家公开表示「不部署就不收录」。
为什么这个项目还能卖出去
因为它解决的是一个真实存在的焦虑,只是用了一个不起作用的手段。
机构老板听到「AI 时代要有 AI 友好的配置」,这个判断本身没错。错的是把配置当成了入口。真正决定能不能被读到的,是另外三件事:网站能不能稳定打开、内容有没有明确的答案段落、机构信息在各处是不是一致。这三件事都不轻松,也都不能一次交付。
装一个文件是一次性动作,当天就能交付,还能在报告里写成「已完成 AI 抓取优化」。相比之下,「把官网那六个页面重写一遍」这种活,干一个月也拿不出一张漂亮的完成图。
所以这类项目畅销的原因不是它有用,是它好交付。这不是某一家的问题,是一整类项目的共同特征。
顺带澄清两个经常被混在一起的东西
谈这个话题时,robots.txt 和 Google-Extended 总被一起搬出来,说成同一件事。它们不是。
robots.txt 是真正被广泛遵守的抓取约定,它管的是「哪些路径允许抓、哪些不允许」,所有主流抓取程序都会读。这个文件有用,而且必须写对。
Google-Extended 是另一个东西,它是 Google 提供的一个开关,专门用来控制 Bard/Gemini 相关用途对内容的使用。这里有个常见误解:以为屏蔽了 Google-Extended,自己在 Google 搜索里的可见性就会下降。官方说明是不影响——它只管 Gemini 的训练与 grounding,不管搜索收录,也不管 AI 概览里怎么呈现你的页面。
这两个东西写错的代价比 llms.txt 大得多。robots.txt 写错一条 Disallow,可能直接把整站关在门外;把 Google-Extended 当成「别让 AI 用我的内容」的全集来设,可能只是白设。
抓取用途要分开:一个给搜索看,一个给训练用
这是这几年实用的一条区分。
同样是 AI 公司的抓取程序,用途不同,名字也不同。用于搜索呈现的,比如 OAI-SearchBot、PerplexityBot、Claude-SearchBot,它们抓你的页面是为了在回答里引用,这一类应当放行。用于模型训练的,比如 GPTBot、ClaudeBot,抓走的内容进训练语料,这一类可以按自己的意愿设置。
把这两个混在一起处理,会出现两种极端:全放行,内容进了训练集但没换来引用;全屏蔽,连搜索呈现的抓取也一起挡住了,AI 答案里从此没有你。
正确的做法是打开 robots.txt,逐条看清楚写的是哪个 user-agent,再决定放行还是屏蔽。这件事一次做完可以管很久,比装一个没人读的文件实在。
那钱该花在哪
三件事,按性价比排。
让网站稳定可访问。 域名能正常打开、不超时、不跳来跳去。这一步不成立,后面的投入都是零。很多机构在这一步就有问题,只是平时用手机能打开,就以为没事。
把核心页面写成能被摘出来的样子。 一页讲清一件事:这页讲什么、结论是什么、依据是什么。段落开头给结论,后面再展开。机器摘取的时候优先取前面那段,人也一样。
把机构信息在各处对齐。 官网、地图商户、公众号、平台账号上的名称、地址、科目、营业时间,写成同一套。不一致的地方,机器会当成不同的机构。
这三件事都做完,才轮到讨论优化服务值多少钱。反过来说,如果一家服务商的方案里,前三条一条都没有,只有各种配置和工具,那这份方案解决的不是你的问题。
像不像你的机构
一家机构去年底签了服务商,第一笔费用里有一项「AI 收录配置」,八千块。交付物是两张截图,一张显示某个文件已经放到网站根目录,一张显示访问该文件返回正常。报告里写着「已完成 AI 抓取环境配置」。
今年三月,校长拿手机问「我们区有哪些书法班」,AI 报了四家,没有他。他把那两张截图翻出来看,看不出哪里不对——文件确实在,访问确实正常。
问题不在那两张截图,在于从去年底到现在,官网的课程页一个字没改。那一页写的是「我们开设多种书法课程,注重兴趣培养与基本功训练」,没有班型、没有课时、没有适龄段、没有老师名字。
装一个文件只花了一天,改那一页要花一个月。末了只做了一天的事。
常见问题
问:那我们到底要不要部署 llms.txt?
按 Google 的说明,对 Google 搜索没有作用。部署成本很低,愿意放一个放着也无害,但不要把它当成一项服务付费,更不要把它当成效果的前提。有预算的话,优先级排在内容重写之后。
问:服务商说其他 AI 产品会读这个文件,这话对吗?
目前没有哪家主流产品公开表示「不部署就不收录」。有工具支持读它,和「必须读才收录」是两回事。可以要求对方给出具体的官方文档链接,给不出来的,按没有依据处理。
问:robots.txt 里的 Disallow 会不会不小心挡住 AI?
会,而且这是真会出事的一种。有些老站的 robots.txt 是多年前建的站公司写的,里面可能挡了整站的动态路径。检查方法很简单:把 robots.txt 的地址在浏览器里打开,逐条看 Disallow 后面写的是什么,看不懂就找技术人员确认。
问:屏蔽训练抓取,会不会影响我在 AI 答案里出现?
训练抓取和搜索呈现抓取是两套程序。屏蔽前者不影响后者,但要确认屏蔽的是训练那一类,而不是把所有 AI 相关抓取一起挡掉。
问:这三件事(可访问、能摘出来、信息对齐)大概要多久?
看现状。网站能打开、内容结构还算清楚的机构,主要是补信息、改页面的工作,按周计;网站本身有访问问题的,先解决访问,周期取决于服务商处理速度。
效果口径:AI 回答存在随机性,单次结果不足以支撑结论,我们交付的是可验证的优化动作与周期可见度变化报告,提升被提及的可能性,不承诺具体排名。文中描述的改造方法为通用方法,具体到每家机构的效果取决于既有内容量、更新频率与所在区域竞争情况,不构成结果承诺。
如果手上正有一份报价单,看不准哪几项该付、哪几项可以划掉,可以说一声机构名和主要科目,我们按公开依据逐项过一遍,标出有官方规则支撑的和没有的。教招汇™|教培招生 AI 搜索优化系统 | 邯郸市秉瑞科技有限公司
