ARTICLE · 1301220
网站声明"不让 AI 训练",我的内容还会被 AI 答案引用吗?
过去几天,一条被多家科技媒体反复解读的消息值得所有做内容、做品牌的企业留意:OpenAI、谷歌、微软、Anthropic 四家罕见地认了同一个 robots.txt 信号——站长写一行 __usage_ai-training,就能一次性向多家 AI 爬虫声明"我的内容不用于训练"。消息最早由 Google Search Central 在 10 月 30 日官宣,11 月 3 日钛媒体、今日头条等继续做深度拆解。它表面是"反抓取",内核却和 GEO(生成式引擎优化)紧密相关:因为微软这次把"训练"和"被 AI 引用(grounding)"正式拆成了两件事。
内容方对 AI 的控制权,正从"各家方言"收敛成一个公共开关;但对做 GEO 的企业来说,真正要盯的不是"禁不禁训练",而是"让不让 AI 在回答时引用你"——后者(grounding)才是带来曝光与流量的那一道,而且微软、谷歌都给"允许被引用"留了换取点击的口子。
:在网站根目录的 robots.txt 里新增一个 User-Agent 组 __usage_ai_training,再用 Allow / Disallow 写明路径,即可一次性向遵守该约定的 AI 爬虫表达"内容是否用于模型训练"的偏好,不用再逐家配置专属规则。该草案由 Anthropic 的标准技术负责人提交至 IETF 的 AIPREF 工作组,属于个人提交、尚未获 IETF 背书的互联网草案,表达的是"偏好"而非强制指令。
:据 Google Search Central(2026-10-30)与各媒体梳理,Anthropic 已率先实现;微软计划 2027 年 2 月 1 日起在爬取时尊重;谷歌称 2027 年初支持 AIPREF 共享信号;OpenAI 的说法是"未来数月内"实施。也就是说,同一行配置,2026 年基本只有 Anthropic 的爬虫会看,到 2027 年才覆盖大半个行业。
:Google 搜索倡导者在技术说明中强调,这个 token 改的是"训练偏好",不阻止抓取、不影响传统搜索的收录与排名,也不建立许可或付费安排。它解决的是"表达成本",不是强制执行——现实里约三成 AI 抓取已无视 robots.txt。
:在 Bing Webmaster Tools 里,站长能分别设置 AI Training(内容能否烧进模型权重)、AI Grounding(内容能否被用来生成 AI 答案)、Limited Grounding(只允许支撑微软自家 AI 产品、不给第三方 grounding 用)。这把"一次性烧进权重"和"回答时临时检索并署名引用"在协议层分开了。
:Google 明确,允许 Google-Extended 的网站,有资格出现在 Gemini Apps 的 grounding 结果里并拿到点击。翻译成企业能懂的话——你愿意被拿去"引用",AI 摘要就可能把一部分流量还给你;你只要"不被训练",不影响被引用。
:当网站用新 token 声明退出训练、却没显式写 Google-Extended 时,谷歌计划把它当作"你曾 disallow 过 Google-Extended"来处理——即"没写"不等于"默认允许",而是"默认拒绝"。这对内容创作者是有利的倾斜,但也意味着老配置不能随便删。
:统一信号是训练偏好,不是搜索封杀,多数落地偏 2027;宣布日 ≠ 生效日。今天真正在保护你的,仍是各家专属 disallow(GPTBot、Google-Extended、ClaudeBot 等)。
:很多站长翻车不是因为标准没跟上,而是三年前随手写的一行 Disallow 没人记得。微软还列了明确的迁移节点(2026-12-15 开放临时 grounding 控制、2027-02-01 起执行、2027-03-01 旧指令必须迁移),配置要当代码提交来管。
:四家之外,Meta 表态"创造公共信号是重要一步",却没承诺执行——签字覆盖多大范围,控制边界就有多大。标准没写完前,别把希望全押在行业自治上。
:"不给训练"和"不给引用"是两个完全不同的商业决定。前者怕内容变成别人的权重,后者等于放弃 AI 答案里的曝光与引流——多数做 GEO 的企业,该选的是"可训练可谈、但必须被引用并署名"。
:在公共信号大面积生效前,把 GPTBot、Google-Extended、ClaudeBot 等专属 disallow 理一遍、并存保留,别为了赶新标准把旧规则删掉;把变更写进仓库并标注日期与原因。
:无论协议怎么变,AI 愿意引用你的前提,仍是内容结构化、信息一致、可核验、多处出现。把核心实体信息做成机器好提取的样子,比纠结一行 robots.txt 更管用。















































































