重点摘要
- 只需 15 分钟和几个免费工具,就能知道 AI 助手是否引用你的网站,以及是否有设置拦住了它们的爬虫。
- 决定你能否被引用的是搜索爬虫(OAI-SearchBot、PerplexityBot、Bingbot、Googlebot),而不是 GPTBot 这类训练爬虫。
- Cloudflare 自 2026 年 9 月 15 日起调整默认:一旦屏蔽 Training 类爬虫,Googlebot、Bingbot 等多用途爬虫也会被一并拦截。
- Bing Webmaster Tools 的 AI Performance 报告列出 Copilot 实际引用了哪些页面;GA4 则显示 AI 回答带来了多少访客。
不少香港企业的服务页面在 Google 上排名靠前,可客户问 Copilot「香港有哪些靠谱的供应商」时,名单里却始终没有自己。原因往往几分钟就能查到:防火墙或 CDN 的一条规则把 Bingbot 挡在了门外。
AI 引用自查能告诉你什么?
它回答三个问题:在客户常问的问题里,AI 助手是否提到或链接了你的网站;你的 robots.txt、防火墙或 CDN 是否拦住了这些助手依赖的爬虫;AI 回答是否给你带来了可衡量的流量。三个答案分别对应不同的修复方法。
被引用和排名是两回事:AI 只会引用自家搜索爬虫成功抓取并能解析的页面。
开始 AI 引用自查前需要准备什么?
你需要一个浏览器、网站 robots.txt 以及 CDN 或防火墙的管理权限、一个 GA4 媒体资源,以及一个已验证网站的免费 Bing Webmaster Tools 账户。Gemini、Copilot、Perplexity 在香港都能免费使用;ChatGPT 目前未在香港正式提供服务。
| 工具 | 能看到什么 | 在哪里看 | 香港能否使用 |
|---|---|---|---|
| Gemini | 回答是否提到或链接你 | gemini.google.com,要求列出来源 | 可以 |
| Copilot | 回答是否引用你的页面 | copilot.microsoft.com | 可以 |
| Perplexity | 每个回答附带编号来源 | perplexity.ai | 可以 |
| Bing Webmaster Tools | Copilot 和 Bing AI 按页面统计的引用次数 | AI Performance 报告(公开预览) | 可以 |
| Google Analytics 4 | 来自 AI 助手的访客 | 报告 > 获客 > 流量获取 | 可以 |
| ChatGPT | ChatGPT 搜索是否引用你 | chatgpt.com | 未获官方支持 |
如何测试 AI 助手是否引用了你的网站?
在每个助手里新开一个没有历史记录的对话,输入五个真实客户会问的问题,记录是否提到你的品牌、是否把你的网址列为来源、以及出现了哪些竞争对手。每个月都用同一组五个问题,结果才有可比性。
第 1 步:写下五个客户问题(3 分钟)
问题应来自销售沟通或询价邮件:品类、对比、价格、本地、痛点各一个。
提示词模板(分别粘贴到 Gemini、Copilot、Perplexity):
我在香港经营[公司类型]。如果我需要[具体需求],应该把哪些[服务或产品]供应商列入候选名单?请给出 5 个选项,每个附一句理由,并列出你参考的来源链接。
追问提示词(同一对话):
你对[你的品牌名称]的[服务]了解多少?你读了哪些页面来回答?如果找不到信息,请直接说明。
第 2 步:记录结果(2 分钟)
每个回答记三项:是否提及(是/否)、是否链接(是/否,哪个网址)、出现了哪些竞争对手。如果追问时 AI 给出过时或错误的信息,记下它引用的页面,那就是你最先要修正的页面。
如何确认 robots.txt 和 Cloudflare 没有拦截 AI 爬虫?
先打开「你的域名/robots.txt」,确认 OAI-SearchBot、PerplexityBot、Bingbot 和 Googlebot 都没有被 Disallow。然后检查 CDN:如果你使用 Cloudflare,请到 Security 设置里查看 AI 爬虫控制,因为一旦屏蔽 Training 类爬虫,Googlebot 和 Bingbot 也可能被一并拦截,让你同时失去搜索排名和 AI 引用。
第 3 步:看懂 robots.txt(3 分钟)
决定你能否被引用的,是各 AI 助手自己的搜索爬虫。根据 OpenAI 文档,屏蔽 OAI-SearchBot 的网站不会出现在 ChatGPT 搜索回答中,GPTBot 则只与训练有关。Perplexity 文档也说明 PerplexityBot 不用于训练模型。
# 允许 AI 搜索、拒绝 AI 训练的 robots.txt 示例
User-agent: OAI-SearchBot
Allow: /
User-agent: PerplexityBot
Allow: /
User-agent: GPTBot
Disallow: /
User-agent: *
Allow: /
Sitemap: https://[你的域名]/sitemap.xml
Google 不同:Google-Extended 只是 robots.txt 标记,控制内容是否用于训练 Gemini。Google 明确表示它不影响搜索展示,屏蔽它不会让你从 AI 概览中消失;屏蔽 Googlebot 才会。
第 4 步:检查 CDN 或防火墙(3 分钟)
如果使用 Cloudflare,打开域名的 Security 设置查看 AI 爬虫控制。Cloudflare 宣布自 2026 年 9 月 15 日起,新域名在展示广告的页面默认屏蔽 Training 和 Agent 类爬虫;一旦屏蔽 Training,Googlebot、Bingbot 等多用途爬虫也会被拦截。
每月如何衡量 AI 引用次数和 AI 带来的流量?
用 Bing Webmaster Tools 的 AI Performance 报告查看 Copilot 和 Bing AI 按页面统计的引用次数,再在 GA4 中筛选来自 chatgpt.com、perplexity.ai、gemini.google.com 和 copilot.microsoft.com 的访客。引用次数代表曝光,引荐流量则说明这些回答是否真的把潜在客户带到了你的网站。
第 5 步:打开 Bing AI Performance 报告(2 分钟)
在 Bing Webmaster Tools 验证网站后,点击左侧菜单的 AI Performance。该报告自 2026 年 2 月起公开预览,按页面列出你在 Copilot 和 Bing AI 摘要中的引用次数,但不覆盖 ChatGPT、Perplexity 或 Google,也暂无点击数据。
第 6 步:在 GA4 中筛选 AI 引荐流量(2 分钟)
在 GA4 进入 报告 > 获客 > 流量获取,主维度改为 会话来源,添加以下过滤并保存。
GA4 过滤:会话来源,匹配正则表达式
.*(chatgpt\.com|perplexity\.ai|gemini\.google\.com|copilot\.microsoft\.com|bing\.com/chat).*
做一次 AI 引用自查要花多少钱?
自查本身不花钱。本文用到的工具都有免费版本,每次大约 15 分钟。真正的成本是时间:一个人每月做一次,一年约三小时;如需修改 robots.txt 或防火墙规则,再加上开发人员的工时。
付费追踪工具要先确认网站能被读取才值得买,否则只会得到一个满屏是零的仪表板。
最常见的问题是什么?怎样修复?
大多数「没有被引用」来自三个问题:CDN 或防火墙的默认设置拦住了爬虫;关键内容要运行 JavaScript 后才出现;引用集中在一个过时的旧页面上。每个问题都有明确的修复方法,等爬虫重新抓取后,重跑同一组提示词即可验证。
问题 1:安全默认设置拦住了搜索爬虫
症状:Google 有排名,Copilot 却从不提你。修复:明确放行 Search 类爬虫,并检查 Googlebot 和 Bingbot 是否被连带屏蔽,几天后重测。
问题 2:内容依赖 JavaScript 才显示
Vercel 与 MERJ 的研究发现,GPTBot 一个月发出 5.69 亿次请求,但当时(2024 年 12 月)主要 AI 爬虫都不执行 JavaScript。修复:右键「查看网页源代码」,搜索你的价格和服务名称;找不到的话,请开发人员为这些页面启用服务器端渲染。
问题 3:引用都落在一个过时的页面上
Search Influence 的分析覆盖约 20,000 次 Copilot 引用,单个页面占 69%。若这一页写着旧价格,每个 AI 回答都会重复。修复:在 Bing AI Performance 按引用次数排序,先更新排名第一的页面,并在页顶加一段直接回答。
15 分钟 AI 引用自查清单
- 五个客户问题已在 Gemini、Copilot、Perplexity 用新对话测试并记录
- robots.txt 放行 OAI-SearchBot、PerplexityBot、Bingbot、Googlebot
- 已按 2026 年 9 月 15 日的新默认,检查 Cloudflare 或防火墙的 AI 爬虫设置
- Bing Webmaster Tools 已验证,并打开 AI Performance 报告
- GA4 的 AI 引荐过滤已保存为对比项
- 价格和服务名称在「查看网页源代码」中可见
- 已检查被引用最多的页面是否有过时信息
每月第一个工作日做一次,并沿用同一组五个问题。趋势比任何一次回答都更重要。
最后验证日期:2026 年 11 月 10 日(OpenAI、Perplexity、Cloudflare 官方资料;Bing Webmaster Tools 报告范围)。
懂AI,更懂你 UD相伴,AI不冷
想用 30 秒看清全貌?
手动自查只覆盖五个问题。免费 AEO 审核会一次扫描网站的爬虫访问、结构和 AI 就绪程度,并告诉你最先该修什么。之后如需协助落地,我们手把手带你完成每一步。
常见问题
屏蔽 GPTBot 会让 ChatGPT 不再引用我的网站吗?
不会。根据 OpenAI 文档,GPTBot 只与模型训练有关;ChatGPT 搜索引用取决于 OAI-SearchBot,可以单独设置放行。
在香港能用 ChatGPT 做这个测试吗?
香港不在 OpenAI 支持地区名单内,建议改用在香港可免费使用的 Gemini、Copilot 和 Perplexity。你的海外客户仍可能看到 ChatGPT 的回答,所以应继续放行 OAI-SearchBot。
修复后多久 AI 回答才会变化?
爬虫需要先重新抓取页面。Perplexity 表示 robots.txt 的改动最多需要 24 小时生效;建议约一周后重跑五个问题。