大多数 AI 用户都在缺少这个关键层次
你用 AI 工具已经一段时间了。提示越写越精细,有时输出结果令你非常满意,但也有一些时候,同一组提示上周运作良好,这周却输出一堆废话——你找不到任何原因。
问题几乎不在你的提示措辞。问题在你的上下文。
上下文工程(Context Engineering)是一种刻意管理 AI 模型在生成回应前所"看见"的一切的实践——不只是你的消息,还包括系统指令、注入的知识、对话历史、范例,以及工具输出。提示工程(Prompt Engineering)关注你对模型说什么;上下文工程关注模型在你说话时知道什么。
OpenAI 创始成员、前特斯拉 AI 总监 Andrej Karpathy 给出了最精确的定义:"在上下文窗口中填入恰到好处信息的精妙艺术与科学。""恰到好处"这四个字非常关键——不是全部可用的信息,不是越多越好,而是下一步所需的最精确内容。
大多数从业者从未学过这个区别。学过的人,输出质量明显处于另一个层次。
什么是上下文工程?
上下文工程是一种设计并管理语言模型完整信息环境的方法,涵盖系统指令、注入知识、对话历史、示例,以及结构化状态——目的是在重复使用中产生持续高质量的输出。
在 Notion、Linear、Perplexity 等公司的生产 AI 系统中,流入模型上下文窗口的内容,约有 80% 是精心设计的背景信息——检索到的文件、角色定义、结构化数据、工具输出。用户的实际消息只占约 20%。这个比例正是上下文工程的核心洞见:提示只是冰山一角。
提示工程专注于那 20% 的指令本身;上下文工程关注的是其余的 80%——模型推理所在的环境。两者都重要,但对于每天持续使用 AI 的从业者而言,上下文工程才是真正的杠杆所在。
为何精心设计的提示有时仍然失效?
精心设计的提示产生差劣输出,最常见的原因不是措辞问题,而是周围的上下文让模型难以聚焦于真正重要的事情。
原理如下:每个 AI 模型都有一个上下文窗口——它在生成回应时能"看见"的全部文字量。2026 年,主要前沿模型提供 128K 至 100 万 Token 的窗口。直觉告诉你,窗口越大越好。事实并非如此。
斯坦福大学基础模型研究中心的研究记录了所谓的"中间迷失"效应:即使模型拥有超大上下文窗口,埋藏在长对话中间的信息所获得的模型注意力,仍系统性地低于位于开头或结尾的信息。一个被埋在 60,000 Token 对话中间位置的关键限制条件,实际效果几乎等同于不存在。
这正是为何同一组提示在全新对话开头能产生优秀结果,但在长对话进行到一半后往往表现失色——提示没有变,但上下文变了,而且对你不利。
上下文工程就是刻意管理这个上下文:什么内容放进去、放在哪里、如何结构化,以及窗口开始拥挤时哪些内容需要修剪。
每位从业者都需要管理的四个上下文层次
无论你使用 ChatGPT、Claude 还是 Gemini,每一个高效的 AI 工作流都在四个上下文层次上运作。大多数从业者只有意识地管理其中一到两个层次。掌握全部四个,才能获得可重现的稳定输出质量。
第一层 — 系统指令
这是你上下文的基础。它定义了模型扮演的角色、应该做什么与不做什么、输出格式,以及适用的质量标准。强而有力的系统指令是具体的,而非泛泛而谈。"你是一个有帮助的助理"是系统指令。"你是一位香港 B2B 市场策略师,正在为客户撰写中英文内容。避免行话。始终使用具体数据举例。每个段落不超过 200 字。"才是真正能塑造输出的系统指令。
第二层 — 注入知识
模型需要准确回答所需的参考资料——产品规格、公司指南、数据摘要、风格范例、过往决策。这里的关键技能不是注入所有可用的资料,而是选取最低限度的相关子集。一份包含 3 条精选客户引言的内容简报,比注入 20 页市场研究的效果更好。
第三层 — 对话历史(主动管理)
原始对话历史是上下文质量最大的杀手之一。随着对话延长,之前的消息不断积累——其中许多对当前任务已经不再相关。优秀的上下文工程师会主动总结并精简对话历史,只保留对下一步有实质意义的决策、限制条件和输出结果。当一个对话已经"漂移",正确的应对不是提示得更长,而是重置并重新构建上下文。
第四层 — 工具输出与结构化状态
在代理工作流中——模型调用工具、检索数据或执行代码的情境下——这些操作的输出会成为下一步的输入。如何结构化并呈现这些输出,对后续生成质量有显著影响。JSON 格式的工具输出、命名字段、要点摘要,始终优于原始文字倾倒。
如何在实际工作中应用上下文工程
你不需要任何技术设置就能开始实践上下文工程。以下三个习惯,在任何 AI 界面中持续应用,一周内就能看到输出质量的明显提升。
习惯一:为每种重复性任务类型撰写持久性系统上下文。对你定期执行的每种任务——撰写客户电子邮件、起草简报、总结报告、审查提案——撰写一个可重复使用的系统上下文区块。内容包括:你的角色、目标受众、输出格式、质量标准和关键限制。储存好它,在每次相关对话开始时贴上。每当你发现输出存在系统性不足时,更新它。
习惯二:只注入相关内容,而非所有可用内容。在要求模型执行任何知识密集型任务之前,识别它所需的最低限度摘录——而不是整份文件。如果你在一次客户通话后起草跟进电子邮件,贴上会议记录,而不是整个客户历史。模型用 400 个精准的字,比用 4,000 个漫无边际的字表现更好。
习惯三:在上下文质量下降之前重置并总结。当一个长对话开始产生更弱的输出时,要求模型总结目前对话中已确立的内容。复制这份总结,开启新对话,将总结作为起始上下文贴上,然后从那里继续。这样做能重置上下文窗口,同时不失去连贯性。
上下文工程常见错误与避坑指南
把所有东西都塞入上下文。更多输入不等于更好输出。一个塞满边际相关文件的上下文窗口,其输出质量劣于只包含三段高度相关段落的上下文。模型会将注意力分散到它看见的所有内容上。你的工作是确保它看见的每样东西都值得占据那个位置。
忽视内容的放置位置。上下文窗口的开头和结尾获得的模型注意力不成比例地多。将不可妥协的限制条件和质量标准放在系统提示中(顶部)。将具体任务和任何关键参考资料放在你的请求正前方(底部)。绝不要把关键信息埋在长篇粘贴的中间。
把一个对话当作无限工作空间。许多从业者在一个对话中贴文件、提问题、生成输出,然后跨天跨周持续积累消息。等到他们执行最重要的查询时,上下文已被无关的早期工作污染。有目的地使用对话,一个新任务值得一个全新的上下文窗口。
注入内容时不做结构化处理。原始散文比结构化内容更难被模型解析。注入参考资料时,使用清晰的标题、标记的章节或要点。结构化格式的效果始终优于等量的连续散文。
立即尝试:一个可直接复制的上下文系统
以下是一个适用于内容创作者、市场人员和运营专业人士的即用上下文模板。复制它,填入括号中的内容,并在下次 AI 对话开始时、提出任何请求之前贴上。
---
系统上下文
你是一位资深 [角色:如内容策略师 / 文案撰写人 / 分析师],正在协助 [你的姓名] 在 [公司名称] 完成工作。
主要任务类型:[如"为客户起草中英文对外内容"]
目标受众:[具体描述——如"香港本地熟悉科技的 B2B 决策者,对行话持怀疑态度"]
语气与风格:[如"直接、有权威感、平辈对话式。无企业官话。短段落。主动语态。"]
格式:[如"每次输出最多 350 字。前两句必须是钩子。列表用要点格式。结尾一个清晰的行动呼吁。"]
硬性限制:[如"不得捏造统计数据。不得使用'赋能'或'协同效应'等词语。"]
参考资料:
[只贴本次对话所需的具体摘录——如会议记录、产品规格、数据摘要——而非整份文件]
当前任务:
[说明你现在需要模型生成什么]
---
执行一次。将初稿质量与你平时只用提示的方式比较。针对系统上下文进行迭代——在模型偏离的地方收紧限制,在语气偏差的地方添加示例。经过 3-4 轮改进后,你将拥有一个能持续产出可靠成果而无需大量编辑的上下文系统。
从 AI 用户到 AI 高手的真正分水岭
提示工程是大多数从业者停下来的地方。上下文工程是稳定、可生产质量 AI 输出的起点。一个偶尔获得优秀 AI 成果的用户,与一个持续获得卓越成果的高手之间的差异,几乎总是体现在他们如何设计提示周围的环境——而非提示本身。
2026 年,模型的能力已经足够。限制因素是你给它们的简报质量。正如 Karpathy 所言,在严肃的 AI 工作流中,提示只占工作的 20%,另外 80% 是上下文。
懂AI,更懂你 — UD 同行28年,让科技成为有温度的陪伴。真正的技术赋能,不只是知道上下文工程的存在,而是把它构建进你每天的工作方式中。
准备好构建真正可扩展的 AI 工作流?
理解上下文工程是第一步。下一步是将它构建成整个团队都能持续使用的工作流。UD 团队手把手带你完成每一步——从上下文设计、系统提示架构,到在组织内部署可靠的 AI 工作流。我们帮助香港各行业的团队,从不稳定的一次性提示,升级到可重现的 AI 系统。