本文来自「腾讯云开发者」,原创作者李伟山,内容有使用 AI 进行辅助写作,特此说明。 引言:一个令人不安的问题
OpenAI 内部的一支 3 到 7 人小团队,在短短五个月内,让 AI 生成了将近 100 万行生产级别的代码。据称全程,没有一个工程师亲手写过一行业务逻辑代码。
你的第一反应是什么?兴奋?恐慌?焦虑?只要我学得慢,就不用学了?
这个问题的答案,藏在三个词里:
Prompt Engineering、Context Engineering、Harness Engineering。
这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?
01
理解起点:为什么和 AI 说话是一门学问?
1.1 模型有能力,但你不一定会用
大语言模型(LLM)的底层逻辑,可以用一句话概括:它是一个极其擅长续写的系统。
你给它一段输入,它预测接下来最有可能出现的内容,不断生成,直到任务完成。
问题在于,最有可能出现并不等于你真正想要的。
同样是「帮我写一封道歉信」,加了不同的约束条件,结果天差地别:
- 没有约束:千篇一律的模板文字(我会稳稳地接住你)
- 加上「对象是我的老板,原因是我迟到了三次」:开始接近实际需求
- 再加上「语气要诚恳但不要过分卑微,结尾要暗示我已经采取了改进措施」:这才是一封真正可用的信
这个 加约束 的过程,就是提示词工程(Prompt Engineering)的本质。
它研究的是:如何通过精心设计的输入,最大限度地激发模型的正确能力。
1.2 Prompt Engineering 的武器库
在 GPT 刚刚走入大众视野的那段时间,Prompt Engineering 是最炙手可热的技能。
每隔几天就有新的技巧被发现和分享:
- 零样本提示(Zero-shot Prompting): 直接告诉模型做什么,不给例子。适合简单任务。
- 少样本提示(Few-shot Prompting): 给几个输入-输出的例子,让模型从中"意会"规律。效果往往远好于零样本。
- 思维链(Chain-of-Thought, CoT): 不让模型直接跳结论,而是引导它一步步推理。在数学、逻辑推理类任务上效果显著。
- 角色扮演(Role Prompting): "你是一位有 20 年经验的 Java 架构师,请……" 给模型设定一个身份,往往能显著提升输出的专业性。
- 提示链(Prompt Chaining): 把复杂任务拆成多个小提示,前一步的输出作为后一步的输入,像流水线一样串联。
下图展示了 Prompt Engineering 技术的演进路径:
1.3 繁荣与衰退:Prompt Engineering 的宿命
2023—2024 年,"Prompt Engineer"一度被视为最有前途的职业之一,薪资水平令人咋舌。
但随后,底层环境发生了巨变:模型的智能化越来越高了。
GPT-3 时代,你需要精心设计的少样本提示才能让模型完成一个稍复杂的任务。
到了 GPT-4、Claude 3,你随便说一句话,它就能理解你的意图,甚至哪怕你的表达并不精准也没关系。
当模型本身的语言理解能力足够强,写好 Prompt 的边际效益就显著降低了。
更深层的问题随之浮现:
即使模型听懂了你说的话,它有时候依然会给出错误的答案。原因不是你没说清楚,而是它根本不知道一些关键信息,也就是我们常说的上下文。
这,引出了第二次进化。
02
第二进化:Context Engineering 的崛起
2.1 失忆症患者的困境
有一个思想实验可以帮你理解 Context Engineering 的核心:
假设你雇了一位全世界最聪明的助理,但这位助理有一个致命弱点:他属金鱼的,记忆只有 7 秒。
每次会面,他都记不住上次你们聊过什么,不知道你的偏好,不了解你的项目背景。即使他智商超群,每次都要重新从零开始建立对你情况的了解。
你会怎么办?
你会在每次见面前,把关键信息整理成一份简报递给他。你会告诉他上次的决策、当前的目标、需要回避的坑。
这个准备简报的过程,就是 Context Engineering。
大语言模型的本质,就是这位金鱼助理。每次对话,它能看到的信息被严格限制在上下文窗口(Context Window)之内。窗口外的一切,它一无所知。
2.2 上下文窗口里装着什么?
一个完整的 LLM 上下文,通常包含以下几层信息:
每一层都至关重要,却又都在争夺有限的 Token 空间。
Context Engineering 要解决的,就是这个信息注意力的问题。
2.3 RAG:让模型按需取用知识
RAG(Retrieval-Augmented Generation,检索增强生成)是 Context Engineering 中最具革命性的技术之一。
传统做法是把所有知识都写进 System Prompt,结果显而易见:空间爆满,模型不知道看哪里,输出质量反而下降。
RAG 的思路截然不同:不存知识,存索引。需要什么,临时去检索,精准注入。
具体流程如下:
这个机制让模型能够访问远超其参数记忆的外部知识,同时又不会被无关信息淹没。
2.4 上下文压缩:对抗遗忘的艺术
随着对话越来越长,一个严峻问题出现了:历史消息会把上下文窗口撑满,挤走最新的关键信息。
更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。
解决方案是上下文压缩(Context Compression):
- 滚动摘要(Rolling Summary): 定期将旧对话压缩为摘要,只保留精华
- 重要性评分(Importance Scoring): 给每段历史内容打分,低分内容优先淘汰
- 层次记忆(Hierarchical Memory): 短期记忆保留细节,长期记忆只存关键节点
OpenAI 的实战经验验证了这一点:他们把原来装满所有规范的巨型 Agent.md 文件压缩至百行以内,仅作为索引目录,需要什么规范就动态加载对应子文档。
结果:模型的遵从度和输出质量显著提升。
2.5 单一事实来源:Context Engineering 的纪律
Context Engineering 还有一条常被忽视的原则:单一事实来源(Single Source of Truth)。
在实际工程中,技术决策可能散落在企微消息、腾讯文档、本地 PDF、GitHub Issue 里。对人类工程师来说,这已经够难管理了。对 AI Agent 来说,这是灾难性的:它不知道该信哪个版本,结果就是综合出一个四不像的答案。
解决方案是强制将所有决策、规范、文档都归档进代码仓库,确保 AI 的信息来源是唯一的、可追溯的、版本受控的。
03
两者的局限:当"说对"和"给对"都不够用
3.1 一个 Agent 的典型失控场景
假设你构建了一个代码生成 Agent,已经做到了:
- ✅ 精心设计的 System Prompt(Prompt Engineering)
- ✅ 动态注入最相关的代码规范文档(Context Engineering)
然后你让它生成一个用户登录模块。它:开干!
一小时后,你回来检查:
- 它写了登录逻辑——正确
- 但它同时"顺手"重构了你没让它动的数据库层——没人要求
- 它声称测试通过了——但根本没有运行测试,只是自我评估"应该能过"
- 它命名风格跟项目其他部分完全不一致——因为没有人告诉它有一套命名规范
- 它生成了三个功能重复的工具函数——因为没有机制检测重复
提示词写得再好,上下文管得再精,也没能阻止这一切发生。
因为这些问题的根源不在"说什么"或"给什么信息",而在于:系统层面缺乏约束、验证和反馈机制。
这,是 Prompt Engineering 和 Context Engineering 的共同盲区。
填补这个盲区的,是第三次进化。
04
第三进化:Harness Engineering——驾驭 AI 的系统艺术
4.1 什么是 Harness?
Harness,字面意思是"马具"。
套在马…