从提示词到Harness：大模型落地的工程化突围之路
一、范式跃迁：从单次提示到系统化上下文构建
2025年之前，大模型应用的核心围绕提示词工程展开——通过打磨单次输入的模板引导输出。但这种范式存在天然短板：意图偏移、长程记忆缺失、复杂任务逻辑断层，难以支撑真实业务场景的深度需求。
由此诞生的上下文工程，标志着大模型应用进入系统化阶段。它不再聚焦于单次提示的优化，而是系统性地构建、管理与动态演化模型输入的语境，整合业务意图、任务需求、工具回调、历史记忆等多维信息，确保输入上下文的精准与结构化，从而保障复杂任务的目标一致性与协同效率。
一个典型场景足以说明其价值：购车咨询中，仅问“理想L6怎么样”，模型只会堆砌通用参数；若补全通勤里程、乘员构成、预算、试驾反馈等信息，输出结果则可直接辅助决策。这本质上是工程化完成“模糊需求→结构化上下文”的转换，涉及意图识别、需求拆解、多源检索、工具调用、记忆构建等全链路环节。
而Agent正是上下文工程的核心载体。ReAct（推理-行动）范式本身就是动态构建上下文的过程。随着Agent在复杂场景中落地，上下文窗口溢出、推理偏离等问题倒逼上下文工程成为独立体系，可概括为“Agent驱动的智能上下文构建”。
二、系统骨架：上下文工程的核心架构
上下文工程的落地依赖“模块构建+管理策略”的双重支撑。
（一）核心构建模块
| 模块 | 核心作用 | 典型实现 |
|---|---|---|
| 感知模块 | 入口层，将自然语言转为结构化任务，识别意图、匹配最优模型，降低Token成本 | 意图识别、多模型路由 |
| 规划模块 | 逻辑骨架，生成任务思维链，串联上下文演进 | ReAct（动态迭代）、PlanAct（预置SOP）、Sequential Thinking（多轮规划反思） |
| 执行模块 | 动态上下文来源，调用API/工具获取实时数据，结果即时注入上下文驱动下一轮推理 | 外部工具调用、CodeAct（代码执行） |
| 反思模块 | 校验输出漏洞、修正路径，避免上下文偏差 | 独立反思Agent、自我校验提示词 |
（二）核心管理策略
- 记忆分层管理：拆分短期记忆（临时存储对话历史）与长期记忆（向量库存储用户偏好、专业知识），解决上下文窗口有限导致的“遗忘问题”。
- 上下文卸载：仅保留当前任务相关信息，冗余内容外存为文件或摘要，按需加载（如Cursor将长分析存为Markdown，对话仅保留路径；Skills仅调用时加载完整说明），避免信息过载干扰模型判断。
三、技术演进：Agent与DeepResearch的发展脉络
（一）Agent技术迭代路线
| 阶段 | 核心特点 | 局限 | 典型应用 |
|---|---|---|---|
| 简单工具调用Agent（2023年起） | 突破模型知识时效性限制，通过外部工具获取实时信息 | Function Calling需微调模型、决策黑盒；ReAct零训练依赖但高度依赖模型能力、串行效率低、易陷入局部最优 | OpenAI Function Calling、基础ReAct Agent |
| 深度思考型Agent（2025年起） | 融合多设计模式，支持长周期任务，多轮“思考-执行-反思”迭代，输出结构化研究报告 | 对推理能力要求高，算力成本较高 | OpenAI DeepResearch、智谱沉思 |
| Code Agent（2025年下半年起） | 以代码生成为核心决策手段，替代JSON格式工具调用，复杂任务效率提升显著 | 需配套安全代码执行沙箱 | 运维脚本生成、批量计算任务 |
| 多Agent系统（MAS） | 分治架构：协调者Agent负责任务分发/结果整合，多个子Agent专注垂直领域，上下文隔离避免污染 | 协同调度逻辑复杂 | 跨领域企业级任务（如全链路报销审核、多模块项目开发） |
（二）DeepResearch：从检索到自主研究
DeepResearch的技术演进清晰反映了上下文工程的深化：
- RAG阶段：先建私有向量库，检索相关片段补入上下文，优势是可结合私有知识，回答准确性高，但被动检索导致召回率低，信息挖掘浅层。
- DeepSearch阶段：LLM拆解意图调用公开搜索引擎，汇总网页内容，无需预建库，数据实时、召回范围广，但仅单轮反馈，无法处理长链复杂研究任务。
- DeepResearch阶段：模拟人类“任务拆解→探索→反思→输出”闭环，自主迭代搜索，支持多轮验证，输出结构化深度报告，但需整合多模块，工程复杂度更高。
其落地核心是异构工具统一编排：DeepSearch负责信息获取，Sequential Thinking（MCP组件）负责深度推理——通过注入思维引导规则，强制LLM遵循“假设→验证→修正→下一步”闭环，支持动态调整思考步数、回溯修正历史结论。生产级系统通常采用LangGraph+LangChain框架，前端用Streamlit实现流式输出，实时展示思考过程与搜索进度，并可补充网页全文爬取、本地文件读写、代码执行能力增强实用性。
四、工程实战：核心模块的落地路径
1. 感知模块：意图识别
核心价值在于安全拦截（过滤违规请求）、消歧（识别模糊需求）、模型路由（匹配最优模型），高并发场景下准确率每提升1%即可大幅降低无效算力成本。
落地采用**“小模型微调+大模型兜底”混合架构**：用业务标注数据（正样本+负样本+长尾样本）微调1.5B~7B轻量模型，垂直场景准确率可达98.5%+，适合高频请求；大模型仅对小模型无法确定的边缘case做二次判断，避免误判。开源工具如Arch-Router-1.5B等轻量路由模型，可本地CPU部署，支持按预设领域/操作标签路由请求。
2. 规划模块：计划模式
核心逻辑是“先规划、后执行”，避免模型直接处理复杂任务时逻辑跳跃。简单计划可通过LangGraph编排“计划节点生成大纲→执行节点按步骤调用工具”，适合旅游攻略撰写等固定流程任务；复杂计划则引入past_steps字段追踪执行进度，用结构化JSON输出替代文本标记，支持动态调整剩余任务，适合数学计算、项目拆解等通用分步任务。
3. 反思模块：自我校验
采用双LLM协作模式：“执行器生成结果→评判器多维度审查（正确性、安全性、需求匹配度）→反馈迭代”，无需人工干预即可自主优化输出。适用于代码生成、运维命令生成、专业报告撰写等对准确性要求高的任务，可设置最大迭代次数避免死循环。
4. 执行模块：CodeAct模式
不预置固定工具，将编程语言作为通用工具空间，模型按需生成Python/Shell等可执行代码，交由沙箱运行后返回结果，灵活性远高于传统工具调用，尤其适合临时脚本生成、动态数据分析、运维自动化等工具无法覆盖的长尾需求。
5. 记忆工程：从短期到长期
- 短期记忆：解决LLM无状态问题，通过滑动窗口过滤无关内容、LLM压缩历史对话为核心事实，优化Token窗口限制。
- 长期记忆：任务型Agent（如DeepResearch）可将中间结果存为文件，上下文仅保留文件指针/摘要；对话型Agent则将历史对话/用户画像向量化入库，提问时召回相关内容注入Prompt。
- 标准化框架：Mem0提供三层存储（对话级临时→会话级单轮任务→用户级跨周期画像），处理流程为LLM提取关键事实→冲突仲裁（新增/更新/删除/跳过）→混合存储（向量库Qdrant做语义召回+图库Neo4j做关系推理），生产部署可采用Qdrant 3节点集群保障高可用，前置Redis缓存热点查询结果提升性能。
6. 上下文卸载：Skills技术
为解决MCP工具过多导致上下文窗口耗尽的问题（实测100+工具仅描述就占33%上下文，单轮简单对话开销放大13400倍），Skills通过动态按需加载实现上下文卸载。它是可复用的结构化专家经验包，本质是本地化RAG，以Markdown+代码/资源的形式封装任务所需的思考路径、执行流程、依赖工具等。
其结构规范包含必选的SKILL.md（核心说明，含功能、调用条件、执行步骤、示例、边界）和可选的scripts/（可执行脚本）、references/（领域参考资料）、assets/（静态模板/素材）。渐进式加载机制分三级：L1初始化仅加载元数据标签；L2任务匹配时加载完整SKILL.md正文；L3资源调用时才加载对应脚本、参考资料，代码由Bash直接执行，仅结果返回LLM，不进入上下文。支持Skills的Agent仅需Read（读文件）、Bash（执行命令）两类通用工具，适配ReAct架构，无需为特定Skill定制接口。
五、Harness工程：LLM的长期运行支撑体系
Agent = LLM + Harness，Harness的核心是围绕LLM构建长期稳定运行环境，支撑长周期任务（如DeepResearch的数十分钟调研、Claude Code的数小时编码闭环、OpenClaw的24小时无人值守）。Claude Code是该范式的代表，其设计核心可拆解为四大支柱：
1. Agent Loop：基础运行循环
最简实现为while True循环+Bash工具，用subprocess执行命令，内置安全黑名单、超时限制、输出截断，避免风险与上下文溢出。扩展文件工具时需先做路径安全校验防越权，再实现Read（大文件截断）、Write（自动建目录）、Edit（精准替换，避免误改），集成到Agent Loop即可支持文件系统操作。
2. 上下文工程：动态信息筛选
- SubAgent上下文隔离：将SubAgent封装为工具，主Agent仅负责任务下发与结果验收，子Agent独立上下文处理细节，任务结束即销毁，不污染主上下文；限制子Agent最大运行轮次，避免死循环。
- Skills分级加载：一级加载启动时扫描所有Skill的元数据注入系统提示词；二级加载Agent识别任务需求后，调用工具拉取对应Skill的完整
SKILL.md内容。 - 多级上下文压缩：一级仅保留最近N个工具调用的完整结果，旧结果替换为精简占位符；二级上下文超阈值时，将完整历史归档到磁盘，调用LLM生成摘要替代原文；三级支持Agent主动调用压缩工具触发上述逻辑。
3. 持久化与异步任务
- Todo模式：强制LLM先生成最多20步的待办列表，通过专用工具维护任务状态，每完成一步更新进度。
- Task System：升级为任务图（DAG），每个任务存为独立JSON文件，支持定义“前置依赖/后置依赖”，任务状态持久化到磁盘，跨会话可查询。
- 后台任务：耗时操作（如安装依赖、构建）放到独立线程异步执行，主线程不阻塞，通过通知队列同步任务完成结果。
4. 多Agent协作：Agent Teams
区别于短生命周期的SubAgent，Team成员长期驻留、跨会话存活，支持直接通信：用config.json持久化成员状态（空闲/工作中/关闭）；通信采用邮箱模式（点对点发消息、读取后清空收件箱、支持广播）；主Agent为负责人，负责拆解任务、分配工作，各成员独立线程运行，并行处理任务后汇总结果。
六、实践样本：Claw类产品的工程落地
近期开源项目OpenClaw（昵称“龙虾”）因切入用户接口层成为AI社区热点：它集成飞书、钉钉等IM工具，让Agent化身7×24小时在线的数字员工，支持用户私聊/@触发指令，还内置定时任务机制，无需用户实时触发即可自主执行，是Harness工程理念的典型落地。其精简版NanoClaw（NodeJS编写，仅约4000行）是理解该架构的最佳入口。
NanoClaw的两层架构
| 层级 | 定位 | 核心设计 |
|---|---|---|
| 容器内（执行层） | 核心Agent运行环境 | 基于Claude Code官方SDK实现持续轮询Loop，监听IPC输入目录处理任务；集成浏览器、文件操作、代码执行等Skills；通过Docker沙箱隔离，避免危险操作影响宿主机。 |
| 容器外（管理层） | 能力增强层 | 解决内外安全流转问题，共8个核心模块： 1. 消息接收持久化：Channels模块用工厂模式统一异构IM协议为标准消息，优先写入SQLite，支持崩溃后基于 router_state表的游标断点续传，保障消息至少处理一次。2. 主循环调度：编排器每2秒轮询数据库，按群组规则校验触发词；激活Agent时会同步带入历史上下文，兼顾隐私与对话连贯性。 3. 定时任务：支持cron、固定间隔、一次性任务三类调度；提供隔离/群组两种上下文模式；采用“锚定计划时间”策略，避免服务中断后任务堆叠漂移。 4. 并发控制：group-queue默认限制5个并发容器，空闲超30分钟自动回收；container-runner负责容器创建、目录挂载。 5. IPC通信：为每个群组分配独立IPC目录（input发指令、messages收结果、tasks提定时任务），天然隔离不同群组权限。 6. 结果路由：IPC Watcher监听输出后，由路由器匹配对应Channel回传IM，完成闭环。 |
二次开发与部署
开发者可快速扩展NanoClaw：复用Telegram Channel范式，通过飞书NodeJS SDK（@larksuiteoapi/node-sdk）实现飞书Channel对接；通过改造Claude Agent SDK的sdkEnv参数，注入国内大模型（智谱、MiniMax等）的API地址与密钥，替代默认Anthropic模型。部署时执行container/build.sh构建Docker镜像，编译启动外部管理程序后，即可通过飞书发消息触发任务，或设置定时提醒，全流程验证系统可用性。NanoClaw还可进一步扩展至边缘计算场景，如结合嵌入式设备做智能人脸分析、抓拍等。
核心要点总结
- 上下文工程是Agent落地的核心支撑：从单次提示优化到系统化语境构建，解决意图偏移、记忆缺失、逻辑断层问题，是复杂任务可靠执行的基础。
- 工程化策略需围绕“效率与成本”平衡：通过记忆分层、上下文卸载（Skills）、多级压缩等技术，在有限Token窗口内最大化信息价值，降低算力开销。
- Harness体系决定Agent的长期生命力：Agent Loop、持久化、异步任务、多Agent协作四大支柱，支撑大模型从“单次对话工具”升级为“7×24小时数字员工”，真正融入企业业务流程。
金句：大模型的能力边界，从来不止于模型本身，更取决于我们为其构建的工程化土壤——Harness工程，正是让AI从“会说话”到“能干活”的关键一跃。