告别 Demo:工业 AI 场景 SKILL 工程方法论与生产规范
本文前半部分回答为什么必须工程化,中段定义技能本体与生产规范,后半部分解释怎样验证、上线、运营,并用热熔胶机异常研判把所有概念串成完整案例。
图 1 工业 SKILL 的岗位作业包类比
完整技能同时包含使命、数据、工具、安全和验收。
工业场景中的大模型应用,真正困难的部分不是“模型能不能回答”,而是回答是否建立在正确的设备、正确的时段、正确的工况和足够可信的数据上;它是否清楚地区分事实、计算、推断与确认;它能否在权限、联锁、作业许可和人员职责的边界内行动;发生缺数、工具失败、知识冲突或高后果事件时,是否能够安全降级;版本变更后,能否证明关键能力没有退化。把若干提示词、接口说明和经验文档放进一个目录,并不能自动得到可用于工业生产的 SKILL。
本文提出一套建议性工程方法I-SKILL/1.0(Industrial Skill Engineering Specification)。它不是现有国家标准或国际标准,而是对 Agent Skills、OpenAI Codex Skills、NousResearch Hermes Agent 技能机制,以及系统工程、控制论、信息论、软件工程、功能安全、工业网络安全和 AI 风险管理原则的综合。其核心定义是:
工业 SKILL 是一个受到资产边界、数据合同、知识模型、权限策略和安全不变量约束的可复用代理能力单元。它接收可追溯的上下文与观测,执行可解释的确定性处理和受控推理,通过最小权限工具形成建议或动作,并以独立验证、失败降级、审计记录和生命周期治理闭合反馈回路。
文章的结论可以概括为四句话:
第一,语言模型适合做语义理解、上下文整合、假设生成和人机沟通,不应承担安全联锁或未经约束的闭环控制;
第二,数值计算、模式切分、单位换算、阈值、格式校验、权限检查和审计哈希应尽量由确定性程序承担;
第三,SKILL 必须同时具备知识面、决策面、执行面和保障面,少任何一面都只能算演示;
第四,生产发布不是“写完 SKILL.md”,而是经过危害分析、合同化设计、离线验证、仿真/影子运行、受限上线、持续监测与变更复核的完整工程过程。
图 2 工业 SKILL 的第一性原理
先约束不可接受损失和边界,再组织计算、推理、工具与验证。
一、研究范围、资料来源与术语边界
1.1 离线资料的检索范围
学科簇 | 重点检索主题 | 对工业 SKILL 的贡献 |
工程学与系统工程 | 工程学、系统工程、V 模型、系统集成、可靠性、质量、物理失效 | 需求、边界、接口、生命周期、验证与确认 |
控制论与控制工程 | 控制论、工程控制论、反馈、负反馈、智能控制、混合系统 | 状态、闭环、稳定性、迟滞、降级和人机接管 |
信息论 | 信息论、熵、信道编码、语义信息 | 不确定性、信息价值、冗余校验、证据充分性 |
计算机与软件工程 | 计算机科学、软件工程、SWEBOK、形式化方法、形式化验证、SRE | 类型、合同、状态机、幂等性、测试、可观测性、变更管理 |
AI 与知识工程 | 专家系统、符号 AI、知识表示、知识库、贝叶斯网络、机器学习 | 本体、规则、概率推断、混合智能、解释 |
安全与人因 | 安全工程、系统安全、FMEA、故障树、功能安全、人因工程、风险评估 | 危害识别、防御纵深、最小权限、人工授权、失效安全 |
1.2 网络深度检索范围
优先使用一手资料:Agent Skills 公开规范、OpenAI Skills/Codex 官方文档、NousResearch Hermes Agent 官方仓库与文档、Model Context Protocol 官方文档、NIST AI RMF、TEVV 与制造业数字孪生资料、ISA-95、ISA/IEC 62443、IEC 61508/61511、ISO/IEC 42001、OPC UA 官方规范、OWASP 大模型应用风险项目,以及 ReAct、Toolformer 和生产机器学习原始论文。新兴 Agent Skill 安全论文只作为研究线索,不被当作成熟工业标准。
1.3 “Hermes”的解释
本报告中的 Hermes 指 NousResearch Hermes Agent,因为用户的问题与 SKILL 的发现、加载、管理和执行直接相关,而不是仅指 Hermes 系列语言模型。Hermes Agent 将技能视为按需加载的知识文档,支持紧凑列表、查看完整 SKILL.md、按路径加载参考文件、外部技能目录、平台约束、工具集条件激活、技能管理和来源/信任信息。模型技术报告与 Agent 运行时是两个层次:前者决定基础推理能力,后者决定能力如何被约束、调用和治理。
1.4 三类规范不要混为一谈
通俗类比: 可移植核心像电器的标准插头,平台适配像不同国家的转换插座,企业工业扩展则像工厂自己的配电规程和上锁挂牌制度。插头能插上,只说明“可以连接”;是否允许通电、能带多大负载、发生故障怎样断电,仍由现场规则决定。
对工程团队而言,这个区分能够避免两种常见错误:一是把平台字段误当成业务安全规则,换一个 Agent 运行时后约束就消失;二是把所有现场细节写进可移植核心,导致技能无法跨产线、跨工厂复用。正确做法是保持业务语义稳定,把运行时差异和现场差异分别放入适配层与现场配置层,并对三层分别做版本和测试。
层次 | 作用 | 建议做法 |
Agent Skills 可移植核心 | 规定技能目录、SKILL.md、可选 scripts/references/assets 和渐进披露 | 将核心名称、触发描述、流程和资源设计保持跨平台 |
平台适配 | Codex 的 agents/openai.yaml、Hermes 的平台与工具集元数据、UI 字段 | 通过适配层表达,不污染核心业务语义 |
企业工业扩展 | 数据合同、资产本体、权限、危害、验证、发布与审计 | 作为企业生产规范强制执行,并由独立门禁检查 |
Agent Skills 规范允许若干可选前置字段,而 OpenAI 的技能创建规范倾向于在 SKILL.md 前置区只保留name 和description。因此,本报告的样例选择最小可移植核心:只在SKILL.md 使用名称和描述,把 Codex 展示配置放到 agents/openai.yaml,把 Hermes 或企业特有元数据作为适配配置管理。这样既能跨平台复用,也避免同一字段在不同运行时含义不一致。
二、从第一性原理重新定义工业 Agent 问题
从一个真实班次问题开始
早上 7:42,纸尿裤产线热熔胶机出现温度下滑,加热指令却逐步升到 100%。值班人员真正需要的不是一段“像专家”的回答,而是确认:这是不是计划工况;影响哪台设备;异常从何时开始;证据来自哪些点位;还有哪些替代解释;现在谁应该做什么;哪些动作绝对不能做;维修以后怎样证明已经恢复。
这个场景揭示了普通 Agent 与工业 SKILL 的根本差异:普通 Agent 的终点是答案,工业 SKILL 的终点是一个有来源、有边界、有负责人、可验证、能安全失败的决策闭环。
图 3 普通 Agent 与工业 SKILL 的差异
工业系统关注可证明的决策链和失败路径。
2.1 工业现场不是普通问答环境
工业系统具有五个根本属性。其一,它是动态系统,当前状态由过去输入、扰动、维护和材料历史共同决定;其二,它通常只能被部分观测,传感器既不完备也可能失真;其三,它存在硬约束,安全、质量、设备极限和节拍不是偏好;其四,它是社会—技术系统,操作者、维修、工艺、自动化、质量、供应商和管理者拥有不同知识与权限;其五,错误代价不对称,漏掉高后果事件与多发几个低质量告警的代价完全不同。
因此,工业任务不能被抽象成用户问题→ 大模型答案,而应抽象成:
任务使命 + 系统边界 + 观测证据 + 隐状态估计 + 风险约束 + 受限决策 + 授权执行 + 独立验证 + 反馈更新。
2.2 大模型的能力边界
通俗类比: 大模型更像一位阅读面很广、表达能力很强的高级调度员,而不是安全 PLC。调度员可以汇总手册、报警、工单和班组经验,提出候选原因并协调下一步;但它不能替代刹车、联锁、安全气囊和持证作业人员。
这个类比也说明了为什么“大模型能力更强”并不会自动消除工程约束。即使调度员经验再丰富,仪表校验、身份核验、操作许可和独立保护仍然不可省略。基础模型升级可以提高语义理解和工具选择能力,却不能替企业自动完成危害分析、权限设计和现场验证。
大模型是一种概率性的语义变换器。它擅长将非结构化语言、文档、报警说明和多源上下文组织成候选解释,能生成检查步骤,能把技术判断翻译给不同角色,也能选择工具并根据工具结果修订计划。ReAct 展示了推理与行动交替带来的环境反馈价值;Toolformer 关注何时调用工具、如何填写参数以及如何使用返回结果。
但大模型没有天然的设备状态真实性、单位一致性、时钟同步、权限真实性或物理安全保证。它可能把流畅语言误当成事实,把相关性误当成因果,把缺失字段补成看似合理的值,或被检索内容中的指令诱导。因此,在生产系统中,大模型应位于“受约束的认知层”,而不是替代 PLC、SIS、联锁、确定性优化器、正式审批或授权工程师。
2.3 工业 SKILL 的工程目标
一个 SKILL 的质量不是由篇幅决定,而由它降低了多少任务不确定性、约束了多少危险自由度、保留了多少证据链、覆盖了多少失败路径,以及变更后能否重复证明。最小目标函数可写为:
最大化任务效用与信息增益;最小化不受约束行动、错误自信、不可追溯推断、人员负担与生命周期成本;同时满足安全不变量、权限和数据合同。
这意味着设计顺序应是“先约束、再观测、后推理,最后才谈动作”,而不是先写一个万能提示词再补安全说明。
三、跨学科底层逻辑如何转化为设计规则
3.1 系统工程:从真实问题、边界和生命周期开始
通俗类比:系统工程像造桥。 工程团队不会先选桥面颜色,再问桥跨多宽、承受多大载荷、连接哪两条路、洪水来了怎么办。工业 SKILL 同样不能从“选哪个大模型”开始,而要先明确服务哪项决策、覆盖哪些资产和模式、错误代价是什么、由谁维护以及怎样退役。
把这个类比落实到项目文档,就是先完成任务上下文图、利益相关者和 RACI、业务基线、危害清单、接口清单与验收条件,再决定哪些环节使用规则、传统算法、LLM 或人工。算法是系统中的一个实现选择,不是系统目标本身。
系统工程首先要求识别真正的问题,而不是把已有算法当作问题。对工业 SKILL,需要明确使命、利益相关者、资产边界、上游与下游系统、运行模式、外部扰动、责任分配和从设计到退役的生命周期。需求必须可追踪到危害、接口、实现资源、测试用例和验收证据。
由此得到的规则是:每一个 SKILL 都必须回答“为谁、在什么资产和工况下、解决什么决策、明确不做什么、依赖谁、失败时由谁接管”。未经系统边界定义的技能描述,触发范围必然过宽;未经全生命周期设计的脚本,迟早因标签、接口、设备或标准变化而失效。
3.2 控制论:把技能设计成有界闭环
通俗类比:控制论像洗澡调水温。 人不会只拧一次龙头便闭上眼睛,而是感受水温、调整冷热水、再次感受,并避免来回拧得过猛。工业 SKILL 也必须观察、估计、比较、行动和验证,还要用迟滞、冷却时间和速率限制防止反复报警或过度动作。
这里的“闭环”并不等于“让 LLM 自动控制设备”。更安全的分工是:LLM 参与认知闭环,确定性系统和人员完成授权闭环,PLC/DCS/SIS 保持控制与保护闭环。三个闭环通过经过验证的接口协作,而不是由一个模型包办。
控制论的核心不是“自动控制一切”,而是观测、估计、比较、作用与反馈。工业 Agent 也应形成闭环:采集观测,估计状态,与目标和约束比较,选择受限动作,检查执行结果,再修正状态。为了避免振荡和过度反应,需要模式门控、持续性条件、迟滞、冷却时间、速率限制和人工接管。
重要推论是:LLM 的输出不能直接等价为控制量。它可以生成诊断假设或建议,但实际动作必须经过策略门、权限门、工况门和安全门。高风险动作还要由独立于大模型的保护层约束。模型不可用时,原设备保护不得失效;网络中断时,安全功能不得依赖云端对话。
图 4 有界认知闭环
语言模型位于受约束的认知层,设备保护和授权流程保持独立。
3.3 信息论:以证据减少不确定性
通俗类比:信息论像医生选择检查。 患者说“胸口不舒服”时,医生不会把第一印象直接写成根因,而会选择最能区分不同可能性的检查。工业诊断也应该问:下一条证据能排除多少假设,采集它的成本和风险是多少?
例如温度下降而加热指令升高时,再读一遍报警文字的信息增益很小;检查实际加热电流、同配方热负载和独立参考温度,才可能区分加热回路故障、负载变化与传感器偏差。SKILL 应把“下一条最有价值的安全证据”作为正式输出,而不是只给出一个结论。
图 5 从事实到确认的证据等级
模型分数属于派生证据,确认根因需要授权检查或维修结果。
信息论提醒我们,信息的价值不在于文本长度,而在于它对不确定性的减少。工业 SKILL 应在每一步问:当前有哪些候选状态?哪个观测最能区分这些状态?采集这个信息的代价和风险是多少?例如“检查同配方下加热指令与温度跟踪误差”通常比“再读一遍报警描述”更能区分加热器故障、负载变化和传感器故障。
信道编码的思想也有直接启发:单一传感器或单次模型输出不应成为高后果决策的唯一依据,应使用独立证据路径、时间一致性、单位和范围校验、校验和、质量位以及执行后确认形成冗余。冗余不是重复措辞,而是不同失效模式下仍能互相验证的信息通道。
3.4 计算机科学与软件工程:合同、类型与状态机
通俗类比:计算机合同像机场闸机。 闸机不会凭工作人员觉得“这个人应该没问题”就放行,而会精确核验航班、身份、时间和票证状态。工业系统中的资产 ID、单位、时区、枚举状态、证据引用和权限同样不能靠模型猜测。
因此,凡是能够写成类型、枚举、范围、状态转换或不变量的内容,都应尽量由机器执行。语言模型负责理解模糊语义,程序负责拒绝不合法状态。所谓“确定性护栏”,不是给模型多说一句注意安全,而是让不合规输出无法通过下一道门。
自然语言适合表达意图,但不适合独自承担所有接口约束。工业 SKILL 应把输入、输出、错误码、状态转换和工具权限结构化:资产 ID 不是任意字符串,时间戳必须带时区,压力必须带单位,风险等级必须来自枚举,证据引用必须存在,确认根因必须具有检查或修复结果。
确定性脚本应处理:模式与数据验证、单位换算、时间对齐、统计特征、规则门控、输出结构检查、哈希、日志脱敏和回归测试。脚本必须幂等、可独立运行、显式失败,并能在无网络环境中处理边界情况。语言模型只应承担需要语义和情境判断的部分。
形式化方法的现实用法不是把整个工厂形式化,而是把最重要的不变量机器化,例如:不得生成 A3/A4 控制动作;所有建议必须有负责人和验证方法;URGENT_ESCALATION 必须进入升级状态;CONFIRMED 根因必须引用授权检查证据;数据不可用时不得输出精确数值结论。
3.5 知识工程:本体、规则与概率推断协同
通俗类比:知识工程像给老师傅的经验建一张可检索地图。 只有一堆维修记录,就像只有很多地址却没有道路;本体把设备、部件、信号、物料流、故障机理和操作角色连成路网,规则标出禁行区,概率模型估计哪条路更可能,大模型则负责根据当前情境规划调查路线。
这也是为什么 RAG 并不等于知识工程。检索能找到相似文字,却不一定知道某条规则适用于哪一代设备、某个点位属于上游还是下游、两份手册冲突时谁优先。生产技能需要版本化本体、来源优先级和适用范围,而不仅是向量相似度。
工业知识不是一堆 PDF。它至少需要资产层级、部件—功能关系、物料流方向、信号语义、单位、运行模式、故障机理、标准程序和角色权限。这个本体使模型知道“下游压力下降”在泵、过滤器、软管和喷枪之间意味着什么,也使相同标签在不同产线之间可以映射。
专家规则适合硬约束和明确机理,统计模型适合从高维数据中发现偏离,语言模型适合组织证据、比较假设和沟通。严谨方案通常是混合智能:本体限定语义,规则守住边界,确定性算法计算,概率模型给出异常证据,LLM 进行受约束的综合推理,人工完成高后果确认。
3.6 安全工程与人因:先识别不可接受损失
通俗类比:人工在环更像航空驾驶舱,而不是网页上的确认按钮。 真正的人工控制要求明确谁有资格确认、看到了什么证据、可以拒绝什么、超时如何处理、出现异常由谁接管。若用户长期被无效告警淹没,形式上的人工确认反而会增加风险。
对技能做 FMEA 时,不仅分析它会不会答错,还要分析它会不会在错误资产上触发、把计划停机当故障、使用过期知识、被工单中的恶意指令诱导、泄露敏感数据、重复创建工单或在用户犹豫时继续推进。每一种失效都需要检测、阻断、降级和责任人。
FMEA 从部件失效出发向上分析影响,故障树从顶层事故向下分解原因,两者互补。对 SKILL 本身也要做 FMEA:错误触发、错误资产、数据错位、单位错误、提示注入、越权工具、漏报、高频告警、确认偏差、日志泄漏和更新回归都属于技能失效模式。
工业安全强调人员、流程和技术共同负责。人工在环不是简单加一个“确认按钮”,而是明确谁有资格确认、确认什么、得到什么证据、可否拒绝、超时如何处理、如何交接和如何避免自动化偏见。界面必须把事实、推断、风险、置信度和待确认项分开显示。
3.7 测量科学:先证明观测可信,再讨论模型聪明
通俗类比:如果体温计本身漂移,再精密的诊断模型也只是在解释错误读数。工业 AI 的输入不是抽象数字,而是传感器、变送器、采集卡、时间同步、缩放系数、质量位和维护状态共同产生的测量结果。
生产级数据合同必须向测量链上游延伸:记录点位来源、量程、分辨率、精度、校准状态、采样与聚合方法、时钟来源、质量位、插值和派生公式。需要区分过程真实变化、测量噪声、传感器漂移、通信异常与数据工程错误。关键结论若依赖单一测量通道,应给出独立参考测量或冗余证据;无法证明测量可信时,系统只能报告数据不足,不能输出更精确的根因。
验证、确认与不确定性量化(V&V/UQ)不仅适用于模型,也适用于数据、数字孪生、规则、阈值和最终系统。Verification 问“是否按规格正确实现”,Validation 问“是否满足既定用途”,UQ 问“结论受哪些不确定性影响、范围多大”。三者共同决定证据是否足以支持某一自主度,而不是给模型颁发一次性准确率证书。
3.8 因果推断与决策科学:从发现异常走向评估干预
预测回答“接下来可能发生什么”,因果推断回答“如果采取某个动作,结果会怎样变化”。工业 SKILL 一旦开始推荐调整参数、维修部件或改变排程,就不能只依赖相关性。原料批次、环境、设备老化、人员操作和维护选择都可能同时影响输入与结果,使一个高相关特征并非真正原因。
严谨做法是把候选机理写成因果图和可区分假设,明确混杂因素、可观测变量、不可观测变量与允许干预。优先使用机理约束、设计试验、受控维护检查、自然实验或历史准实验估计干预效果;无法安全干预时,使用仿真、数字孪生和反事实回放生成证据,但不得把仿真结论直接视为现场确认。每条建议都应说明:期望改变哪个中间状态、多久看到响应、什么结果支持或反驳该假设、何时停止。
3.9 价值工程:把错误代价、信息价值和生命周期成本放进同一目标函数
工业 AI 的商业价值不是模型指标的线性函数。同样的召回率,在漏报可能引发停产或安全事故、误报只增加一次检查时,决策阈值完全不同。项目应建立错误成本矩阵,至少覆盖漏报、误报、延迟发现、错误资产、错误动作、人工复核、停机窗口、质量损失与安全后果。
价值评估还应包含生命周期总成本:传感器与网络改造、数据治理、领域专家、模型和知识维护、验证复验、网络安全、合规、算力、供应商切换与退役。下一条证据是否值得采集,可以用“预期信息价值-采集成本-操作风险”衡量。只有风险调整后的净收益为正、且不可接受损失受独立保护时,自动化程度提升才有经济与工程依据。
四、I-SKILL/1.0:四平面生产级架构
前述学科与新增的测量科学、因果决策和价值工程共同汇聚为四个工程平面。可以把它理解为一座数字工厂岗位:知识面是它理解世界的地图;决策面是它分析问题的工作方法;执行面是它能触碰的工具和权限;保障面是培训、考试、监控、复验与退役体系。
图 6 九条工程纪律共同约束工业 SKILL
九条纪律分别处理边界、反馈、证据、确定性、语义、安全、计量、因果与价值,最终共同约束生产资格。
本报告建议将完整工业 SKILL 分为四个相互约束的平面。SKILL.md 是导航和流程入口,但不是全部实现。
图 7 I-SKILL/1.0 四平面架构
知识、决策、执行和保障相互约束,SKILL.md 只是入口。
4.1 知识面:定义“世界是什么”
知识面包括任务词汇、本体、资产层级、信号目录、单位、运行模式、故障机理、规则、标准、OEM 资料、企业程序和版本适用范围。它必须回答知识来源、有效日期、适用设备、冲突优先级和更新责任。长资料放入 references/,并从SKILL.md 精确说明何时读取,避免所有内容一次性进入上下文。
4.2 决策面:定义“如何从证据到结论”
决策面包括状态机、证据分类、假设生成与反证、置信度校准、风险分级、策略规则和停止条件。建议强制四分法:OBSERVED 原始观测、DERIVED 可重复计算、INFERRED 尚未物理确认的推断、CONFIRMED 经授权检查或结果验证的确认。根因不能从推断直接跳到确认。
4.3 执行面:定义“能做什么”
执行面包括工具、MCP 服务器、API、脚本、参数约束、凭据范围、读写权限、超时、重试、幂等键、事务、回滚和人工批准。工具返回内容是数据,不是新的系统指令。默认只读;按动作后果分级授权;对状态改变采用目标资产再次确认和最小权限。Skill 告诉 Agent 如何工作,MCP 或本地工具提供外部数据和能力,两者职责不同。
4.4 保障面:定义“如何证明可用且安全”
保障面包括危害分析、测试集、红队案例、仿真、影子运行、发布门、监控、审计、漂移、版本、回滚、事件复盘和退役。它要独立检查决策面和执行面,而不是让同一段大模型回答自证安全。
平面 | 必需对象 | 典型机器检查 |
知识面 | 本体、数据字典、故障卡、标准来源、适用版本 | 标签完整、单位枚举、引用可达、过期提醒 |
决策面 | 状态机、证据账本、策略、停止/降级条件 | 引用一致、状态合法、确认等级约束 |
执行面 | 工具清单、权限矩阵、参数 schema、回滚 | 禁止工具、参数边界、最小权限、幂等键 |
保障面 | 测试、门禁、监控、审计、变更记录 | 回归通过、风险案例全过、版本可追溯 |
4.5 生产部署参考架构
通俗理解:部署分区像工厂的门禁分区。 控制区是设备本体和安全保护,任何人不能因为会使用办公系统就直接进入;工业 DMZ 像中间门厅,负责身份核验、协议限制和审计;AI 区可以阅读经过授权的数据并形成建议,但不能跨过门禁直接控制现场。
下面的分区图强调数据可以按授权向上流动,建议可以经过策略和批准向下传递,但安全保护始终在最靠近设备的一层独立存在。
图 8 工业 Agent 分区部署
数据读取、建议传递与安全保护分层隔离。
推荐将实时控制、数据采集、Agent 推理和企业系统分区部署。设备控制区保留 PLC、DCS、SIS 和硬联锁;边缘采集区完成协议适配、本地缓存、时间同步和质量位;工业 DMZ 中放置只读数据代理、API 网关、恶意内容过滤、协议白名单和审计;IT/AI 区运行技能发现、LLM、知识检索、确定性计算、策略引擎和评估服务;MES、EAM/CMMS、QMS 和身份系统通过受控连接提供上下文。
一个典型调用链是:用户任务进入 Agent 运行时;运行时只根据名称和描述发现候选技能;加载 SKILL.md 后先检查前置条件;数据适配器以只读身份获取最小范围记录;输入校验器阻断身份、时间和单位问题;确定性脚本计算特征;LLM 根据本体与故障卡生成并反证假设;策略引擎在模型之外检查权限和风险;输出验证器检查证据引用和动作等级;人工界面显示证据并完成必要批准;执行后由独立数据通道验证结果;所有阶段写入可重放的审计事件。
对 OT 写操作,应优先通过现有受控工作流创建“建议或工单草稿”,而不是让通用 Agent 直接调用控制协议。若组织确实需要自动执行低风险动作,也应使用专用编排器:结构化白名单参数、服务器端角色授权、双重确认、目标资产锁、幂等键、事务日志、超时、回滚和独立保护层缺一不可。
4.6 模型、知识、规则和程序如何分工
图 9 工业 Agent 的责任边界
让大模型、确定性程序、策略与控制系统各司其职。
记忆口诀:模型负责“读和想”,程序负责“算和验”,策略负责“准不准做”,控制系统负责“实时执行与保护”。 这种分工并不是限制大模型价值,而是把它放在最能发挥语义能力、同时最容易被工程约束的位置。
4.7 生产资格不是能力声明,而是可审计证据链
一个技能“能够运行”只证明实现存在;“在测试集上表现好”只证明有限样本下的性能;“具备生产资格”则要求使命、危害、数据、实现、TEVV 和运行六类证据闭环。每一项需求应追踪到风险或价值来源、实现资源、测试用例、批准角色与运行指标。
建议为每个发布版本建立不可变的证据包:任务与资产边界、危害日志和保护层、数据与语义合同、代码/配置/模型/依赖清单、测试和影子运行报告、人工评审记录、发布批准、SLO与回滚演练。审计重放必须能回答:当时读取了什么、使用哪个版本、调用了哪些工具、谁批准了什么、依据何在、执行后怎样验证。
工程结论:自主度不是模型能力等级,而是证据充分度、损失严重度、独立保护能力和组织责任共同决定的运行许可。证据变化,自主度也必须重新评估。
图 10 从 Demo 到生产资格的六类证据链
能力可以由模型展示,生产资格必须由跨阶段工程证据证明。
任务 | 首选实现 | 原因 |
字段/单位/时间/范围校验 | JSON Schem… |