告别 Demo:工业 AI 场景 SKILL 工程方法论与生产规范

本文前半部分回答为什么必须工程化,中段定义技能本体与生产规范,后半部分解释怎样验证、上线、运营,并用热熔胶机异常研判把所有概念串成完整案例。

图 1 工业 SKILL 的岗位作业包类比

完整技能同时包含使命、数据、工具、安全和验收。

工业场景中的大模型应用,真正困难的部分不是“模型能不能回答”,而是回答是否建立在正确的设备、正确的时段、正确的工况和足够可信的数据上;它是否清楚地区分事实、计算、推断与确认;它能否在权限、联锁、作业许可和人员职责的边界内行动;发生缺数、工具失败、知识冲突或高后果事件时,是否能够安全降级;版本变更后,能否证明关键能力没有退化。把若干提示词、接口说明和经验文档放进一个目录,并不能自动得到可用于工业生产的 SKILL。

本文提出一套建议性工程方法I-SKILL/1.0(Industrial Skill Engineering Specification)。它不是现有国家标准或国际标准,而是对 Agent Skills、OpenAI Codex Skills、NousResearch Hermes Agent 技能机制,以及系统工程、控制论、信息论、软件工程、功能安全、工业网络安全和 AI 风险管理原则的综合。其核心定义是:

工业 SKILL 是一个受到资产边界、数据合同、知识模型、权限策略和安全不变量约束的可复用代理能力单元。它接收可追溯的上下文与观测,执行可解释的确定性处理和受控推理,通过最小权限工具形成建议或动作,并以独立验证、失败降级、审计记录和生命周期治理闭合反馈回路。

文章的结论可以概括为四句话:

第一,语言模型适合做语义理解、上下文整合、假设生成和人机沟通,不应承担安全联锁或未经约束的闭环控制;

第二,数值计算、模式切分、单位换算、阈值、格式校验、权限检查和审计哈希应尽量由确定性程序承担;

第三,SKILL 必须同时具备知识面、决策面、执行面和保障面,少任何一面都只能算演示;

第四,生产发布不是“写完 SKILL.md”,而是经过危害分析、合同化设计、离线验证、仿真/影子运行、受限上线、持续监测与变更复核的完整工程过程。

图 2 工业 SKILL 的第一性原理

先约束不可接受损失和边界,再组织计算、推理、工具与验证。

一、研究范围、资料来源与术语边界

1.1 离线资料的检索范围

学科簇

重点检索主题

对工业 SKILL 的贡献

工程学与系统工程

工程学、系统工程、V 模型、系统集成、可靠性、质量、物理失效

需求、边界、接口、生命周期、验证与确认

控制论与控制工程

控制论、工程控制论、反馈、负反馈、智能控制、混合系统

状态、闭环、稳定性、迟滞、降级和人机接管

信息论

信息论、熵、信道编码、语义信息

不确定性、信息价值、冗余校验、证据充分性

计算机与软件工程

计算机科学、软件工程、SWEBOK、形式化方法、形式化验证、SRE

类型、合同、状态机、幂等性、测试、可观测性、变更管理

AI 与知识工程

专家系统、符号 AI、知识表示、知识库、贝叶斯网络、机器学习

本体、规则、概率推断、混合智能、解释

安全与人因

安全工程、系统安全、FMEA、故障树、功能安全、人因工程、风险评估

危害识别、防御纵深、最小权限、人工授权、失效安全

1.2 网络深度检索范围

优先使用一手资料:Agent Skills 公开规范、OpenAI Skills/Codex 官方文档、NousResearch Hermes Agent 官方仓库与文档、Model Context Protocol 官方文档、NIST AI RMF、TEVV 与制造业数字孪生资料、ISA-95、ISA/IEC 62443、IEC 61508/61511、ISO/IEC 42001、OPC UA 官方规范、OWASP 大模型应用风险项目,以及 ReAct、Toolformer 和生产机器学习原始论文。新兴 Agent Skill 安全论文只作为研究线索,不被当作成熟工业标准。

1.3 “Hermes”的解释

本报告中的 Hermes 指 NousResearch Hermes Agent,因为用户的问题与 SKILL 的发现、加载、管理和执行直接相关,而不是仅指 Hermes 系列语言模型。Hermes Agent 将技能视为按需加载的知识文档,支持紧凑列表、查看完整 SKILL.md、按路径加载参考文件、外部技能目录、平台约束、工具集条件激活、技能管理和来源/信任信息。模型技术报告与 Agent 运行时是两个层次:前者决定基础推理能力,后者决定能力如何被约束、调用和治理。

1.4 三类规范不要混为一谈

通俗类比: 可移植核心像电器的标准插头,平台适配像不同国家的转换插座,企业工业扩展则像工厂自己的配电规程和上锁挂牌制度。插头能插上,只说明“可以连接”;是否允许通电、能带多大负载、发生故障怎样断电,仍由现场规则决定。

对工程团队而言,这个区分能够避免两种常见错误:一是把平台字段误当成业务安全规则,换一个 Agent 运行时后约束就消失;二是把所有现场细节写进可移植核心,导致技能无法跨产线、跨工厂复用。正确做法是保持业务语义稳定,把运行时差异和现场差异分别放入适配层与现场配置层,并对三层分别做版本和测试。

层次

作用

建议做法

Agent Skills 可移植核心

规定技能目录、SKILL.md、可选 scripts/references/assets 和渐进披露

将核心名称、触发描述、流程和资源设计保持跨平台

平台适配

Codex 的 agents/openai.yaml、Hermes 的平台与工具集元数据、UI 字段

通过适配层表达,不污染核心业务语义

企业工业扩展

数据合同、资产本体、权限、危害、验证、发布与审计

作为企业生产规范强制执行,并由独立门禁检查

Agent Skills 规范允许若干可选前置字段,而 OpenAI 的技能创建规范倾向于在 SKILL.md 前置区只保留name 和description。因此,本报告的样例选择最小可移植核心:只在SKILL.md 使用名称和描述,把 Codex 展示配置放到 agents/openai.yaml,把 Hermes 或企业特有元数据作为适配配置管理。这样既能跨平台复用,也避免同一字段在不同运行时含义不一致。

二、从第一性原理重新定义工业 Agent 问题

从一个真实班次问题开始

早上 7:42,纸尿裤产线热熔胶机出现温度下滑,加热指令却逐步升到 100%。值班人员真正需要的不是一段“像专家”的回答,而是确认:这是不是计划工况;影响哪台设备;异常从何时开始;证据来自哪些点位;还有哪些替代解释;现在谁应该做什么;哪些动作绝对不能做;维修以后怎样证明已经恢复。

这个场景揭示了普通 Agent 与工业 SKILL 的根本差异:普通 Agent 的终点是答案,工业 SKILL 的终点是一个有来源、有边界、有负责人、可验证、能安全失败的决策闭环。

图 3 普通 Agent 与工业 SKILL 的差异

工业系统关注可证明的决策链和失败路径。

2.1 工业现场不是普通问答环境

工业系统具有五个根本属性。其一,它是动态系统,当前状态由过去输入、扰动、维护和材料历史共同决定;其二,它通常只能被部分观测,传感器既不完备也可能失真;其三,它存在硬约束,安全、质量、设备极限和节拍不是偏好;其四,它是社会—技术系统,操作者、维修、工艺、自动化、质量、供应商和管理者拥有不同知识与权限;其五,错误代价不对称,漏掉高后果事件与多发几个低质量告警的代价完全不同。

因此,工业任务不能被抽象成用户问题→ 大模型答案,而应抽象成:

任务使命 + 系统边界 + 观测证据 + 隐状态估计 + 风险约束 + 受限决策 + 授权执行 + 独立验证 + 反馈更新。

2.2 大模型的能力边界

通俗类比: 大模型更像一位阅读面很广、表达能力很强的高级调度员,而不是安全 PLC。调度员可以汇总手册、报警、工单和班组经验,提出候选原因并协调下一步;但它不能替代刹车、联锁、安全气囊和持证作业人员。

这个类比也说明了为什么“大模型能力更强”并不会自动消除工程约束。即使调度员经验再丰富,仪表校验、身份核验、操作许可和独立保护仍然不可省略。基础模型升级可以提高语义理解和工具选择能力,却不能替企业自动完成危害分析、权限设计和现场验证。

大模型是一种概率性的语义变换器。它擅长将非结构化语言、文档、报警说明和多源上下文组织成候选解释,能生成检查步骤,能把技术判断翻译给不同角色,也能选择工具并根据工具结果修订计划。ReAct 展示了推理与行动交替带来的环境反馈价值;Toolformer 关注何时调用工具、如何填写参数以及如何使用返回结果。

但大模型没有天然的设备状态真实性、单位一致性、时钟同步、权限真实性或物理安全保证。它可能把流畅语言误当成事实,把相关性误当成因果,把缺失字段补成看似合理的值,或被检索内容中的指令诱导。因此,在生产系统中,大模型应位于“受约束的认知层”,而不是替代 PLC、SIS、联锁、确定性优化器、正式审批或授权工程师。

2.3 工业 SKILL 的工程目标

一个 SKILL 的质量不是由篇幅决定,而由它降低了多少任务不确定性、约束了多少危险自由度、保留了多少证据链、覆盖了多少失败路径,以及变更后能否重复证明。最小目标函数可写为:

最大化任务效用与信息增益;最小化不受约束行动、错误自信、不可追溯推断、人员负担与生命周期成本;同时满足安全不变量、权限和数据合同。

这意味着设计顺序应是“先约束、再观测、后推理,最后才谈动作”,而不是先写一个万能提示词再补安全说明。

三、跨学科底层逻辑如何转化为设计规则

3.1 系统工程:从真实问题、边界和生命周期开始

通俗类比:系统工程像造桥。 工程团队不会先选桥面颜色,再问桥跨多宽、承受多大载荷、连接哪两条路、洪水来了怎么办。工业 SKILL 同样不能从“选哪个大模型”开始,而要先明确服务哪项决策、覆盖哪些资产和模式、错误代价是什么、由谁维护以及怎样退役。

把这个类比落实到项目文档,就是先完成任务上下文图、利益相关者和 RACI、业务基线、危害清单、接口清单与验收条件,再决定哪些环节使用规则、传统算法、LLM 或人工。算法是系统中的一个实现选择,不是系统目标本身。

系统工程首先要求识别真正的问题,而不是把已有算法当作问题。对工业 SKILL,需要明确使命、利益相关者、资产边界、上游与下游系统、运行模式、外部扰动、责任分配和从设计到退役的生命周期。需求必须可追踪到危害、接口、实现资源、测试用例和验收证据。

由此得到的规则是:每一个 SKILL 都必须回答“为谁、在什么资产和工况下、解决什么决策、明确不做什么、依赖谁、失败时由谁接管”。未经系统边界定义的技能描述,触发范围必然过宽;未经全生命周期设计的脚本,迟早因标签、接口、设备或标准变化而失效。

3.2 控制论:把技能设计成有界闭环

通俗类比:控制论像洗澡调水温。 人不会只拧一次龙头便闭上眼睛,而是感受水温、调整冷热水、再次感受,并避免来回拧得过猛。工业 SKILL 也必须观察、估计、比较、行动和验证,还要用迟滞、冷却时间和速率限制防止反复报警或过度动作。

这里的“闭环”并不等于“让 LLM 自动控制设备”。更安全的分工是:LLM 参与认知闭环,确定性系统和人员完成授权闭环,PLC/DCS/SIS 保持控制与保护闭环。三个闭环通过经过验证的接口协作,而不是由一个模型包办。

控制论的核心不是“自动控制一切”,而是观测、估计、比较、作用与反馈。工业 Agent 也应形成闭环:采集观测,估计状态,与目标和约束比较,选择受限动作,检查执行结果,再修正状态。为了避免振荡和过度反应,需要模式门控、持续性条件、迟滞、冷却时间、速率限制和人工接管。

重要推论是:LLM 的输出不能直接等价为控制量。它可以生成诊断假设或建议,但实际动作必须经过策略门、权限门、工况门和安全门。高风险动作还要由独立于大模型的保护层约束。模型不可用时,原设备保护不得失效;网络中断时,安全功能不得依赖云端对话。

图 4 有界认知闭环

语言模型位于受约束的认知层,设备保护和授权流程保持独立。

3.3 信息论:以证据减少不确定性

通俗类比:信息论像医生选择检查。 患者说“胸口不舒服”时,医生不会把第一印象直接写成根因,而会选择最能区分不同可能性的检查。工业诊断也应该问:下一条证据能排除多少假设,采集它的成本和风险是多少?

例如温度下降而加热指令升高时,再读一遍报警文字的信息增益很小;检查实际加热电流、同配方热负载和独立参考温度,才可能区分加热回路故障、负载变化与传感器偏差。SKILL 应把“下一条最有价值的安全证据”作为正式输出,而不是只给出一个结论。

图 5 从事实到确认的证据等级

模型分数属于派生证据,确认根因需要授权检查或维修结果。

信息论提醒我们,信息的价值不在于文本长度,而在于它对不确定性的减少。工业 SKILL 应在每一步问:当前有哪些候选状态?哪个观测最能区分这些状态?采集这个信息的代价和风险是多少?例如“检查同配方下加热指令与温度跟踪误差”通常比“再读一遍报警描述”更能区分加热器故障、负载变化和传感器故障。

信道编码的思想也有直接启发:单一传感器或单次模型输出不应成为高后果决策的唯一依据,应使用独立证据路径、时间一致性、单位和范围校验、校验和、质量位以及执行后确认形成冗余。冗余不是重复措辞,而是不同失效模式下仍能互相验证的信息通道。

3.4 计算机科学与软件工程:合同、类型与状态机

通俗类比:计算机合同像机场闸机。 闸机不会凭工作人员觉得“这个人应该没问题”就放行,而会精确核验航班、身份、时间和票证状态。工业系统中的资产 ID、单位、时区、枚举状态、证据引用和权限同样不能靠模型猜测。

因此,凡是能够写成类型、枚举、范围、状态转换或不变量的内容,都应尽量由机器执行。语言模型负责理解模糊语义,程序负责拒绝不合法状态。所谓“确定性护栏”,不是给模型多说一句注意安全,而是让不合规输出无法通过下一道门。

自然语言适合表达意图,但不适合独自承担所有接口约束。工业 SKILL 应把输入、输出、错误码、状态转换和工具权限结构化:资产 ID 不是任意字符串,时间戳必须带时区,压力必须带单位,风险等级必须来自枚举,证据引用必须存在,确认根因必须具有检查或修复结果。

确定性脚本应处理:模式与数据验证、单位换算、时间对齐、统计特征、规则门控、输出结构检查、哈希、日志脱敏和回归测试。脚本必须幂等、可独立运行、显式失败,并能在无网络环境中处理边界情况。语言模型只应承担需要语义和情境判断的部分。

形式化方法的现实用法不是把整个工厂形式化,而是把最重要的不变量机器化,例如:不得生成 A3/A4 控制动作;所有建议必须有负责人和验证方法;URGENT_ESCALATION 必须进入升级状态;CONFIRMED 根因必须引用授权检查证据;数据不可用时不得输出精确数值结论。

3.5 知识工程:本体、规则与概率推断协同

通俗类比:知识工程像给老师傅的经验建一张可检索地图。 只有一堆维修记录,就像只有很多地址却没有道路;本体把设备、部件、信号、物料流、故障机理和操作角色连成路网,规则标出禁行区,概率模型估计哪条路更可能,大模型则负责根据当前情境规划调查路线。

这也是为什么 RAG 并不等于知识工程。检索能找到相似文字,却不一定知道某条规则适用于哪一代设备、某个点位属于上游还是下游、两份手册冲突时谁优先。生产技能需要版本化本体、来源优先级和适用范围,而不仅是向量相似度。

工业知识不是一堆 PDF。它至少需要资产层级、部件—功能关系、物料流方向、信号语义、单位、运行模式、故障机理、标准程序和角色权限。这个本体使模型知道“下游压力下降”在泵、过滤器、软管和喷枪之间意味着什么,也使相同标签在不同产线之间可以映射。

专家规则适合硬约束和明确机理,统计模型适合从高维数据中发现偏离,语言模型适合组织证据、比较假设和沟通。严谨方案通常是混合智能:本体限定语义,规则守住边界,确定性算法计算,概率模型给出异常证据,LLM 进行受约束的综合推理,人工完成高后果确认。

3.6 安全工程与人因:先识别不可接受损失

通俗类比:人工在环更像航空驾驶舱,而不是网页上的确认按钮。 真正的人工控制要求明确谁有资格确认、看到了什么证据、可以拒绝什么、超时如何处理、出现异常由谁接管。若用户长期被无效告警淹没,形式上的人工确认反而会增加风险。

对技能做 FMEA 时,不仅分析它会不会答错,还要分析它会不会在错误资产上触发、把计划停机当故障、使用过期知识、被工单中的恶意指令诱导、泄露敏感数据、重复创建工单或在用户犹豫时继续推进。每一种失效都需要检测、阻断、降级和责任人。

FMEA 从部件失效出发向上分析影响,故障树从顶层事故向下分解原因,两者互补。对 SKILL 本身也要做 FMEA:错误触发、错误资产、数据错位、单位错误、提示注入、越权工具、漏报、高频告警、确认偏差、日志泄漏和更新回归都属于技能失效模式。

工业安全强调人员、流程和技术共同负责。人工在环不是简单加一个“确认按钮”,而是明确谁有资格确认、确认什么、得到什么证据、可否拒绝、超时如何处理、如何交接和如何避免自动化偏见。界面必须把事实、推断、风险、置信度和待确认项分开显示。

3.7 测量科学:先证明观测可信,再讨论模型聪明

通俗类比:如果体温计本身漂移,再精密的诊断模型也只是在解释错误读数。工业 AI 的输入不是抽象数字,而是传感器、变送器、采集卡、时间同步、缩放系数、质量位和维护状态共同产生的测量结果。

生产级数据合同必须向测量链上游延伸:记录点位来源、量程、分辨率、精度、校准状态、采样与聚合方法、时钟来源、质量位、插值和派生公式。需要区分过程真实变化、测量噪声、传感器漂移、通信异常与数据工程错误。关键结论若依赖单一测量通道,应给出独立参考测量或冗余证据;无法证明测量可信时,系统只能报告数据不足,不能输出更精确的根因。

验证、确认与不确定性量化(V&V/UQ)不仅适用于模型,也适用于数据、数字孪生、规则、阈值和最终系统。Verification 问“是否按规格正确实现”,Validation 问“是否满足既定用途”,UQ 问“结论受哪些不确定性影响、范围多大”。三者共同决定证据是否足以支持某一自主度,而不是给模型颁发一次性准确率证书。

3.8 因果推断与决策科学:从发现异常走向评估干预

预测回答“接下来可能发生什么”,因果推断回答“如果采取某个动作,结果会怎样变化”。工业 SKILL 一旦开始推荐调整参数、维修部件或改变排程,就不能只依赖相关性。原料批次、环境、设备老化、人员操作和维护选择都可能同时影响输入与结果,使一个高相关特征并非真正原因。

严谨做法是把候选机理写成因果图和可区分假设,明确混杂因素、可观测变量、不可观测变量与允许干预。优先使用机理约束、设计试验、受控维护检查、自然实验或历史准实验估计干预效果;无法安全干预时,使用仿真、数字孪生和反事实回放生成证据,但不得把仿真结论直接视为现场确认。每条建议都应说明:期望改变哪个中间状态、多久看到响应、什么结果支持或反驳该假设、何时停止。

3.9 价值工程:把错误代价、信息价值和生命周期成本放进同一目标函数

工业 AI 的商业价值不是模型指标的线性函数。同样的召回率,在漏报可能引发停产或安全事故、误报只增加一次检查时,决策阈值完全不同。项目应建立错误成本矩阵,至少覆盖漏报、误报、延迟发现、错误资产、错误动作、人工复核、停机窗口、质量损失与安全后果。

价值评估还应包含生命周期总成本:传感器与网络改造、数据治理、领域专家、模型和知识维护、验证复验、网络安全、合规、算力、供应商切换与退役。下一条证据是否值得采集,可以用“预期信息价值-采集成本-操作风险”衡量。只有风险调整后的净收益为正、且不可接受损失受独立保护时,自动化程度提升才有经济与工程依据。

四、I-SKILL/1.0:四平面生产级架构

前述学科与新增的测量科学、因果决策和价值工程共同汇聚为四个工程平面。可以把它理解为一座数字工厂岗位:知识面是它理解世界的地图;决策面是它分析问题的工作方法;执行面是它能触碰的工具和权限;保障面是培训、考试、监控、复验与退役体系。

图 6 九条工程纪律共同约束工业 SKILL

九条纪律分别处理边界、反馈、证据、确定性、语义、安全、计量、因果与价值,最终共同约束生产资格。

本报告建议将完整工业 SKILL 分为四个相互约束的平面。SKILL.md 是导航和流程入口,但不是全部实现。

图 7 I-SKILL/1.0 四平面架构

知识、决策、执行和保障相互约束,SKILL.md 只是入口。

4.1 知识面:定义“世界是什么”

知识面包括任务词汇、本体、资产层级、信号目录、单位、运行模式、故障机理、规则、标准、OEM 资料、企业程序和版本适用范围。它必须回答知识来源、有效日期、适用设备、冲突优先级和更新责任。长资料放入 references/,并从SKILL.md 精确说明何时读取,避免所有内容一次性进入上下文。

4.2 决策面:定义“如何从证据到结论”

决策面包括状态机、证据分类、假设生成与反证、置信度校准、风险分级、策略规则和停止条件。建议强制四分法:OBSERVED 原始观测、DERIVED 可重复计算、INFERRED 尚未物理确认的推断、CONFIRMED 经授权检查或结果验证的确认。根因不能从推断直接跳到确认。

4.3 执行面:定义“能做什么”

执行面包括工具、MCP 服务器、API、脚本、参数约束、凭据范围、读写权限、超时、重试、幂等键、事务、回滚和人工批准。工具返回内容是数据,不是新的系统指令。默认只读;按动作后果分级授权;对状态改变采用目标资产再次确认和最小权限。Skill 告诉 Agent 如何工作,MCP 或本地工具提供外部数据和能力,两者职责不同。

4.4 保障面:定义“如何证明可用且安全”

保障面包括危害分析、测试集、红队案例、仿真、影子运行、发布门、监控、审计、漂移、版本、回滚、事件复盘和退役。它要独立检查决策面和执行面,而不是让同一段大模型回答自证安全。

平面

必需对象

典型机器检查

知识面

本体、数据字典、故障卡、标准来源、适用版本

标签完整、单位枚举、引用可达、过期提醒

决策面

状态机、证据账本、策略、停止/降级条件

引用一致、状态合法、确认等级约束

执行面

工具清单、权限矩阵、参数 schema、回滚

禁止工具、参数边界、最小权限、幂等键

保障面

测试、门禁、监控、审计、变更记录

回归通过、风险案例全过、版本可追溯

4.5 生产部署参考架构

通俗理解:部署分区像工厂的门禁分区。 控制区是设备本体和安全保护,任何人不能因为会使用办公系统就直接进入;工业 DMZ 像中间门厅,负责身份核验、协议限制和审计;AI 区可以阅读经过授权的数据并形成建议,但不能跨过门禁直接控制现场。

下面的分区图强调数据可以按授权向上流动,建议可以经过策略和批准向下传递,但安全保护始终在最靠近设备的一层独立存在。

图 8 工业 Agent 分区部署

数据读取、建议传递与安全保护分层隔离。

推荐将实时控制、数据采集、Agent 推理和企业系统分区部署。设备控制区保留 PLC、DCS、SIS 和硬联锁;边缘采集区完成协议适配、本地缓存、时间同步和质量位;工业 DMZ 中放置只读数据代理、API 网关、恶意内容过滤、协议白名单和审计;IT/AI 区运行技能发现、LLM、知识检索、确定性计算、策略引擎和评估服务;MES、EAM/CMMS、QMS 和身份系统通过受控连接提供上下文。

一个典型调用链是:用户任务进入 Agent 运行时;运行时只根据名称和描述发现候选技能;加载 SKILL.md 后先检查前置条件;数据适配器以只读身份获取最小范围记录;输入校验器阻断身份、时间和单位问题;确定性脚本计算特征;LLM 根据本体与故障卡生成并反证假设;策略引擎在模型之外检查权限和风险;输出验证器检查证据引用和动作等级;人工界面显示证据并完成必要批准;执行后由独立数据通道验证结果;所有阶段写入可重放的审计事件。

对 OT 写操作,应优先通过现有受控工作流创建“建议或工单草稿”,而不是让通用 Agent 直接调用控制协议。若组织确实需要自动执行低风险动作,也应使用专用编排器:结构化白名单参数、服务器端角色授权、双重确认、目标资产锁、幂等键、事务日志、超时、回滚和独立保护层缺一不可。

4.6 模型、知识、规则和程序如何分工

图 9 工业 Agent 的责任边界

让大模型、确定性程序、策略与控制系统各司其职。

记忆口诀:模型负责“读和想”,程序负责“算和验”,策略负责“准不准做”,控制系统负责“实时执行与保护”。 这种分工并不是限制大模型价值,而是把它放在最能发挥语义能力、同时最容易被工程约束的位置。

4.7 生产资格不是能力声明,而是可审计证据链

一个技能“能够运行”只证明实现存在;“在测试集上表现好”只证明有限样本下的性能;“具备生产资格”则要求使命、危害、数据、实现、TEVV 和运行六类证据闭环。每一项需求应追踪到风险或价值来源、实现资源、测试用例、批准角色与运行指标。

建议为每个发布版本建立不可变的证据包:任务与资产边界、危害日志和保护层、数据与语义合同、代码/配置/模型/依赖清单、测试和影子运行报告、人工评审记录、发布批准、SLO与回滚演练。审计重放必须能回答:当时读取了什么、使用哪个版本、调用了哪些工具、谁批准了什么、依据何在、执行后怎样验证。

工程结论:自主度不是模型能力等级,而是证据充分度、损失严重度、独立保护能力和组织责任共同决定的运行许可。证据变化,自主度也必须重新评估。

图 10 从 Demo 到生产资格的六类证据链

能力可以由模型展示,生产资格必须由跨阶段工程证据证明。

任务

首选实现

原因

字段/单位/时间/范围校验

JSON Schem…

— 以上为试看内容(约 40%),开通会员后阅读全文 —