从原型到上线与退出
本节目标
学完本节，你应能把已选定的 AI 方案推进为可回滚的试运行，说明八个生命周期交付物、三道上线门、影子模式、第三方依赖控制和退出条件。
本节从哪里开始
进入本节前，何时使用 AI 与系统形态选择 应已产出：目标用户、当前基线、允许/禁止范围、候选系统形态、主要风险、可判定指标和责任人。本节不再讨论“要不要用 AI”，而是回答“怎样让已选择的范围接受证据和门禁”。
生命周期：八个可交付阶段
1. 情境与责任
识别用户、受影响者、数据所有者、业务负责人、技术负责人和故障接收人。记录适用政策、风险容忍度、批准人和复查日期。
交付物：责任矩阵、适用要求清单、风险登记入口。
2. 需求与边界
定义输入、输出、非目标、禁止动作、人工职责、权限和系统停止条件。范围变化必须重新评审，不能由原型默认扩张。
交付物：需求卡、信任边界图、输出与工具契约。
3. 数据与证据
说明样例来自哪里、是否含敏感信息、是否覆盖真实人群与异常。训练数据、提示示例、检索文档、反馈与线上日志是不同对象，要分别治理。
交付物：数据清单、来源与许可、测试集版本、删除/保留规则。
4. 原型与基线
用最简单方案建立可比较结果。原型使用脱敏或合成数据，不连接高权限生产工具；模型输出先作为候选，不直接产生业务副作用。
交付物：可复现原型、规则/人工基线、已知失败记录。
5. 离线评测
冻结代表性测试，按 评测证据与反馈闭环 定义任务、安全、成本和延迟门槛。错误按类型和关键切片分析，不能只看平均分。
离线证据要有交接包
离线通过不是发布结论。进入试运行前，交接测试集和系统版本、未覆盖或未通过的风险、放行依据、拟观察的线上信号与回退触发条件；否则线上事件无法追溯到原来的假设。具体的证据、决策与回归交接合同见 离线到线上证据交接与回归闭环。
交付物：评测报告、版本比较、未解决风险与发布建议。
6. 影子与小范围试运行
**影子模式（shadow mode）**让新系统接收真实或近真实输入并产生结果，但不把结果直接用于用户或业务动作；团队将其与现有流程比较。“只生成草稿”则让真实用户在受控范围内审阅候选结果。
两者都需要合法数据用途、访问控制、日志最小化、观察期限和退出条件。试运行不是绕过评审的“半上线”。
交付物：试运行计划、用户告知、人工流程、观察指标与每日/每周审查。
7. 发布与运行监控
保存模型、提示、工具、知识库、代码、策略和依赖版本；通过灰度逐步扩大流量。监控任务质量、错误、延迟、费用、拒答、人工改判、降级和安全事件。日志本身也要最小化敏感数据并限制访问。
交付物：发布清单、仪表板、告警责任、运行手册和回滚步骤。
8. 事件响应与退出
预先定义降级、回滚、通知、隔离、复盘、数据删除与停用流程。退出可能因为风险不可控、收益消失、供应商变化、数据授权结束或更简单方案已足够，而不只是“系统坏了”。
交付物：事件分级、回滚演练、停用与迁移计划、复盘记录。
NIST AI RMF 使用 Govern、Map、Measure、Manage 组织风险管理结果，它们相互关联、反复迭代，不是上述八阶段的原文，也不是必须一次走完的瀑布流程。八阶段只是面向学习的工程映射。
第三方依赖也属于发布单元
模型服务、工具 API、数据源、SDK、内容过滤、身份服务和供应商条款都可能变化。依赖清单至少记录：
- 名称、用途、所有者与数据流；
- 固定版本或当前服务标识；
- 限流、超时、错误语义和可用性假设；
- 数据保存、训练使用、地区与子处理者要求；
- 变更通知和重新评测触发器；
- 降级、替代供应商、人工流程与数据导出方式。
服务更新后“还能返回 200”不代表质量、格式和风险没有变化。关键变更要运行回归、重新批准并保留回滚目标。
三道上线门
价值门
- 相比规则、人工或上一稳定版本，是否真实改善目标？
- 费用、延迟、人工负担和维护成本是否可接受？
质量门
- 核心、边界、对抗、权限和依赖失败是否达到预设门槛？
- 测试数据是否代表真实使用，是否与开发过程保持独立？
- 版本、数据、评审和结果是否可复现？
风险门
- 是否有明确责任人、最小权限、有效人工监督、监控与回退？
- 不可测量的风险是否被记录，并有接受、降低、避免或停止决定？
- 高影响场景是否保留专业人员复核和申诉路径？
任何一道门未通过，都应维持原范围、缩小能力或停止部署，而不是用“上线后观察”替代门槛。
发布、降级、回滚和停用不同
| 动作 | 何时使用 | 示例 |
|---|---|---|
| 降级 | 某依赖或高级能力暂时不可用 | Reranker 超时后用基础检索并标记 degraded |
| 回滚 | 新版本出现回归 | 恢复上一模型/提示/工具组合 |
| 限流/隔离 | 负载、滥用或事件需要缩小影响 | 暂停写工具，只保留只读查询 |
| 停用 | 用途不再合理或风险不可接受 | 关闭自动动作，恢复人工流程并处理保留数据 |
回滚要求旧版本、配置和数据兼容仍然可用；只写“必要时回滚”而没有演练，不是控制。
练习：设计一次受控发布
场景：内部政策问答从关键词检索升级为带 LLM 的可引用回答。
- 写出八阶段各一个交付物；
- 设计影子模式，说明真实答案仍由谁提供；
- 为价值、质量、风险三道门各写两个可判定条件；
- 列出模型 API、向量库、身份服务和文档源的依赖控制；
- 写出“空召回、模型超时、引用校验失败、权限数据异常”的降级；
- 定义两个回滚和两个永久停用条件。
自测
- 影子模式与直接小流量自动执行有什么区别？
- 离线评测通过后为什么仍要试运行？
- 依赖版本为什么是系统版本的一部分？
- 降级、回滚和停用分别解决什么问题？
- 什么情况下应停用，而不是继续调提示？
范围与下一步
本节只定义发布门禁与退出。失败分类由 能力边界与失败模式 维护；指标与证据由 评测证据与反馈闭环 维护；组织责任与受影响者权衡进入 负责任使用与风险控制。
参考资料
获取日期：2026-07-22。