数据、模型、训练与推理
本节目标
学完本节，你应能区分数据、算法、模型、参数、训练和推理，解释预训练、微调、提示与 RAG 的差别，并看懂一个 AI 功能从样例到输出的最小数据流。
一张最小地图
任务与样例
↓ 数据处理与表示
训练算法反复调整参数
↓
已训练模型（结构 + 参数 + 输入输出约定）
↓ 新输入进入推理
预测、内容或决策信号
↓ 规则、工具、人工与产品流程
真实系统结果这张图说明两个边界：模型不是完整系统；模型在训练目标上学到模式，也不等于已经满足某个业务目标。
六个概念分别是什么
| 概念 | 初学者可以先怎样理解 | 例子 |
|---|---|---|
| 数据（data） | 用来描述现实、提供样例或验证结果的记录 | 文本、图片、标签、传感器读数 |
| 算法（algorithm） | 处理输入或更新参数的一套步骤 | 梯度下降、最近邻搜索、规则匹配 |
| 模型（model） | 根据输入产生预测或生成结果的参数化映射 | 分类器、神经网络、LLM |
| 参数（parameters） | 训练过程中被调整、推理时通常固定的数值 | 神经网络权重 |
| 训练（training） | 用数据和目标函数调整参数的过程 | 让分类误差逐步降低 |
| 推理（inference） | 用已训练模型处理一次新输入的计算 | 给新邮件判断类别 |
“模型”有时也被宽泛地指代可调用的服务。工程沟通时要说清讨论的是参数文件、服务版本，还是包含提示、检索和工具的完整应用。
数据不只是“越多越好”
数据至少需要回答：
- 来自哪里：真实业务、公开资料、人工编写还是合成生成；是否得到授权。
- 代表什么：覆盖哪些用户、语言、设备、时间和异常；哪些情况没有覆盖。
- 质量怎样：是否重复、错误、过时、标签冲突或包含敏感信息。
- 怎样变化：版本、保留期限、删除方式和更新责任人是什么。
没有“拒绝回答”或“信息不足”的样例，系统可能学会强行给结论；只采集成功记录，系统就看不见失败。数据的选择本身已经表达了任务边界和价值判断。
数据表（Datasheet）可以记录数据的动机、组成、收集过程、建议用途和限制。它提高可追溯性，但不会自动证明数据合法、代表性充分或没有错误。
训练究竟优化什么
训练需要一个可计算目标。分类器可能最小化标签预测误差；语言模型预训练通常学习根据上下文预测 token。训练算法反复计算误差并调整参数，使训练目标逐步改善。
三个目标必须分开：
- 训练目标：参数怎样被优化；
- 任务目标：在代表性样例上是否完成分类、抽取、检索或生成；
- 系统目标：用户是否完成真实任务，成本、延迟和风险是否可接受。
代理指标变好，系统结果仍可能变坏。例如 JSON 格式通过率提高，不代表工具对象和金额正确；摘要更短，不代表没有遗漏关键否定。
预训练、微调、提示与 RAG
| 方法 | 是否通常改变模型参数 | 改变的主要对象 | 适合解决 |
|---|---|---|---|
| 预训练（pre-training） | 是 | 大规模数据上的基础参数 | 获得通用表示与生成能力 |
| 微调（fine-tuning） | 是 | 在特定数据/目标上继续更新参数 | 行为、风格或任务适配 |
| 提示与上下文 | 否 | 本次请求可见的指令、示例和资料 | 说明任务、约束和当前信息 |
| RAG | 通常否 | 从外部库检索并注入本次上下文 | 更新、私有、可引用知识 |
| 工具调用 | 否 | 通过受控接口读取或改变外部系统 | 实时状态、计算和动作 |
这里的“通常”很重要：某些研究系统会把检索器和生成器联合训练，但普通应用在调用 RAG 时不会因此修改语言模型参数。无论使用哪种适配方式，都需要独立评测；训练过、检索到或写进提示都不等于结论正确。
推理阶段仍然是一个系统
一次生产请求通常包含：
身份与权限检查
→ 输入校验或脱敏
→ 提示、检索、工具与模型推理
→ 输出结构和业务规则校验
→ 人工批准或安全动作
→ 日志、指标与事件处理同一模型在不同上下文、工具权限、解码参数和后处理下，会形成不同系统。模型卡（Model Card）可以记录模型的预期用途、评测条件和限制；应用还要记录提示、数据源、工具、依赖与部署配置。
推理不代表“模型永久记住了这次输入”
本次上下文会影响本次计算，但通常不会直接写入模型参数。服务商是否保存请求或用其改进模型，是产品设置、合同和数据政策问题，应查当前官方条款，不能从“推理”一词推断。
一个可验证示例
任务：判断客服邮件是否需要人工升级。
数据：经授权并去标识的历史邮件 + 双人标注
训练/选择：关键词规则作为基线；分类模型或 LLM 作为候选
推理：输入新邮件，输出类别、依据和可用的置信信号
后处理：高风险规则优先；信息不足或冲突时转人工
系统结果：漏报、误报、人工负担、延迟和事件示例没有指定阈值，因为阈值取决于漏报和误报的真实后果。先定义谁承担哪种错误，再选择门槛。
常见误区
| 误区 | 问题 | 更好的表述 |
|---|---|---|
| “模型就是代码” | 模型还包含学习得到的参数与输入约定 | 分开记录代码、参数、数据和配置 |
| “把文档放进提示就是训练” | 参数通常没有改变 | 这是本次上下文适配 |
| “微调会自动加入最新事实” | 事实可能过时且难以逐条追溯 | 更新性知识优先考虑受治理的数据源或 RAG |
| “训练指标高就能上线” | 可能过拟合、泄漏或目标错位 | 使用独立测试、真实切片和运行证据 |
| “模型输出就是决定” | 输出只是系统中的一个信号 | 用规则、权限、人工和责任流程决定后果 |
练习
选择“会议行动项抽取”或“客服邮件分类”，画出数据、训练/选择、模型、推理、校验、人工和系统结果。逐项标出：哪些会改变参数，哪些只影响本次请求，哪些由模型外的确定性逻辑负责。
自测
- 算法、模型和参数有什么区别？
- 预训练和微调为什么都属于训练？
- 提示、RAG 和工具调用为什么通常不改变模型参数？
- 训练目标与系统目标可能怎样错位？
- 推理请求是否会被服务商保存，应到哪里确认？
相关概念与下一步
- 数据质量、标签规范与清洗分别进入 数据清洗 和 数据标注。
- 参数优化与神经网络细节进入 机器学习 和 深度学习。
- 下一节 泛化、数据划分与泄漏 解释为什么已见样例上的成功不能直接推广到未来输入。
参考资料
获取日期：2026-07-22。