AI Agent Engineer

AI Agent Engineer
个人学习进度

标记这门课程

课程正文公开可读；登录后可保存个人进度。

AI基础认知

11 min read

AI基础认知

知识库简介

这组课程解决的不是“记住多少 AI 名词”，而是建立一张可以指导工程决策的地图：什么是人工智能（Artificial Intelligence，AI），机器学习、深度学习、大语言模型与 Agent 分别处在什么位置；它们能做什么、会怎样失败；面对需求时，如何判断是否值得使用 AI，以及怎样把风险控制贯穿系统全生命周期。

这里不要求数学或编程基础。学完后，你应能用自己的话解释关键术语，拆解一个 LLM/Agent 系统，并为一个低风险场景写出可验证、可回退的最小方案。

来源与证据边界

本课程的讲解、练习、项目模板和图均为本项目的原创综合；外部标准、论文和年度报告只用于支撑其中的事实边界，并在各页“参考资料”中列出。课程不复刻第三方正文或代码。AI 定义、风险框架和年度趋势会变化，实施具体系统时仍须按页面的 source_checked 日期重新核对一手资料。

本库的事实标注约定：稳定事实指有标准、论文或长期工程共识支持的陈述；工程建议指需结合场景取舍的实践；可能变化指模型、产品、接口、价格、法规或框架状态等应在实施时重新核对的信息。

在总路线中的位置

这是 AI Agent Engineer 主路线 的第一站。它先建立“需求—系统—风险—验证”的思考框架，再进入 Python、API、机器学习、LLM、RAG、工具调用与 Agent 框架。不要因为本库没有复杂代码而跳过：概念边界不清，后续很容易把普通自动化误称为 Agent，或用演示效果代替工程验收。

学习目标

  • 区分 AI、机器学习（ML）、深度学习（DL）、生成式 AI、LLM 与 Agent。
  • 用“输入—模型—上下文—输出”解释 LLM，用“目标—状态—决策—工具—反馈”解释 Agent。
  • 识别幻觉、提示注入、工具误用、分布变化、自动化偏见等常见失败模式。
  • 从业务目标出发判断：不用 AI、只用 LLM、固定工作流或使用 Agent，哪一种更合适。
  • 为最小可用系统定义数据边界、评测集、人工审批、监控、回退与停用条件。
  • 在隐私、公平、透明、安全和问责之间做有记录的风险权衡。

前置知识

  • 能在 Windows 11 中创建和阅读 Markdown 文件即可。
  • 不要求 Python、线性代数或机器学习经验。
  • 遇到公式时先理解输入和输出，不必先掌握推导。

知识分类体系

本库按“概念地图 → 工程决策 → 项目验证”组织。三个子目录承担不同职责，避免把概念解释、风险清单、发布门禁和结业检查混在一篇长文中：

分类核心问题课程范围
01-概念地图AI 系统由什么组成，能力从哪里来，怎样验证？AI/ML/DL/LLM/Agent 边界、训练与推理、泛化与泄漏、评测证据、LLM 生成、Agent 循环
02-工程决策何时使用、怎样限制、如何上线和退出？失败诊断、系统形态选择、生命周期门禁、责任与风险控制
03-项目与自测学到的判断能否形成可验收交付物并迁移？独立综合项目、半完成模板、全库自测和掌握检查

条目边界

本库只建立工程直觉。算法推导进入 机器学习 与 深度学习；具体 LLM 调用、检索、工具和 Agent 控制分别进入对应后续知识库。下游课程应链接这里的定义，不重复维护另一套基础术语。

推荐学习顺序

  1. AI地图与核心术语：建立 AI、ML、DL、LLM 与 Agent 的边界。
  2. 数据、模型、训练与推理：理解能力怎样从数据与参数形成，以及上下文适配的边界。
  3. 泛化、数据划分与泄漏：理解新输入、独立测试与评测污染。
  4. 评测证据与反馈闭环：组合基线、离线集、人工评审、试运行和线上反馈。
  5. LLM如何生成答案：从 token、上下文和概率预测理解语言模型。
  6. Agent如何完成任务：认识决策循环、工具、状态与人工接管。
  7. 能力边界与失败模式：把“看起来聪明”转化为可定位的失败与响应。
  8. 何时使用 AI 与系统形态选择：比较规则、ML、LLM、工作流与 Agent。
  9. 从原型到上线与退出：建立试运行、上线门禁、依赖控制、回滚和停用。
  10. 负责任使用与风险控制：处理受影响者、隐私、安全、公平、资源与问责。
  11. 综合项目：会议行动项助理：完成需求、边界、证据、测试和风险交付物。
  12. 全库自测与掌握检查：用迁移题确认能把概念用于新场景。

动手实践与项目入口

  • 每节都有一个无需密钥的练习；先写下答案，再看参考思路。
  • 综合任务见 综合项目：会议行动项助理。你会产出需求卡、系统边界图、测试样例、风险登记表和上线门槛，而不是只写一段提示词。
  • 完成后用 全库自测与掌握检查 做闭卷迁移；未通过的题按链接返回相应条目。
  • 该项目可完全离线完成；若自行使用在线模型，必须换用虚构会议记录，不上传真实姓名、账号、商业秘密或其他敏感数据。

掌握标准

完成后，应能独立勾选以下项目：

  • 不看笔记，用一个例子解释 AI、ML、DL、LLM 与 Agent 的关系。
  • 区分数据、模型、参数、训练、推理、上下文与反馈，并识别明显数据泄漏。
  • 画出一个 Agent 的输入、状态、模型、工具、策略、输出和反馈路径。
  • 对同一需求比较规则程序、LLM 单次调用、固定工作流与 Agent 四种方案。
  • 为生成结果定义至少 5 条可判定的测试，并包含异常与对抗样例。
  • 说明模型输出为什么不能天然视为事实、授权或业务承诺。
  • 定义何时需要人工审批、何时回退、何时停用系统。
  • 记录数据来源、预期用户、已知限制、责任人和复查日期。

与其他知识库的关系

后续知识库本库提供的连接点
机器学习、深度学习从概念地图进入训练、泛化、过拟合与神经网络细节。
提示词工程、上下文工程、LLM API集成把 LLM 直觉转化为可控输入、接口调用与结构化输出。
RAG、语义搜索处理知识更新、证据引用与外部检索，但不能自动消除错误。
Tool Calling、Agent 核心把模型输出约束为工具参数，并设计循环、状态、权限与停止条件。
评测体系、运行监控、LLMOps将本库的测试、上线门槛与事件记录扩展到生产系统。
AI安全、AI治理、隐私计算深入处理威胁、组织责任、合规和数据保护。

主要参考资料

以下资料均于 2026-07-22 复核；链接内容和框架修订状态可能继续变化。

Backlinks