无监督学习入门

本节目标

你将理解无监督学习仍包含距离、尺度、簇形状和维数等假设,能用聚类/降维提出探索性候选,并通过稳定性、人工抽查与下游价值验证,而不是把算法分组直接当成真实标签。

没有标签不等于没有假设

无监督学习不使用目标标签,但会依赖距离、密度、簇形状或低维结构等假设。结果适合探索与生成候选,不应自动当作业务真相。

聚类

K-means 寻找 K 个中心,让样本到所属中心的平方距离尽量小。它适合近似球状、尺度相近的簇;需要预先指定 K,并且对特征缩放和异常值敏感。

在 Agent 工程中可用于把失败日志或用户查询分成主题候选。正确流程是:聚类 → 抽样阅读每簇 → 人工命名/合并 → 用新数据验证稳定性。簇编号 0/1/2 没有天然语义。

若聚类结果会影响路由、风控或人员处置,还要验证每个簇的覆盖范围、误分代价和可能的敏感属性代理变量;“无监督”不等于可以绕过数据最小化、访问控制或人工审查。

降维

PCA 找到保留最大线性方差的方向,常用于压缩、去相关和初步可视化。二维投影必然丢失信息;图上接近不保证原空间也同样接近。

对 Embedding 使用 t-SNE/UMAP 时尤其要谨慎:局部结构、随机种子和超参数会影响图形,漂亮的“岛屿”不能单独证明类别真实存在。

若无监督变换是后续监督模型的一部分,PCA、词表、缩放器和聚类中心同样只能在训练区 fit,再应用到验证/测试。没有标签不等于可以偷看测试分布;评估边界取决于最终决策问题。

如何评估

  • 内部指标(如 silhouette)衡量当前距离定义下的紧密与分离,不代表业务可用。
  • 稳定性:换随机种子、抽样或时间窗口,簇是否大幅变化。
  • 人工解释:每簇样本是否有一致、可操作的主题。
  • 下游价值:聚类是否帮助新增标签、修复流程或改善检索。

迷你练习

取 30 条 Agent 失败消息,先删除 ID、时间戳等捷径,再用 TF-IDF + K-means 分 3~5 簇。每簇抽 5 条,记录主题、混杂样本和是否值得建立新错误标签。

常见误区

  • 把 K 设成已有部门数量,就认为算法会恢复部门边界。
  • 不缩放数值特征,导致大单位字段支配欧氏距离。
  • 只展示二维图,不检查原始样本。
  • 用聚类结果训练分类器,却把它称为“人工真值”。

掌握检查

  • 我能说出 K-means 对距离、尺度、簇形状和 K 的假设。
  • 我不会把簇编号或二维“岛屿”直接当业务真相。
  • 我会换随机种子、抽样和时间窗口检查稳定性。
  • 我会抽查原始样本,并用下游价值决定是否保留聚类。
  • 我知道无监督预处理也要遵守训练/测试 fit 边界。

下一步:项目:工单意图路由。

参考资料

核验日期:2026-07-22。