隐私计算学习目录

知识库简介

“隐私计算”不是一个统一算法，而是一组在采集、共享、训练、推理与发布中降低隐私风险的方法。最先做的通常是不收集、少收集、限制目的、缩短保留和控制输出；差分隐私、联邦学习、安全聚合、MPC、同态加密与 TEE 只在明确威胁模型、参数和实现下提供特定保证。

本库的主线是：最小化与去标识→差分隐私→分布式训练/聚合→密码学与可信硬件→选型组合→评测响应→离线方案评审。学习重点不是背缩写，而是能写清“保护谁、什么信息、对哪个攻击者、依赖什么假设、仍泄露什么”。

在总路线中的位置

本库位于“安全与治理”知识域，在四条角色路径中作为完整 AI安全 之后的推荐专题。概率统计、机器学习和数据清洗的相关能力有助于理解方法与评测，但不是三门完整课程硬前置。隐私最小化、目的限制和保留期应在早期安全 milestone 就开始执行；本课再深入差分隐私、联邦学习、MPC、同态加密与 TEE，并与 评测体系、运行监控 和 AI治理 一起落地。

学习目标

• 从目的和主体出发逐字段证明必要性，并覆盖模型、Embedding、日志、缓存和备份；
• 解释去标识/假名化/匿名、准标识与链接攻击的区别；
• 用最小公式解释 DP 邻接、贡献、敏感度、ε/δ、机制与组合预算；
• 区分 FL、贡献裁剪、安全聚合、鲁棒聚合和最终模型隐私；
• 按参与方、串谋、密钥、完整性、输出与性能比较 MPC、HE/FHE 和 TEE；
• 从隐私目标生成候选 PET，记录保证、不保护范围、证据、回滚与责任；
• 设计端到端评测、预算/访问/删除监控和泄露响应；
• 运行严格、离线、不处理个人数据的方案评审项目。

前置知识

• 概率与随机变量、机器学习训练/评测、基本身份/加密与网络概念；
• 不要求证明密码协议，但必须尊重协议的对手、串谋、密钥、参数和实现假设；
• 法律意义的个人信息、合法基础、跨境、权利与通知义务须由适用地区的专业职责判断。

推荐学习顺序

01-基础与风险

1. 数据最小化与去标识——先减少数据与生命周期攻击面。
2. 差分隐私直觉与预算——量化单个主体对随机发布的影响。
3. 联邦学习与安全聚合——区分本地训练、更新可见性和最终模型泄露。

02-控制与治理

4. MPC、同态加密与 TEE——比较协议、密钥、硬件与输出边界。
5. 隐私技术选型与组合边界——从目标推导候选并重画组合保证。
6. 隐私评测与泄露响应——验证实现、监控运行并安全处置事件。

03-项目与自测

7. 项目：离线隐私方案评审——用严格契约、12 条规则与 76 项测试评审合成元数据场景。

建议学习方法

第一遍完成每篇的威胁模型与练习；第二遍选择一个真实但不写入个人数据的系统，用字段名/类别和数据流元数据走完整链；第三遍把保证声明变成测试、运行事件和责任门。复杂密码方案在生产使用前必须经过当前实现与参数的专家审查。

项目入口

进入 离线隐私方案评审。项目提供漏洞、加固、契约错误三条路径，严格拒绝重复 key、未知字段、非法引用和非有限参数；它明确标注教学阈值、基本预算组合和 PASS 的证据边界。

掌握标准

• 能为每个字段、输出、接收者和保留期给出明确目的与替代方案。
• 能解释删姓名、加密、假名化、合成与“数据不出域”为何都不等于匿名。
• 能定义 DP 主体/邻接/贡献并维护跨发布预算，不随意给统一合规 ε。
• 能为 FL/安全聚合写服务器、客户端、串谋、掉线、多轮和最终模型边界。
• 能为 MPC/FHE/TEE 写输入/输出、密钥/证明、完整性、性能和侧信道假设。
• 能比较最简单基线与复杂 PET，并记录版本、参数、测试、残余风险和退出方案。
• 能在不复制个人数据的前提下监控预算、访问、输出、证明和删除。
• 能说明离线项目不构成 DP/密码实现、生产评估、合规或法律结论。

与其他知识库的关系

• AI安全 保护身份、权限、供应链和基础设施；PET 不能修复被盗管理员凭据。
• 数据合成 的输出仍需成员、重复和链接评估，不能自动视为无个人信息。
• AI治理 决定目的批准、责任、供应商、风险接受和退役，本库提供技术证据与边界。
• 评测体系 负责把隐私、效用、公平和运行成本纳入可比较版本门。

主要参考资料与当前状态

• NIST Privacy Framework 与 Privacy Framework 1.1 项目页（获取日期：2026-07-21）。截至该日，Version 1.0 仍是已发布版本；1.1 页面仍标为 Initial Public Draft/coming soon，不能误称最终版。
• NIST SP 800-226: Guidelines for Evaluating Differential Privacy Guarantees（最终版，2025-03）。
• NIST Privacy-Enhancing Cryptography（页面更新 2026-07-01；获取日期：2026-07-21）。
• NIST IR 8053: De-Identification of Personal Information。
• NIST SP 800-188: De-Identifying Government Datasets（最终版，2023-09；其直接受众是美国政府机构，本库只借鉴发布模型、可测目标和披露复核思路）。
• McMahan et al. 2017 Federated Learning 与 Bonawitz et al. Practical Secure Aggregation。

适用边界

本库不构成法律、合规、密码学审计或生产隐私评估。法规、个人信息定义、合法基础、跨境、主体权利和通知义务必须按实际地区、用途、角色与事实核对；动态标准和产品实现应在部署时重新查证。