公平性的定义

Mon, 02 Mar 2026 00:00:00 +0000

1. 公平性问题的基本形态

机器学习模型对偏见十分敏感。即使未显式使用种族等敏感属性，模型仍可能在预测与决策中隐式引入这些因素。典型表现包括：

长期被边缘化的群体若未被充分纳入数据与学习过程，模型会缺乏其代表性，导致对这些群体的服务不足或歧视加剧。

在联邦学习中还存在客户端维度的公平问题：

联邦遗忘学习（Federated Unlearning）与公平性存在双向关系：既可被用来促进公平，也可能加剧不公平。

事后去偏：传统公平性研究侧重在训练阶段预防偏见。遗忘学习提供了一种事后思路——在训练结束后，针对性地削弱或移除与偏见相关的参数或数据影响，在尽量保持模型性能的前提下实现去偏。
缓解过拟合：联邦遗忘还能用于主动遗忘过时、冗余或有害的样本，修复过拟合，间接有利于泛化与公平。

单纯删除「偏见内容」或敏感标签（如种族、肤色）往往不够：

偏见转移：模型可能不再直接使用种族，转而依赖与种族高度相关的代理变量（如居住地区、姓名、语言、生活习惯等），使偏见从明处转向暗处，难以检测与治理。
防御设计困难：若模型完全失去「反面教材」或可解释的偏见表征，针对性的公平性防御与审计会变得更难设计。

从源头介入，在模型训练之前通过调整数据的构成来改善公平性，属于**预处理（Pre-processing）**方法。常见策略包括：

重采样（Resampling）：对代表性不足的群体进行过采样，或对主导群体进行欠采样，使各群体在训练集中的比例更加均衡。
重标注（Relabeling）：识别并修正训练数据中存在偏见的标签，从根源消除偏差。
公平主动学习（Fair Active Learning）：在标注预算有限的情况下，优先选取能够提升弱势群体代表性的样本交由专家标注，以最小的标注成本最大化公平性收益。

在遗忘过程中同时优化公平性：边做「遗忘手术」边施加公平约束或重训，使删除/更新后的模型在统计特性上仍满足既定公平准则（如不同群体间性能差距可控）。

在遗忘算法中引入数学约束，强制模型在参数更新或「模糊化」过程中遵守公平性准则，避免遗忘操作破坏公平指标。

采用两阶段策略：先完成数据/参数层面的遗忘，再对所得模型做一次专门的去偏或公平性微调，作为「做完手术再打磨」的补充步骤。