公平性不可能定理（机器学习）

Jakob Nielsen 是一位著名的可用性顾问，主要从事 UI 和网页设计，他通过五个质量组件来定义可用性：易学性（用户第一次完成基本任务的难易程度如何？）、效率（用户学会后能多快完成任务？）、可记忆性（用户在一段时间不使用后能否重新获得熟练程度？）、错误（用户犯了多少错误？）和满意度（使用起来有多愉快？）。

国际标准 ISO 9241-11 将可用性定义为“在特定的使用环境下，特定用户使用产品实现特定目标的有效性、效率和满意度的程度”。该定义提供了一个衡量可用性的框架，将其分解为三个不同的、可量化的组成部分，超越了纯粹的主观评估。

敏捷项目管理是一种在整个项目生命周期内交付项目的迭代方法。它将大型项目分解成更小、更易于管理的任务，并在短迭代或“冲刺”中完成。这允许频繁地重新评估、调整计划并灵活地应对变化。它优先考虑客户协作、可运行的软件以及对变化的响应，而不是详尽的文档和僵化的计划。

根据模型训练过程，算法偏差缓解技术可分为三个主要阶段。预处理方法直接修改训练数据本身（例如，重加权、重采样）。处理中方法将公平性约束直接融入模型的学习算法中。后处理方法在模型做出预测后对其进行调整，以提高公平性。

当算法使用的代理变量既与受保护属性（例如种族或性别）相关，又与目标结果相关时，就会发生算法混淆。即使受保护属性本身已明确从模型的输入数据中排除，算法仍可能无意中通过使用代理变量学习基于该受保护属性进行区分。