机器学习中的公平与偏差

01

有后果的偏差

这里的「偏差」一词，不是指建模页里那种偏差-方差——它指的是对一群人的系统性不公平，通常是由一个受保护属性（种族、性别、年龄、残障）所界定的一群。危险很具体：一个模型一致地、大规模地把它学到的偏差施加出去，施加给每一个人、瞬间完成，却看起来中立。一个有偏的人类决策者影响他 遇到的人；一个有偏的模型可以影响数百万人，并且难争辩得多，因为「算法这么说的」带着虚假的 权威。

02

偏差如何进入

偏差很少来自一个心怀恶意的建模者。它通过数据和框定渗进来，大多是看不见的：

• 历史偏差——数据忠实地记录了一个本就不平等的世界。一个在「以前谁被录用了」上 训练的招聘模型，把过去的偏见学得仿佛它们是才能。
• 代表性偏差——某些群体被采样不足，所以模型对他们运作得更差（带着人的赌注的覆盖问题）。
• 测量偏差——标签本身就是一个有缺陷的代理。「再次被捕」与「犯了罪」不是一回事， 但一个在逮捕数据上训练的模型，学到的是警务模式，而非犯罪。

贯穿其中的主线：模型是有偏数据的一面准确的镜子。垃圾进，偏差出——而模型接着 把它放大、并使之根深蒂固。

03

代理陷阱：你没法只是删掉那个变量

那个直觉性的第一个修法——「干脆别把种族或性别给模型」——行不通，而弄懂为 什么，是这一页上单一最重要的想法。受保护属性几乎总是通过代理变量，冗余地编码在其他特征里。

邮编与种族相关；名字透露性别；你上过的学校、你的消费模式、你的措辞——它们中任何一个，都能让 一个模型重建出那个它从未被给过的受保护属性，并从后门进行歧视。这就是为什么公平没法 靠视而不见来达成；你必须主动地测量各群体之间的结果、并干预，这意味着这份分析绝非 简单。

04

定义「公平」：那些指标

要修好公平，你必须先定义它——而有好几个合理的、彼此竞争的定义。主要的群体公平准则：

• 人口平价——每个群体以相同的比率得到正面结果（各群体间相等的批准率）， 无关其他任何东西。
• 机会均等——在那些真正应当得到正面结果的人当中，每个群体以相同的比率被 捕获（相等的真阳性率）。
• 均等几率——更严格：各群体间相等的真阳性和假阳性率。

每一个都编码了一个不同的、可辩护的公平观念——而麻烦恰恰从这里开始，因为它们可以彼此拉扯。

05

不可能性结果

这是这个领域核心那个深刻而发人深省的事实：当各群体有不同的基础率时，你无法同时满足 所有的公平准则。这是一个数学上的不可能（由 Chouldechova、以及 Kleinberg 及同事们 形式化），而非一个工程上的缺口——校准、相等的假阳性率、相等的假阴性率，无法同时成立，除非 基础率完全相同、或模型完美。

06

在哪里干预

一旦你选定了一个公平定义、并测量了那个差距，缓解可以在流水线的三个阶段行动：

• 预处理——在训练之前修数据：给代表不足的群体重新加权、重新采样，或变换特征，以 在源头减少那个差距。
• 处理中——把公平建进训练本身，给目标函数加上一个公平约束或惩罚，好让模型同时 优化准确度和公平（例如对抗性去偏）。
• 后处理——事后调整模型的输出，例如用群体特定的阈值来拉平所选的指标。

没有一个是银弹，而每一个都拿一些准确度、或一个公平观念，去换另一个——这就是为什么公平工作与解释（你必须看见模型在做什么）、以及一个有记录 的、可辩护的关于「你接受了哪个权衡、为什么」的决定，密不可分。

07

它在我工作中的体现

08

60 秒回顾

代理/冗余编码陷阱、群体公平指标、不可能性结果，以及 COMPAS 案例，反映了当前机器学习公平性的 参考文献以及亲身的工作。