027 | ICML 2018论文精读：优化目标函数的时候，有可能放大了“不公平”？

该思维导图由 AI 生成，仅供参考

ICML 2018论文精读：优化目标函数的时候，有可能放大了“不公平”？ ICML 2018的最佳论文提名《Fairness Without Demographics in Repeated Loss Minimization》探讨了在优化目标函数时，如何确保针对不同的子群体准确率相当，避免过分重视多数群体。作者发现，基于“平均损失”优化的机器学习算法可能会给少数群体带来巨大的不准确性，导致不公平放大。为解决这一问题，他们提出了一种新的算法框架DRO（Distributionally Robust Optimization），旨在最小化“最差场景”风险，而不是平均风险。实验结果验证了DRO的有效性，能够解决小众群体的不公平性问题。 该论文的核心方法是基于对数据中隐含群体的假设，估计每个数据点的“期望损失”，并控制这些损失中的最差情况，以避免不公平放大。相比于经验风险最小化（ERM），DRO更加重视当前目标函数表现不佳的小群体，从而避免不公平放大的情况。 在实验中，作者们以“自动完成”任务为例，模拟了美国白人和黑人两个群体的留存度和模型损失。结果显示，DRO相比于ERM更能让黑人用户满意，并提高了黑人用户的留存度，验证了DRO的有效性。 总之，该论文从机器学习目标函数优化的角度探讨了算法的公平性问题，发现了ERM存在的不公平放大性，并提出了DRO算法框架来解决这一问题。这一研究为解决小众群体的不公平性问题提供了新的思路和方法。