边肖发现，许多朋友对种族偏见如何影响人工智能算法有效性的信息感兴趣。边肖整理了一些关于种族偏见如何影响人工智能算法有效性的信息，并在此分享。

根据发表在《科学》杂志上的一项新研究，研究人员发现，常用的医疗系统会使患者护理决策的算法产生种族偏见。

这项研究的作者解释说，该算法已经部署在各个地方，以评估患者的需求。

加州大学伯克利分校公共卫生学院医学博士Ziad Obermeyer和他的同事写道：“大型卫生系统和支付者依靠这种算法将患者定位为‘高风险护理管理’项目。”“这些项目旨在通过提供更多资源(包括训练有素的医务人员的更多关注)来改善对有复杂健康需求的患者的护理，从而有助于确保护理的良好协调。大多数卫生系统将这些计划视为人口健康管理的基石，普遍认为这可以有效提高结果和满意度，同时降低成本。”

在研究算法的时候(Obermeyer等人在研究算法的时候并没有专门跟踪游戏)。发现预测关注的是医疗费用(如保险理赔)而非医疗需求。黑人患者“医疗费用较少，即使考虑到具体的并发症，健康才是条件”，这意味着对医疗费用的准确预测会自动包含一定程度的种族偏见。

作者指出，纠正这个无意的问题可能会使通过该算法获得更多帮助的黑人患者比例从17.7%提高到46.5%。因此，他们努力寻找解决办法。通过重新训练算法，关注健康和成本的结合，而不仅仅是未来的成本，研究人员将偏差减少了84%。他们将这项工作扩展到未来，“建立持续(无报酬)的协作”，使算法更加有效。

作者写道：“这些结果表明标签偏差是可以解决的。”“没有必要改变我们适合这种算法的程序(例如，通过使用新的统计技术将预测变量与race或其他类似的解决方案去相关)。相反，我们必须改变我们为算法提供的数据，尤其是我们为其提供的标签。”