MIT、哈佛新研究课题：AI看X光片就能识种族，工作原理成谜

心理医生无法仅仅通过X光片来知道明某人是有色人种、南亚人还是英裔。但是，根据麻省理工该大学（MIT）和乔治城大学所该大学等的生物体学家团队的最近学术研究推测，电脑可以显然。

学术研究推测，受过军事训练的AI模型可以以90%的准确率预测一个人的族裔。但进行这项学术研究的生物体学家坚指，他们不告诉他AI是如何显然的。该学术著作于近日发表在医学杂志《Morris小数点健康》上。

“当我的学术研究生向我展示这篇学术著作中的一些结果时，我实际上确信这一定是一个错误，”麻省理工该大学电气工程和电脑科学助理教授、该学术著作的年出版者Marzyeh Ghassemi知道，“当他们告诉我的时候，我真的以为我的学校疯了。”

AI确诊模型在外科读片中的表现优异并不是令人惊异的有事，但这个识别族裔的本领之所以引人关注，一方面是其工作基本原理仍是谜团，另一方面，人们不得不忧虑电脑控制系统可能都会都会翻转卫生领域这两项的族裔差距。

如2019年在《科学》发表的学术研究（Dissecting racial bias in an algorithm used to manage the health of populations）推测，美国政府一个每年管理约2亿人卫生的插值，建议为有色人种患儿提供额外护理的概率只有英裔患儿的一半。因为有色人种通常比患有相同病症的英裔获得格外低的安全性评分，所以有色人种才会比英裔的病格外重，才能获得帮助。

《波士顿环球报》指，在电脑控制系统软件越来越多地用于帮助心理医生作出确诊立即的时候，这项学术研究提出了一个令人不安的前景，即基于电脑控制系统的确诊控制系统可能都会都会无意中产生带有族裔偏见的结果。例如，电脑控制系统（可以使用X射线）可以启动时为所有有色人种患儿提拔特定的治疗方案，无论它有否最适合特定的人。同时，病人的本能心理医生不都会告诉他电脑控制系统的确诊是基于族裔数据库的。

“我们问自己，如果电脑不能分辨一个人的族裔，那怎么可能都会？”另一位年出版者、乔治城大学所该大学副教授Leo Anthony Celi知道。这项学术研究工作即开始于，生物体学家注意到检查背部X光片的AI有格外可能都会下一场有色人种患儿疾病的确实。

该学术研究团队首先使用X射线和CT扫描的标准数据库集军事训练了一个电脑控制系统控制系统，其中每张图像都标有人的族裔。这些图像来自身体的多种不同口部，包括背部、手部和横膈膜。电脑检查的确诊图像不包含明显的族裔标记，如外貌或头上质地。该处理程序通常能以远高于90%的惊人准确率识别出图像中人的族裔。

工作基本原理是什么？

对这个难题，Ghassemi及其同有事们仍感困惑，她坚称这与叶绿体有关，叶绿体是立即外貌的色素。也许X射线和CT扫描仪检验到深色肌肤中较高的叶绿体含量，并以本能用户以前从未注意到的某种方式将将这些接收者填充小数点图像中。这还需要格外多的学术研究才能确定。

那么，这样的测试结果有否证明了多种不同族裔二者之间的先天差异性？在接受《波士顿环球报》采访时，汉普郡该大学生物体本能学教授、《女权主义不是族裔》一书的年出版者史考特·鲍尔（Alan Goodman）不这么确信。鲍尔对学术著作的结论坚指坚称，并坚指他坚称其他学术研究人员能否重塑这些结果。但即使能重塑，他确信这无论如何与和地理有关，而不是族裔。

鲍尔知道，遗传学家不会推测本能基因存在根本性族裔差异性的证据。但他们确实根据祖先居住地的地方推测了人与人二者之间的根本性差异性。

“如果他们不使用族裔，而是查看某人的和地理坐标，的设备也都会这样做吗？”鲍尔答道，“我的仿佛是的设备也能显然。”

换句话知道，电脑控制系统可能都会能够通过X射线确定一个人的祖先来自北欧，另一个人来自中非，第三个人来自日本人。鲍尔知道，“你指这是族裔，我特指和地理差异性。” 依然，他承认目前尚能不清楚电脑控制系统如何仅仅通过X射线检验到这种和地理差异性。

Celi确信，心理医生应该都会不想要使用可能都会都会启动时产生偏见结果的AI确诊工具。他知道，“我们需要暂停一下。在我们确定其不会作出女权主义立即或性取向立即之前，我们不能意欲将插值带到该医院和药房。”