人工智能的深度学习模型现在能够从X射线射击中识别某人的种族。
来自美国，加拿大和台湾的国际卫生研究人员团队提出了这一技术的应用。
研究人员在发表的论文中写道：“我们的目的是对AI从医学图像中识别患者的种族身份的能力进行全面评估。”
“我们表明，可以培训标准的AI深度学习模型，以预测各种成像方式高性能的医学图像，这在外部验证条件下得到了维持。”
本文以先前的发现为基础，该发现表明，人工智能扫描X射线图像更有可能错过黑人疾病的迹象。
该系统可能正在发现黑色素的迹象，黑色素是赋予皮肤颜色的色素，科学尚不清楚。
研究人员写道：“我们的发现，即AI可以准确地预测自我报告的种族，即使是从损坏，裁剪和噪音的医学图像中，通常是在临床专家无法进行的，这会给所有模型部署中的所有模型部署带来巨大的风险。”
该研究表明，AI系统如何反映人类的偏见和偏见，无论是种族主义，性别歧视还是其他东西。偏斜的培训数据可能导致偏斜的结果，从而使其有用。
考虑AI是未来，这是一个重要的限制。
马萨诸塞州理工学院的研究科学家兼医师Leo Anthony Celi说：“我们需要停下来。”
“我们不能急于将算法带到医院和诊所，直到我们确定他们不会做出种族主义决定或性别歧视决定。”
该研究已发表在柳叶刀数字健康。
