不可思议，MIT、哈佛新研究：AI看X光片就能识种族，工作原理成谜！
这次不是AI战胜人的问题，而是高维打低维了，因为AI能看到，人看不到。这就像雷达侦查比肉眼远多了一样。
澎湃新闻报道：医生无法仅通过X光片来判断某人是黑人、亚洲人还是白人。但是，根据麻省理工学院（MIT）和哈佛医学院等的科学家团队的最新研究发现，计算机可以做到。
研究发现，受过训练的AI模型可以以90%的准确率预测一个人的种族。但进行这项研究的科学家表示，他们不知道AI是如何做到的。该论文于近日发表在医学杂志《柳叶刀数字健康》上。
“当我的研究生向我展示这篇论文中的一些结果时，我实际上认为这一定是一个错误，”麻省理工学院电气工程和计算机科学助理教授、该论文的合著者Marzyeh Ghassemi说，“当他们告诉我的时候，我真的以为我的学生疯了。”
AI诊断模型在医学影像读片中的表现优异并不是令人惊讶的事，但这个识别种族的本领之所以引人关注，一方面是其工作原理仍是谜团，另一方面，人们不得不担忧人工智能可能会放大医疗领域现有的种族差距。
如2019年在《科学》发表的研究（Dissecting racial bias in an algorithm used to manage the health of populations）发现，美国一个每年管理约2亿人医疗的算法，建议为黑人患者提供额外护理的概率只有白人患者的一半。因为黑人通常比患有相同病症的白人获得更低的风险评分，所以黑人必须比白人的病更重，才能获得帮助。
《波士顿环球报》称，在人工智能软件越来越多地用于帮助医生做出诊断决定的时候，这项研究提出了一个令人不安的前景，即基于人工智能的诊断系统可能会无意中产生带有种族偏见的结果。例如，人工智能（可以使用X射线）可以自动为所有黑人患者推荐特定的治疗方案，无论它是否最适合特定的人。同时，病人的人类医生不会知道人工智能的诊断是基于种族数据的。
“我们问自己，如果计算机不能分辨一个人的种族，那怎么可能？”另一位合著者、哈佛医学院副教授Leo Anthony Celi说。这项研究工作即开始于，科学家注意到检查胸部X光片的AI有更可能错过黑人患者疾病的迹象。
该研究团队首先使用X射线和CT扫描的标准数据集训练了一个人工智能系统，其中每张图像都标有人的种族。这些图像来自身体的不同部位，包括胸部、手部和脊柱。计算机检查的诊断图像不包含明显的种族标记，如肤色或头发质地。该程序通常能以远高于90%的惊人准确率识别出图像中人的种族。
工作原理是什么？
对这个问题，Ghassemi及其同事们仍感困惑，她怀疑这与黑色素有关，黑色素是决定肤色的色素。也许X射线和CT扫描仪检测到深色皮肤中较高的黑色素含量，并以人类用户以前从未注意到的某种方式将这些信息嵌入数字图像中。这还需要更多的研究才能确定。
那么，这样的测试结果是否证明了不同种族之间的先天差异？在接受《波士顿环球报》采访时，汉普郡学院生物人类学教授、《种族主义不是种族》一书的合著者艾伦·古德曼（Alan Goodman）不这么认为。古德曼对论文的结论表示怀疑，并表示他怀疑其他研究人员能否重现这些结果。但即使能重现，他认为这一切都是与地理有关，而不是种族。
古德曼说，遗传学家没有发现人类基因组存在重大种族差异的证据。但他们确实根据祖先居住的地方发现了人与人之间的重大差异。
“如果他们不使用种族，而是查看某人的地理坐标，机器也会这样做吗？”古德曼答道，“我的感觉是机器也能做到。”
换句话说，人工智能可能能够通过X射线确定一个人的祖先来自北欧，另一个人来自中非，第三个人来自日本。古德曼说，“你称这是种族，我称之为地理差异。” 即便如此，他承认目前尚不清楚人工智能如何仅通过X射线检测到这种地理差异。
Celi认为，医生应该会不愿意使用可能会自动产生偏见结果的AI诊断工具。他说道，“我们需要暂停一下。在我们确定其没有做出种族主义决定或性别歧视决定之前，我们不能急于将算法带到医院和诊所。”
这次不是AI战胜人的问题，而是高维打低维了，因为AI能看到，人看不到。这就像雷达侦查比肉眼远多了一样。
澎湃新闻报道：医生无法仅通过X光片来判断某人是黑人、亚洲人还是白人。但是，根据麻省理工学院（MIT）和哈佛医学院等的科学家团队的最新研究发现，计算机可以做到。
研究发现，受过训练的AI模型可以以90%的准确率预测一个人的种族。但进行这项研究的科学家表示，他们不知道AI是如何做到的。该论文于近日发表在医学杂志《柳叶刀数字健康》上。
“当我的研究生向我展示这篇论文中的一些结果时，我实际上认为这一定是一个错误，”麻省理工学院电气工程和计算机科学助理教授、该论文的合著者Marzyeh Ghassemi说，“当他们告诉我的时候，我真的以为我的学生疯了。”
AI诊断模型在医学影像读片中的表现优异并不是令人惊讶的事，但这个识别种族的本领之所以引人关注，一方面是其工作原理仍是谜团，另一方面，人们不得不担忧人工智能可能会放大医疗领域现有的种族差距。
如2019年在《科学》发表的研究（Dissecting racial bias in an algorithm used to manage the health of populations）发现，美国一个每年管理约2亿人医疗的算法，建议为黑人患者提供额外护理的概率只有白人患者的一半。因为黑人通常比患有相同病症的白人获得更低的风险评分，所以黑人必须比白人的病更重，才能获得帮助。
《波士顿环球报》称，在人工智能软件越来越多地用于帮助医生做出诊断决定的时候，这项研究提出了一个令人不安的前景，即基于人工智能的诊断系统可能会无意中产生带有种族偏见的结果。例如，人工智能（可以使用X射线）可以自动为所有黑人患者推荐特定的治疗方案，无论它是否最适合特定的人。同时，病人的人类医生不会知道人工智能的诊断是基于种族数据的。
“我们问自己，如果计算机不能分辨一个人的种族，那怎么可能？”另一位合著者、哈佛医学院副教授Leo Anthony Celi说。这项研究工作即开始于，科学家注意到检查胸部X光片的AI有更可能错过黑人患者疾病的迹象。
该研究团队首先使用X射线和CT扫描的标准数据集训练了一个人工智能系统，其中每张图像都标有人的种族。这些图像来自身体的不同部位，包括胸部、手部和脊柱。计算机检查的诊断图像不包含明显的种族标记，如肤色或头发质地。该程序通常能以远高于90%的惊人准确率识别出图像中人的种族。
工作原理是什么？
对这个问题，Ghassemi及其同事们仍感困惑，她怀疑这与黑色素有关，黑色素是决定肤色的色素。也许X射线和CT扫描仪检测到深色皮肤中较高的黑色素含量，并以人类用户以前从未注意到的某种方式将这些信息嵌入数字图像中。这还需要更多的研究才能确定。
那么，这样的测试结果是否证明了不同种族之间的先天差异？在接受《波士顿环球报》采访时，汉普郡学院生物人类学教授、《种族主义不是种族》一书的合著者艾伦·古德曼（Alan Goodman）不这么认为。古德曼对论文的结论表示怀疑，并表示他怀疑其他研究人员能否重现这些结果。但即使能重现，他认为这一切都是与地理有关，而不是种族。
古德曼说，遗传学家没有发现人类基因组存在重大种族差异的证据。但他们确实根据祖先居住的地方发现了人与人之间的重大差异。
“如果他们不使用种族，而是查看某人的地理坐标，机器也会这样做吗？”古德曼答道，“我的感觉是机器也能做到。”
换句话说，人工智能可能能够通过X射线确定一个人的祖先来自北欧，另一个人来自中非，第三个人来自日本。古德曼说，“你称这是种族，我称之为地理差异。” 即便如此，他承认目前尚不清楚人工智能如何仅通过X射线检测到这种地理差异。
Celi认为，医生应该会不愿意使用可能会自动产生偏见结果的AI诊断工具。他说道，“我们需要暂停一下。在我们确定其没有做出种族主义决定或性别歧视决定之前，我们不能急于将算法带到医院和诊所。”
我觉得，Y/S/L肯定不会给马户姐tittle了。
到处提夫尼给马户姐tittle，我猜估计也是y/g拿着中输去、提夫尼被骗以为马户姐弯道超车成kpop女爱豆天花板了，就宣了。
结果[允悲][允悲]！！现在看到马户姐solo成绩被李霞摁地上吊打，气得分分钟连夜一比一制作出李霞姐宝/格丽翻版珠宝宣传视频，结果身材等各方面又被吊打[笑cry][笑cry][笑cry]。
celi/ne这牌子是真有眼光，天花板被你抢先一步了，这牌子因为李霞姐增值了那么多[哈哈][哈哈][可爱][可爱]。
我老觉得你有点拖李霞姐后腿了，不过算了。毕竟是有且唯一的。
到处提夫尼给马户姐tittle，我猜估计也是y/g拿着中输去、提夫尼被骗以为马户姐弯道超车成kpop女爱豆天花板了，就宣了。
结果[允悲][允悲]！！现在看到马户姐solo成绩被李霞摁地上吊打，气得分分钟连夜一比一制作出李霞姐宝/格丽翻版珠宝宣传视频，结果身材等各方面又被吊打[笑cry][笑cry][笑cry]。
celi/ne这牌子是真有眼光，天花板被你抢先一步了，这牌子因为李霞姐增值了那么多[哈哈][哈哈][可爱][可爱]。
我老觉得你有点拖李霞姐后腿了，不过算了。毕竟是有且唯一的。
【品质出行季大上新户外系列/法式裙装系列/买手私服系列发布！】
如果说在22春夏、23春夏的秀场里有什么单品是呈现绝对强劲的上扬趋势，那肯定是这一套夹克式的athflow运动套装！
为即将到来的出游记提前准备好这一套，当下没有任何风格的衣服能比它更时髦，把浪漫又精美的帽子和酷酷的老爹鞋一套，配齐再加上运动背心三件一起叠穿，走到哪里都是最年轻、充满内在活力感的大姐姐！
这套athflow风好看炸！很CELI*NE感，时髦户外感，运动派克total look ，韩国新型时装料，既有防晒防风功能，又具高质感，可雅可痞，可帅可美，比中性款更加内敛回收，相信懂它的会秒爱！
短夹克呈现小风衣的状态，要肩章有肩章，要口袋有口袋，可盐可甜的风格，既不会显胖又不会太随意，袖子轻轻卷起两圈，佩戴棒球帽，一个时髦又利落的健身女孩呼之欲出。
风衣新概念，藏不住的高级时装感！成套穿是非常建议的，以往都不会强迫大家非要成套入手什么系列。
工装口袋占据的设计主导，短裤腰头有弹力，方便穿脱，更难得的是还有透气网布的内衬，完全接壤专柜订单的工艺。
如果说在22春夏、23春夏的秀场里有什么单品是呈现绝对强劲的上扬趋势，那肯定是这一套夹克式的athflow运动套装！
为即将到来的出游记提前准备好这一套，当下没有任何风格的衣服能比它更时髦，把浪漫又精美的帽子和酷酷的老爹鞋一套，配齐再加上运动背心三件一起叠穿，走到哪里都是最年轻、充满内在活力感的大姐姐！
这套athflow风好看炸！很CELI*NE感，时髦户外感，运动派克total look ，韩国新型时装料，既有防晒防风功能，又具高质感，可雅可痞，可帅可美，比中性款更加内敛回收，相信懂它的会秒爱！
短夹克呈现小风衣的状态，要肩章有肩章，要口袋有口袋，可盐可甜的风格，既不会显胖又不会太随意，袖子轻轻卷起两圈，佩戴棒球帽，一个时髦又利落的健身女孩呼之欲出。
风衣新概念，藏不住的高级时装感！成套穿是非常建议的，以往都不会强迫大家非要成套入手什么系列。
工装口袋占据的设计主导，短裤腰头有弹力，方便穿脱，更难得的是还有透气网布的内衬，完全接壤专柜订单的工艺。
✋热门推荐