Nature：科学家对于人工智能技术的透明度和可再现性提出质疑！

　　近日，一项刊登在国际杂志Nature上的研究报告中，来自纽约市立大学等机构的科学家们对利用人工智能系统来进行乳腺癌筛查的评估研究提出了异议，研究者Levi Waldron说道，我们对于那些用于卫生应用的人工智能算法缺少一定的透明度表示关切。

　　在最近发表的一项研究中，包括来自谷歌健康团队（Google Health）的研究人员表示，他们利用人工智能技术能通过乳腺X光照片的信息来进行乳腺癌的诊断，而且这要比人类放射学专家更加准确。研究者认为，限制性的数据访问程序、缺乏公开的计算机代码以及并未报告的模型参数或许让任何研究人员证实或扩展该项工作带来很大的困难。

　　此外，本文研究结果还强调了如何建立保护患者隐私的适当措施，同时研究者还允许更广泛的研究团队贡献更多的方法来纠正潜在的错误。研究者Waldron说道，这种反反复复的斗争是当前关于谁控制数据的斗争状态的一个非常引人注目的例子，而这种斗争在生物医学和其它研究领域已经上演了数十年了。资金充足且进行患者数据收集的研究人员很少会有分享的动机，但他们却是让患者签下知情同意书的人，也是决定分享条款的人；保护患者的隐私，即使是假设的风险，或许也会成为一种方法，让宝贵的数据（甚至是由此所产生的预测模型的参数）远离其他研究人员。

　　研究者认为，自愿参加医学研究的患者或许并没有被告知数据的隐私性和实用性之间的平衡，当然其也并未获得多少发言权，因此后期研究人员之间或许还应该进行更大规模的对话，至少是在个别研究层面智商的对话，当然这至少应该包括患者群体。（生物谷Bioon.com）

　　原始出处：

　　Haibe-Kains， B.， Adam， G.A.， Hosny， A. et al. Transparency and reproducibility in artificial intelligence. Nature 586， E14–E16 (2020). doi：10.1038/s41586-020-2766-y

　　<a href="http：//count.medsci.cn/link/redirect/6612b462698ac2d9" _blank'="" style="margin： 0px; padding： 0px; word-wrap： break-word; text-decoration-line： none; color： rgb(102， 102， 102); outline： none; font-family： 微软雅黑， "microsoft yahei"， Arial， sans-serif; font-size： 12px; white-space： normal; background-color： rgb(255， 255， 255);">

39健康网(www.39.net)专稿，未经书面授权请勿转载。