新传媒网在本周《自然》杂志上发表的一篇新观点文章《人工智能的透明度和可重复性》中，包括纽约市立大学公共卫生与健康政策研究生院 (CUNY SPH) 副教授利维·沃尔德伦 (Levi Waldron) 在内的国际科学家小组对缺乏人工智能的问题表示担忧。用于健康应用的人工智能算法的发布的透明度。
作者对最近发表的一篇文章提出了担忧，其中包括谷歌健康在内的一个小组报告称，使用人工智能从乳房 X 光检查图像中诊断乳腺癌比人类放射科医生更准确。作者认为，限制性的数据访问程序、缺乏已发布的计算机代码以及未报告的模型参数使得任何其他研究人员都难以确认或扩展这项工作。这篇文章还强调了在保护患者隐私的同时允许更广泛的研究界贡献方法论并纠正可能阻碍进展并损害其他患者的潜在错误的适当措施方面存在的紧张关系。
沃尔德伦教授说：“这种来来回回的争论是生物医学和其他领域数十年来围绕谁控制数据而展开的当前斗争状态的一个引人注目的例子。”“收集患者数据的资金充足的研究人员几乎没有动力分享，但他们是撰写知情同意书的人询问患者以及谁决定共享条款。保护患者隐私免受哪怕是最假设的风险的影响，可以成为一种让其他研究人员远离宝贵数据，甚至最终预测模型的参数的方法。我认为自愿参加医学研究的患者并没有被告知数据隐私和实用性之间的权衡，也没有被赋予太多发言权。这是一场更大的对话，应该超越个体研究的水平，并且需要包括患者。”
