DeepMind 在 2 月宣布与 NHS 合作构建一个名为 Streams 的应用程序,帮助医务人员监控肾病病人,检测早发性急性肾损伤( AKI )。
DeepMind 与 NHS 的合作整合了多家机构数年的工作。合作包括 DeepMind 最近收购的移动应用 Hark 和 Streams,前者是由伦敦帝国学院皇家艺术学院的 HELIX 创建,后者是由 DeepMind、NHS 联合 Utswo 创建、尚处于早期开发阶段的移动应用。
目前为止,有关 DeepMind 和 NHS 在试验和研究 API 潜能领域所面临的具体数据挑战、机遇和影响的报道相当有限。
New Scientist 披露的一份协议显示,谷歌及其下属人工智能公司DeepMind 已经获得了授权,可以访问伦敦三家由Royal Free NHS Trust 运营的医院的当前和历史病人数据,涉及160 万人。据New Scientist 报道,“举例来说,这包括HIV 阳性病人的信息以及用药过量和流产的细节。这份协议还包括访问过去五年的病人数据。”
New Scientist 在报道中谈到了 Patient Rescue,暗示这是一份更广泛的方案,但 DeepMind 向 InfoQ 证实,这只是 Streams 以前的名字。此外,他们还告诉我们:
我们正和 Royal Free 的临床医师一起,理解技术如何最好地帮助他们识别病人病情恶化——本例中的急性肾损伤(AKI)。我们已经、而且将永远以最高的标准要求自己,保护病人数据。这些数据将永远仅用于改善医疗,而且永远不会与谷歌账户或产品关联。
DeepMind 表示,数据并没有被允许离开英国,而且同任何谷歌数据都是完全隔离的。不过,DeepMind 可以访问隐密的病人档案引发了担忧也不奇怪。多家新闻发布网站都援引了New Scientist 的文章,对于DeepMind 从合作中得到的数据获取和个人信息的初始范围表达了类似的担忧。
Cathy O’Neil 是 mathbabe.org 的一名博主,其即将出版的著作“ Weapons of Math Destruction ”探讨了大数据出现的问题。对于模型可能被如何使用,他向 InfoQ 提出了其他的担忧。O’Neil 指出:
“一个预测模型一旦在历史数据上完成训练,你就可以抛开数据,而不损失任何预测能力。而且,该模型随后可以应用于某个人,甚至不需要访问他们的病历。为此,我们更应该关心法律对模型使用方式的限制——对我们不利或有利——而不只是担心谁访问了病人的数据以及访问了多长时间。这是个错误的问题。”
查看英文原文: DeepMind Discloses Details to InfoQ about NHS Partnership amid Reports of Vast Patient Data Access
评论