IBM人工智能医疗设备被爆不准确、不安全

据英国《每日邮报》7月27日报道， Stat News称，根据IBM内部资料，多名使用IBM沃森肿瘤治疗系统的医学专家发现，IBM沃森多次为患者提供不准确且不安全的建议。目前为止，尚未有病人因沃森的失误受到伤害。

内部资料包括IBM沃森前健康副主管安德鲁•诺登(Andrew Norden)于2017年6月和7月两场报告的文件。文件中有这样一个例子，一名65岁患者被诊断患有肺癌且伴有严重出血，沃森建议该男子进行化疗，且开了名为“贝伐珠单抗”的药物。但这种药会导致严重或致命大出血，实则不应用于伴有严重出血的患者。

纪念斯隆•凯特琳癌症中心的发言人表示：这样的建议目前还是假设阶段，只是系统测试的一部分。但许多人反对称，这种不准确的建议实则说明技术与内容上存在严重的问题。

据Stat News称，佛罗里达州某医院的一名医生直言此产品差强人意。他表示：“当时听信推销人员购买了产品，但大多数情况下没办法使用。”此医院的医生都表示：在治疗意见不统一时，除了沃森提供建议外，他们还会听取超级计算机的建议。

如今，人们不仅对沃森的建议持怀疑态度，同时也好奇在此项目上沃森如何接受训练。其实AI系统分析的都是真实病例，而非虚拟数据，即医生接收到的建议都是其他医生真实的建议，并非通过合成虚拟数据得到的结论。

IBM的发言人回应称：根据客户的不断反馈、新的科学证据以及新的癌症治疗方案，我们不断学习，已经作出进一步改进。目前已用于全球230家医院，为84000多名患者提供了帮助。IBM于6月发布报告称， 如今沃森准确识别肿瘤的成功率已达93%。