热门赛事深度解析

英国监管机构发出警告：医疗AI转录工具频繁出错，危及患者安全

在一起案例中，一名女性患者因AI医疗记录工具错误总结她与医生的对话而遭受严重惊吓。AI生成的总结声称她患有“脱髓鞘”，这是一种可能导致多发性硬化症的严重神经损伤。

这名患者本人也是NHS的医疗专业人员。她对AI工具记录的MRI检查结果提出质疑后，医院才发现记录有误，并将其更正为本应记录的“无脱髓鞘”。

“最终这个错误得到了纠正，但因为AI给出了错误诊断，然后又告诉我这只是一个拼写错误，这对我来说是一次非常痛苦的经历。”这位不愿透露姓名的女性说道。

IT之家注意到，英国患者权益机构Healthwatch England近日披露了这一案例以及其他AI医疗记录工具出现的错误，以说明这种正在NHS快速推广的技术可能对患者安全构成威胁。

Healthwatch表示，如果这些错误没有被及时发现，就可能被录入患者的医疗档案，并进一步影响患者接受的治疗。

另一起案例中，一款AI医疗记录工具将全科医生开具的药物与另一种名称相似的药物混淆。最终发现这一错误的同样不是医生，而是患者本人。

还有一次，AI生成的总结信没有提及医院专科医生曾告诉患者，需要向自己的全科医生申请续开治疗偏头痛的处方。这一遗漏可能导致患者无法正常获得所需药物。

Healthwatch作为NHS法定患者权益代表机构表示，该机构已经听到了“多名患者发现错误、而医疗专业人员却没有发现这些错误”的案例。

Healthwatch指出：“如果患者没有发现这些错误，这些不准确的信息可能会一直留在他们的医疗记录中。”

英国政府针对英格兰NHS制定的10年医疗规划，希望通过AI医疗记录工具“让医务人员摆脱目前繁重的文书和行政工作，从而腾出更多时间提供医疗服务并专注于患者”。

AI医疗记录工具也是NHS计划进行的一项重大转型的核心技术之一，旨在推动NHS从传统的模拟化医疗服务转向数字化服务。

Healthwatch一名发言人表示：“医疗服务从来都不可能做到零错误。但我们的调查结果表明，现在迫切需要明确，患者应该如何报告AI医疗记录工具或使用这些工具的医疗专业人员所犯的错误，以及如何纠正这些错误。”

英国患者协会首席执行官Rachel Power表示：“患者对这项技术的信任和信心，取决于良好的沟通以及真正意义上的患者合作，而目前这两方面都存在缺失。”

Healthwatch还表示，英国药品和保健产品监管机构（MHRA）决定不将AI医疗记录工具归类为医疗器械，这一点“令人担忧”。这意味着英格兰目前不会建立覆盖全境的监管机制，以确保这些工具使用安全并且有效。

目前，英格兰的全科医生和医院医生已经在使用27种不同的AI医疗记录工具。

此前，政府大臣已经被警告，如果AI出现医疗错误，NHS以及相关医务人员可能面临诉讼。

近期，AI的准确性问题也再次受到关注。英国罗瑟勒姆地区的一些患者向当地Healthwatch投诉称，部分全科诊所使用的AI前台接待系统无法正确理解他们浓重的约克郡口音。

伦敦全科医生Shier Ziser Dawood博士去年还曾在一家权威医学期刊上撰文警告称，AI医疗记录工具对全科医生来说可能是一把“双刃剑”。

她回忆称，一款AI医疗记录工具记录说，她曾告诉一名患者“继续服用Prozac（百忧解）”，但实际上，她既没有给这名患者开过这种药，也没有与患者讨论过这种药物。

这就是所谓的“AI幻觉”现象，即AI医疗记录工具在生成记录时提及了问诊过程中根本没有出现过的内容。

Dawood警告称，医生仍然需要检查AI生成的全部问诊记录，以确认其中不存在错误，因此这些AI工具目前并没有真正节省医生的时间。

Dawood在《英国全科医学杂志》撰文指出，NHS管理层认为AI医疗记录工具将使全科医生无需再在问诊过程中手写或录入笔记，因此未来全科医生可能被要求每天额外接诊两名患者。

但与此同时，NHS全科医生目前的单次问诊时间已经处于全球较短水平。

瑞典乌普萨拉大学医疗AI应用专家Charlotte Blease博士表示：“AI确实会犯错，而且已经在犯错。”

她的研究发现，使用环境语音技术记录问诊内容的全科医生认为，在以下情况下，AI更容易出现错误：问诊过程中有不止一名患者或陪同人员；患者病史较为复杂；以及患者的第一语言不是英语。

不过，Blease也指出：“事实是，没有AI的情况下，医生同样会犯错。而且，AI介入后，错误率当然也有可能更高。”

Blease表示，在她去年对1003名英国全科医生进行的调查中，超过一半的受访者认为，他们使用环境式AI生成的医疗记录比自己亲自记录的内容更加准确。