最近以北卡罗莱纳大学及杜克大学为首的研究团队深入分析数百种AI医疗设备通过审核的验证数据，以厘清它们如何获得监管机关核准。结果令人担忧：美国食品药物管理局（FDA）核准的相关AI产品，近半数缺乏临床验证数据。本次发现突显监管机制的重大缺口，并令人不禁担忧这些设备的有效性和安全性。该结果已于8月底发表在极具影响力的医学期刊《自然医学》（Nature Medicine）。
本次研究主要科学家、杜克大学心脏中心（Duke Heart Center）研究学者萨米·舒法尼·埃尔·法西 （Sammy Chouffani El Fassi）表示：“尽管研发AI医疗设备的企业以FDA的授权作为其品质依据，但并不意味它们已通过真实病患数据的评估。借由本次发现，我们希望敦促FDA和业界通过临床验证研究来提升设备的可信度，并公开这些研究结果。”
本次研究共查看521种FDA授权设备，其中有226种──约43%──缺乏临床验证数据。此外，少数进行验证的AI设备使用“虚拟形象”（phantom images）或计算机生成的数据，而非真实病患数据。技术上这并不符合临床验证的严格标准，不禁令人怀疑这些设备临床使用时的可信度。
研究人员基于本次结果建议FDA和医疗设备制造商，应制定更明确的临床验证指引，以提高审核过程透明度，以提升AI设备在医疗院所和病患心中的可信度。若采用“回顾性验证”（retrospective validation），仅涉及使用历史数据来测试AI模型，可能无法完全反映设备在临床环境中的表现。“随机对照试验”（randomized controlled trial），则被视为临床研究的黄金标准，能提供最具说服力的证据。
应用AI改善器官捐赠流程萨米·法西还积极参与应用AI改善器官捐赠流程的计划。他正与北卡罗莱纳大学心脏胸腔外科医师合作，通过AI算法分析器官捐赠者电子病历，自动拟定转诊流程。这项研究的目标是运用用AI简化复杂的医疗流程，帮助抢救急需器捐之患者。萨米·法西表示：“患者接受器官移植常需经历漫长的等待，医疗团队从评估捐赠者、摘取器官、协调器官移植手术等，过程既复杂又专业。如果能通过AI优化器官捐赠流程，多一个捐赠者就意味着能拯救更多生命。”
人工智能正从许多方面改善医疗体系，不仅能提升诊断的准确性及效率，还可减轻医疗人员负担。但由于搜集病患个人信息、病历可能侵犯隐私权，而且AI决策可能存在偏见，导致全面以AI取代医疗人员仍存在许多隐忧。本次研究的科学家相信，唯有对AI辅助医疗软件、设备进行更严格的评估和验证，才足以赢得大众之信任并确保AI能够安全地融入临床实践中。
（首图来源：pixabay）
