AI必须不引人注目,才能被接受为临床决策的一部分

关于器官移植,癌症治疗或心脏手术做出生死决定的医生通常不会过多考虑人工智能如何帮助他们。这就是卡内基梅隆大学的研究人员如何设计临床AI工具 - 所以医生不需要考虑它们。

CMU人机交互研究所的人工智能和人机交互的唐家庭教授约翰齐默曼说,外科医生可能永远不会觉得有必要向人工智能人员寻求建议,更不用说让它为他们做出临床决定了。 HCII)。但如果人工智能嵌入到临床团队已经使用的决策程序中,人工智能可能会指导决策,提供人工智能生成的预测和评估作为整体信息组合的一部分。

齐默尔曼和他的同事称这种方法为“不起眼的人工智能”。

“这个想法是,人工智能应该是不起眼的,因为你不必考虑它而且它不会妨碍它,”齐默尔曼说。“在你没有电力之前,电力是完全不起眼的。”

钱阳,博士HCII的学生将在5月4日至9日在苏格兰格拉斯哥举行的CHI 2019年计算机械协会计算系统人类因素会议上,探讨非显着人工智能方法如何指导临床决策支持工具(DST)的设计。

Yang与Himmer和机器人研究所的副研究教授Zimmerman和Aaron Steinfeld正在康奈尔大学的生物医学研究人员和CMU语言技术研究所的DST合作,帮助医生评估心脏病患者的心室辅助装置治疗( VAD)。这种植入式泵可以帮助那些无法接受心脏移植的患者心脏病,但许多接受者在植入后不久就会死亡。正在开发的DST使用机器学习方法来分析数千个案例并计算个人是否可能受益的概率。

DST已被开发用于帮助诊断或计划治疗许多医疗条件和外科手术,但大多数未能实现从实验室到临床实践的过渡并且不再使用。

“他们都认为你需要帮助,”齐默尔曼说。他们经常面临来自医生的抵制,其中许多人认为他们不需要帮助,或者将DST视为旨在取代他们的技术。

Yang使用了不显着的AI原则来设计临床团队如何与DST进行VAD交互。这些团队包括中级临床医生,如执业护士,社会工作者和VAD协调员,他们经常使用电脑;外科医生和心脏病专家,他们重视同事们对计算支持的建议。

Yang说,纳入DST预测的自然时间是在多学科患者评估会议期间。虽然医生最终决定何时或是否植入VAD,但整个团队经常出现在这些会议中并且正在使用计算机。

她的设计自动将DST预测纳入为每位患者准备的载玻片中。Steinfeld建议,在大多数情况下,DST信息不会很重要,但对于某些患者,或者在每个患者的某些关键点,DST可能会提供需要引起注意的信息。

虽然DST本身仍处于开发阶段,但研究人员在三家进行VAD手术的医院测试了这种交互设计,并为模拟患者提供了DST增强的幻灯片。

“中层 - 支持人员 - 喜欢这个,”杨说,因为它增强了他们的投入,并帮助他们更积极地参与讨论。医生的反应不那么热情,反映了对DST的怀疑,并坚信如果没有一个功能齐全的系统和真正的患者,就不可能完全评估这种相互作用。

但杨说,医生并没有表现出与通常与DST相关的技术取代的相同的防御性和感觉。他们还承认,夏令时可能会为他们的决定提供信息。

“以前的系统都是为了告诉你该怎么做,”齐默尔曼说。“我们不会取代人类的判断力。我们试图给予人类不人道的能力。”

“要做到这一点,我们需要维持人类的决策过程,”斯坦菲尔德补充道。

国家心肺血液研究所和CMU机器学习与健康中心支持这项研究。