医疗AI界面需适配用户专业水平

用户专业水平决定AI解释效果

麻省理工学院（MIT）联合斯坦福大学、哥伦比亚大学等机构的研究团队发现，医疗领域可解释AI（XAI）工具的效果高度依赖使用者的专业背景。该研究发表于《自然·医学》（Nature Medicine），聚焦皮肤疾病诊断场景——当前已有AI工具辅助部分临床医生，同时通过AI驱动的搜索引擎等渠道直接面向患者应用。

研究显示：非医学背景的普通用户在获得AI辅助后诊断准确率有所提升，但这种提升主要源于对模型输出的被动遵从（algorithmic deference）；而初级保健医生（primary care providers）则表现出相反模式——他们在仅接收AI预测结果（不含任何解释）时诊断表现最优。

解释形式影响信任与判断

研究测试了四类主流可解释性方法：1）仅提供预测及置信度；2）返回相似病例图像；3）热力图标注图像关键区域；4）由大语言模型（LLM）生成的自然语言推理说明。所有参与者均需基于皮肤病变图像完成任务：非专家判断痣是否为恶性黑色素瘤；医生则需给出鉴别诊断。

结果显示，所有解释形式均提升了非专家的准确率，尤其在识别良性病变方面效果明显。研究人员还测试了一种针对深肤色人群偏差优化的公平性约束模型，该模型不仅提升了整体准确率，也缩小了不同肤色人群间的诊断差异。

然而，性能提升伴随显著风险：非专家对AI推荐存在高度依赖，当模型出错时，其判断失误程度远超模型正确时带来的增益。MIT副教授Marzyeh Ghassemi指出：“非专家表现更好，恰恰因为他们更依赖模型；模型出错造成的损害，大于其正确时带来的帮助。”

其中，LLM生成的文本解释引发最强的“服从效应”——参与者无论模型对错，均同等信任该解释；且越模糊、越泛化的语言解释反而越具说服力。接受LLM辅助的用户，甚至对错误答案报告出更高信心。

医生与患者需要不同界面设计

与非专家形成鲜明对比，临床医生展现出更强的批判性判断能力。面对错误AI推荐或误导性解释，他们未被轻易带偏，反而在“仅预测、无解释”的简洁界面上取得最高诊断准确率。LLM解释对医生群体的准确率提升最小，表明面向患者的解释范式并不适用于训练有素的专业人员。

哥伦比亚大学生物医学信息学系助理教授Orson Xu（本研究第一作者）解释道：“关键在于不同群体如何使用解释。医生已有初步诊断假设，会用AI结果校验自身判断，因此差的解释容易被识别；而非专家缺乏基础框架，极易被看似权威的文本解释‘带偏’。”

斯坦福大学生物医学数据科学与皮肤病学助理教授Roxana Daneshjou强调，医疗知识最薄弱的患者群体，恰恰最易受错误可解释AI输出误导。“随着患者越来越多地借助AI管理健康，这项发现尤为关键——恰恰是医学知识最少的人，在AI出错时最可能被引向错误结论。”

编者观点：界面不是通用模板，而是人机协作协议

该研究揭示一个根本命题：医疗AI不是单向输出工具，而是需按使用者认知结构、任务目标与决策习惯定制的协作界面。对中国AI医疗企业而言，放弃“一套界面打天下”的思维，转向分角色、分场景的交互范式设计，已不仅是体验优化问题，更是临床安全底线。