评估临床语音 AI 模型的可解释性：来自两项用户研究的经验

人工智能（AI）在临床语音应用中的部署在很大程度上受限于缺乏可解释性，而可解释性对于建立临床医生信任并实现有效的决策支持至关重要。尽管 SHapley Additive exPlanations（SHAP）等方法旨在提高许多临床领域的透明度，但其在临床言语-语言病理学实践中的适用性尚不确定。由于这些方法依赖声学信号特征和频谱图等数据模态，而这些模态对临床医生而言并不熟悉，也与临床工作流程不一致，因此由此产生的解释可能带来额外负担和偏差，而不是提供具有临床意义的洞见。为更好地理解这一挑战，我们连续开展了两项用户研究，以系统评估一种常用的基于 SHAP 的解释设计（显示 th 的条形图