人机协同设计用于临床预测模型

《npj Digital Medicine》：Human-AI co-design for clinical prediction models

　　

摘要

开发安全、有效且实用性强临床预测模型（CPMs）通常需要临床专家、数据科学家和信息学家之间的紧密合作，以完善模型构建过程中的众多细节。当涉及到非结构化的临床记录时，这一挑战变得更加严峻，因为这些记录中包含了无数可用于建模的概念。我们提出了HACHI这一迭代式框架，它利用人工智能（AI）代理来加速从临床记录中生成完全可解释的CPMs。在这里，CPMs被定义为用于判断“是/否”问题的线性模型。HACHI框架在AI代理（使用统计工具和嵌入式知识探索候选概念）与领域专家（为AI代理提供反馈）之间进行交替工作。该框架注重透明度、可控性和双向学习，以确保临床AI团队与AI代理之间的有效协作。在两个实际预测任务（急性肾损伤和创伤性脑损伤）中，HACHI的表现优于现有方法，能够发现具有临床意义的概念，并提升模型在不同临床机构和时间段的泛化能力。此外，HACHI还强调了人类监督的重要性，例如指导AI代理探索新的概念类别、调整概念的粒度以及识别数据偏差和泄露问题。