跳到正文
阿里雲開發者社區 AI·· 11 小時前AI 評分35

大語言模型智能體在臨牀決策支援中的應用綜述

A Survey of LLM Agents for Clinical Decision Support |大语言模型智能体在临床决策支持中的应用综述 |arxivreview

AI 導讀

一項關於大語言模型智能體臨牀決策支援的綜述,梳理研究由靜態知識問答轉向交互式診斷與多智能體協作的演進。研究亦涵蓋強化學習訓練、安全與可解釋性;各路線在推理深度、計算成本及安全性之間取捨,現時仍缺乏統一評估基準與理論框架。

正文

简介: 大语言模型智能体(LLM Agent)正重塑临床决策支持(CDS)的技术范式,其核心价值在于突破传统规则引擎对非结构化数据与复杂多步推理的局限。早期研究聚焦于静态知识问答,通过思维链(Chain-of-Thought, CoT)提升单轮诊断的准确性,但难以应对真实临床中信息缺失与动态交互的挑战。当静态基准暴露出模型在长程状态管理与工具调用上的短板后,研究重心转向交互式诊断与多智能体协作,用主动探索与角色分工换取决策的鲁棒性。各路线在推理深度、计算成本与安全性之间做出了不同取舍,由此形成当前多元并存的方法格局。本综述梳理这条从静态问答到自主代理的因果演进链条,为读者提供一张领域认知地图。

综述原文见 ArxivReview

导读

大语言模型智能体(LLM Agent)正重塑临床决策支持(CDS)的技术范式,其核心价值在于突破传统规则引擎对非结构化数据与复杂多步推理的局限。早期研究聚焦于静态知识问答,通过思维链(Chain-of-Thought, CoT)提升单轮诊断的准确性,但难以应对真实临床中信息缺失与动态交互的挑战。当静态基准暴露出模型在长程状态管理与工具调用上的短板后,研究重心转向交互式诊断与多智能体协作,用主动探索与角色分工换取决策的鲁棒性。各路线在推理深度、计算成本与安全性之间做出了不同取舍,由此形成当前多元并存的方法格局。本综述梳理这条从静态问答到自主代理的因果演进链条,为读者提供一张领域认知地图。全文按问题演化与路线取舍组织,覆盖该领域从奠基到当前的主要工作。

1. 研究背景、问题结构与演进脉络

临床决策支持系统的核心使命是辅助医生进行诊断、治疗推荐和风险预测,传统方法依赖结构化知识库与规则算法,但难以处理电子健康记录(EHR)中的非结构化文本与复杂的多步推理。随着大语言模型(LLM)在医学考试(如USMLE)中表现超越人类专家,研究重心转向如何利用LLM的推理能力解决真实临床场景中的多跳推理、交互式诊断和工具调用问题。这一转变并非简单的技术升级,而是问题定义的根本重构:从“知识检索”转向“环境交互”,从“单轮预测”转向“长程决策”。

问题的形式化定义经历了显著演化。早期任务可建模为标准的N-way K-shot分类问题,即给定少量样本 $K$ 个实例,从 $N$ 个候选类别中识别目标类别。然而,真实临床场景远比这复杂,患者信息往往不完整且动态变化,医生需要通过主动询问和检查来逐步缩小假设空间。因此,问题定义逐渐演变为部分可观测马尔可夫决策过程(POMDP),其中智能体需在部分可观测状态下进行序列决策,目标是最大化长期临床效用。这一形式化转变揭示了子问题间的强依赖关系:交互式诊断依赖工具调用能力获取实时数据,多智能体协作依赖不确定性量化以避免错误共识,强化学习优化依赖细粒度过程监督以解决长程任务中的奖励稀疏问题。

范式边界也随之清晰化。传统CDS系统假设输入数据完整且规则明确,而LLM智能体范式则承认信息的不完整性与决策的动态性。这一边界的确立意味着,评估标准从单纯的准确率转向任务成功率、推理可解释性与安全性。例如,在信息缺失场景下,模型不仅要给出诊断,还需判断“是否可判断”,并主动寻求缺失证据。这种从“答案导向”到“过程导向”的转变,构成了当前领域的方法论基础。

约束演化史清晰地展示了方法如何因应环境变化而演变。2023-2024年是奠基期,MedAgents等工作确立了多智能体协作的基础范式,通过模拟多学科团队(MDT)提升诊断准确性,但暴露出“共识陷阱”与效率低下问题。2025年成为关键转折期,PhysicianBench与MeDxAgent的出现标志着从静态基准向动态交互的跨越,前者揭示了模型在长程状态管理上的短板,后者实现了从“一次性预测”到“动态推理”的范式转变。2026年,研究进入“Agentic”阶段,重点从性能优化转向可靠性与自主性,Process-Supervised MARL与Toulmin-Guided CGCL等工作分别通过过程监督与结构化论证,解决长程任务中的训练不稳定与推理黑盒问题。

当前领域形态呈现出高度活跃与碎片化并存的特征。一方面,多智能体协作、交互式诊断、强化学习优化与安全机制四条路线并行发展,各自针对特定子问题做出架构取舍;另一方面,缺乏统一的评估基准与理论框架,导致不同路线间的可比性不足。这种碎片化源于临床场景的复杂性:不同专科、不同任务类型对智能体的能力要求差异巨大,单一方法难以通吃。因此,当前研究的核心驱动力在于解决LLM在高风险医疗场景下的可靠性、可解释性及与现有医疗信息系统的集成,旨在构建能自主执行临床工作流、具备自我进化能力且符合伦理安全标准的医疗智能体系统。

如果用一个核心问题概括该领域,那便是:如何构建具备实时感知、逻辑可解释且安全可控的LLM智能体,使其能在部分可观测的真实临床环境中自主执行多步决策并有效管理不确定性。

2. 方法体系

  • 2023:MedAgents——通过模拟多专家角色进行迭代讨论与共识形成,奠定多智能体协作基础范式

  • 2024:Clinical Chain-of-Thought (CoT)——通过提示工程引导生成可解释推理路径,增强决策透明度

  • 2025:MedCoAct——提出置信度感知的多智能体协作框架,解决“错误共识”问题

  • 2025:MeDxAgent——构建支持多智能体咨询的交互式诊断系统,实现动态推理范式转变

  • 2026:MedCollab——引入因果驱动的多智能体协作框架,利用IBIS结构化论证提升逻辑一致性

  • 2026:MedAction——将多轮诊断建模为POMDP,通过迭代测试排序实现主动诊断

  • 2026:Process-Supervised MARL——提出过程监督的多智能体强化学习框架,解决长程任务奖励稀疏问题

  • 2026:Toulmin-Guided CGCL——基于Toulmin论证模型构建课程目标条件学习框架,提升推理可解释性

这条时间线勾勒了该领域方法演进的代表性节点:从 2023 年的 MedAgents 奠定该领域方法基线,经 2024 年 Clinical Chain-of-Thought (CoT) 的推进,到 2026 年的 Toulmin-Guided CGCL 代表当前前沿。各节点对应的技术路线、取舍与关联,详见后续小节。

2.1 多智能体协作诊断

多智能体协作诊断旨在模拟真实临床中的多学科会诊(MDT),通过角色分工、动态协作与共识机制提升复杂病例的诊断准确性。该路线的起源可追溯至2023年的MedAgents(Zheng et al., 2025, P2),其通过模拟内科、外科、放射科等专家角色的迭代讨论,解决了单一LLM在复杂医学推理中的知识局限与偏见问题。然而,早期静态角色分配与简单投票机制暴露出“共识陷阱”风险,即错误假设可能在辩论中被放大而非纠正。MedAgentAudit(Gu et al., 2025, P1)通过大规模交互日志分析,系统性地量化了“向错误共识收敛”和“关键信息丢失”等协作失败模式,揭示了多智能体协作并非总能带来性能提升,为后续机制优化提供了实证依据。

针对这一局限,研究者转向更精细的协作机制。MedCoAct(Zheng et al., 2025, P2)引入置信度感知机制,通过动态评估各专家代理输出的置信度来协调协作流程,当置信度低于阈值时自动触发更深入的验证或引入额外专家,从而缓解了“错误共识”现象。这一设计以计算开销的增加换取了决策鲁棒性的提升,特别适用于模糊或高风险临床场景。进一步地,MedCollab(Zhan et al., 2026, P12)将因果推理引入协作过程,通过IBIS结构化论证协议生成可验证的诊断立场,并由全科医生代理根据病例特征动态招募相关专科代理,填补知识缺口。该方法放弃了静态角色分配,转而采用动态招募,提高了对复杂共病病例的适应性,但依赖于因果图的准确性与动态招募策略的有效性。

在贡献度量化方面,CoMMa(Wu et al., 2026, P9)从博弈论视角提出贡献感知的医疗多智能体框架,通过确定性嵌入投影模块将文本输入编码到共享空间,并利用数据去中心化代理混合模块将嵌入路由至指定代理。其核心创新在于引入博弈论公式量化各代理对最终决策的贡献,从而动态调整代理权重,避免了简单平均或投票带来的信息损失。然而,该方法假设代理间的贡献可以通过嵌入空间的距离和相似度进行近似度量,这在非线性关系复杂的场景下可能存在偏差。此外,CAMP(Lu et al., 2026, P14)提出案例自适应的多智能体审议框架,由主治医师代理根据病例异质性动态组装专科代理面板,通过层级仲裁机制整合不同视角,缓解了单一模型偏见。这些方法共同构成了多智能体协作从“静态辩论”向“动态自适应”演进的技术谱系,与交互式诊断路线在“主动信息获取”上形成互补,但多智能体路线更侧重于“内部推理一致性”,而交互式路线更侧重于“外部证据获取”。

2.2 交互式诊断推理

交互式诊断推理聚焦于模拟真实临床问诊过程,通过主动提问、检查排序及不确定性管理,实现基于部分可观测信息的迭代式诊断决策。该路线的早期探索可追溯至2024年的MediQ,其将诊断任务建模为疾病选择问题,通过模拟医生-患者交互实现初步的信息收集,但交互深度有限。2025年,MeDxAgent(Sanghvi et al., 2026, P22)构建了支持多智能体咨询的交互式诊断系统,允许代理在诊断过程中动态发起询问并整合新证据,突破了静态基准的限制,实现了从“一次性预测”到“动态推理”的范式转变。该系统依赖于代理间的有效通信和证据整合机制,若通信延迟可能影响诊断效率,但其核心价值在于更贴近真实临床流程。

2026年,MedAction(Hsu et al., 2026, P19)将多轮临床诊断建模为部分可观测马尔可夫决策过程(POMDP),通过迭代测试排序和信念状态更新实现主动诊断。该方法引入了交互式数据生成和轮次级质量过滤,确保训练数据反映真实临床噪声,解决了噪声环境下的诊断鲁棒性问题。MedAction的核心创新在于将诊断过程形式化为序列决策问题,代理根据当前信念状态选择最优测试,并根据结果更新信念,从而实现了从被动问答到主动探索的跨越。然而,该方法依赖于POMDP建模的准确性,若状态空间定义不当可能影响策略学习。

在认知模拟层面,Thinking Like a Clinician(Lv et al., 2026, P17)提出基于全景画像和对抗辩论的认知AI代理框架,分为三个阶段:通过感知提取建立全景患者画像,通过树状思维图执行状态感知导航,通过多智能体辩论仲裁候选诊断。其核心创新在于引入了“天使-魔鬼”辩论机制,通过对抗性验证消除偏见,确保诊断的逻辑严密性。该方法依赖于全景画像的完整性,若初始画像缺失关键信息可能影响后续推理。这些方法共同构成了交互式诊断从“简单询问”向“结构化主动探索”演进的技术谱系,与多智能体协作路线在“内部推理”上形成竞争,但交互式路线更强调“外部证据获取”与“状态跟踪”,为长程临床任务提供了更贴近现实的评估与训练框架。

2.3 强化学习训练优化

强化学习(RL)训练优化旨在解决长程临床任务中的奖励稀疏与推理对齐问题,通过过程监督优化LLM代理的决策策略。早期研究主要依赖监督微调(SFT),但在动态交互场景中泛化能力差,无法有效优化多轮问诊策略,导致逻辑跳跃。2025年,Dr. Assistant(P29)提出基于临床诊断推理数据(CDRD)的强化学习训练策略,通过结构化三元组(症状、证据、诊断)约束模型的推理行为,利用RL优化多轮问诊策略,解决了传统SFT在动态交互场景中的局限性。该方法依赖于高质量CDRD数据的构建,数据标注成本高,但其核心价值在于通过步骤级奖励约束模型的推理行为,避免逻辑跳跃。

2026年,Process-Supervised MARL(Lee et al., 2026, P10)提出过程监督的多智能体强化学习框架,采用层级化Agent-as-Tool架构,由监督代理协调专业子代理执行任务,并生成结构化证据轨迹。其核心创新在于引入过程奖励,不仅关注最终结果,还评估中间推理步骤的质量,从而提供更密集的监督信号,解决了长程临床任务中奖励稀疏导致的训练不稳定问题。然而,该方法依赖于过程奖励模型的准确性,若奖励模型偏差大可能误导训练。此外,Reinforcement Learning for Evidence-Seeking(Hua et al., 2026, P27)提出基于强化学习的证据寻求诊断推理方法,设计了三因子奖励机制,结合正确性、推理验证和格式奖励,引导模型进行自主调查,推动了从被动推理向主动调查的范式转变。

在资源受限场景下,Small Agent Group (SAG)(Meng et al., 2026, P8)提出小代理群组强化学习框架,通过GRPO(组相对策略优化)进行联合训练,实现知识共享和互补,为资源受限场景下的临床AI部署提供了高效解决方案。这些方法共同构成了RL训练从“结果监督”向“过程监督”演进的技术谱系,与交互式诊断路线在“主动探索”上形成互补,但RL路线更侧重于“策略优化”与“训练稳定性”,为长程临床任务提供了更可靠的训练范式。

2.4 安全与可解释性

安全与可解释性聚焦于临床AI的安全边界、幻觉抑制、推理透明性及人机协作中的信任机制,确保决策过程符合临床规范且可审计。早期工作主要依赖提示工程(如Clinical Chain-of-Thought)提升推理透明度,但受限于模型内部知识的不完整性,常需结合检索增强技术以弥补事实性错误。2025年,MedAgentAudit(Gu et al., 2025, P1)通过系统性诊断和量化医疗多智能体系统中的协作失败模式,揭示了多智能体协作中的潜在风险,如“向错误共识收敛”和“关键信息丢失”,为设计更鲁棒的协作机制提供了实证依据。

2026年,Toulmin-Guided CGCL(Zhan et al., 2026, P15)提出基于Toulmin论证模型的课程目标条件学习框架,将临床诊断推理分解为数据提取、假设生成、论证辩护等结构化阶段,通过Toulmin组件(数据、推理、保证等)约束模型输出。其核心创新在于引入结构化论证作为训练目标,使模型不仅生成答案,还生成可验证的论证过程,显著提升了推理的可解释性和逻辑完整性。然而,该方法依赖于Toulmin模型对临床推理的适用性,若模型过于简化可能无法覆盖所有临床场景。此外,Agentic AI Framework for Mitigating Premature Handoff(Srivastava et al., 2026, P24)提出基于OLDCARTS验证门和语义熵不确定性量化的框架,在诊断生成前引入符号化摄入验证,确保输入信息的完整性,并通过多样本语义熵估计不确定性,双重保障诊断的安全性。

在对抗性安全方面,Many-to-One Adversarial Consensus(Bashir et al., 2025, P4)提出多智能体对抗共识攻击方法,通过引入多个对抗性助手代理,诱导主代理产生错误共识,从而测试系统的鲁棒性,揭示了多智能体系统在对抗性输入下的脆弱性。在人机协作层面,From Retrieving Information to Reasoning with AI(Rahdari et al., 2026, P7)通过对比不同交互模式(如信息检索、推理辅助、自主决策)对医生决策的影响,评估人机协作的质量,强调了交互模式在提升人机协作信任中的关键作用。这些方法共同构成了安全与可解释性从“事后审计”向“过程约束”演进的技术谱系,与多智能体协作路线在“内部推理”上形成互补,但安全路线更侧重于“外部约束”与“信任机制”,为临床AI的可靠部署提供了必要保障。

2.5 跨任务与多领域应用

跨任务与多领域应用聚焦于将LLM智能体技术扩展至更广泛的临床场景,包括多模态影像分析、长周期临床路径模拟及特定专科任务。2025年,MTBBench(Vasilev et al., 2025, P3)构建了多模态序列临床决策基准,模拟分子肿瘤委员会(Molecular Tumor Board)工作流,包含时间演变的患者数据、多模态影像及专家验证的临床问题,揭示了当前模型在多模态融合与纵向推理上的不足。2026年,HealthAgentBench(Liu et al., 2026, P26)构建了统一的现实医疗代理环境基准套件,涵盖从患者入院到出院的全流程任务,强调多模态交互和长程决策,评估了前沿代理在复杂医疗环境中的端到端执行能力。

在特定专科任务中,CureAgent(Xie and Zhang, 2025, P5)提出无训练的Executor-Analyst框架,针对CURE-Bench治疗推理任务,通过执行器-分析器分离架构提升临床推理的准确性。Role-Specialized MoA(Hou et al., 2026, P28)提出角色特化的混合智能体架构,利用开源LLM进行临床预测,在MIMIC-IV死亡率预测任务上取得了57.4%的准确率,显著超越了传统深度学习基线。这些应用表明,LLM智能体技术正从通用问答向专科化、多模态化方向扩展,但面临多模态融合中的校准退化与长周期状态管理挑战。

3. 关键共识、分歧与开放问题

3.1 领域共识

LLM在医学考试和静态问答中表现优异,但在真实临床工作流中的可靠性仍需通过多步推理和工具使用来验证,这一共识在多个基准上被反复验证:SEMA-RAG的91.46%与MDIA的0.6272均大幅超越传统单智能体基线,但PhysicianBench中GPT-5.5的46%完成率揭示了模型在长程任务上的显著短板。与此相关的另一个共识是,多智能体协作框架通常优于单智能体,能模拟多学科会诊并提升诊断准确性,但需解决协作效率和错误传播问题,MedCoAct与MedCollab通过置信度感知与因果驱动机制缓解了“共识陷阱”,但计算开销的增加限制了其大规模部署。RAG是缓解LLM幻觉和知识滞后的关键技术,通过引入外部权威医学证据提高回答的事实准确性,SEMA-RAG在MedQA上的高性能进一步证实了这一点。现有静态基准(如MedQA)已趋于饱和,无法充分评估LLM的临床部署能力,需要更复杂的交互式、多模态和长周期基准,PhysicianBench与HealthAgentBench的出现标志着这一转变。临床决策支持系统必须集成EHR数据,且FHIR标准是实现数据互操作和智能体工具调用的关键基础设施,SELSM在MedAgentBench上的100%任务完成率凸显了FHIR集成的重要性。强化学习(RL)和过程监督是优化LLM临床推理路径、提高可解释性和安全性的有效训练策略,Process-Supervised MARL通过过程奖励解决了长程任务中的奖励稀疏问题。医疗AI部署面临严峻的隐私和伦理挑战,本地化部署和合成数据是解决数据敏感性问题的重要方向,VIBEMed通过架构级安全沙箱确保了自主进化过程中的操作安全。不确定性量化对于识别模型不可靠的输出至关重要,应作为触发人工干预或进一步检查的机制,Agentic AI Framework通过语义熵估计不确定性,双重保障诊断的安全性。

3.2 观点分歧

多智能体协作是否必然优于单智能体?观点A认为多智能体通过角色分工与辩论能显著提升诊断准确性,模拟MDT会诊(代表:MedAgents, MDAgents);观点B认为多智能体存在“共识陷阱”与效率低下问题,简单投票可能放大错误,单智能体配合RAG可能更高效(代表:MedAgentAudit, 部分单智能体SOTA)。现有证据偏向观点A在复杂共病场景下的优势,但证据强度中等。MedAgentAudit揭示了协作失败模式,但缺乏大规模真实临床数据验证“动态招募”机制的优越性。决定性实验需在真实EHR环境中对比单智能体(强RAG)与多智能体(动态协作)在长程任务上的Task Success Rate与Bias Trap Rate。这一分歧的背后,是另一个更根本的争论:RL过程监督是长程临床推理的必要条件吗?观点A认为RL与过程监督是解决长程任务奖励稀疏、提升逻辑一致性的关键(代表:Dr. Assistant, Process-Supervised MARL);观点B认为SFT结合高质量结构化数据(如CDRD)已足够,RL训练成本高且不稳定,过程奖励模型本身存在偏差(代表:部分SFT基线)。现有证据偏向观点A在动态交互场景中的优势,但证据强度较弱。多数RL研究在模拟环境或小规模数据上验证,缺乏大规模真实临床数据的对比。决定性实验需在相同数据规模下,对比SFT与RL在长程EHR任务上的泛化能力与推理步骤质量。

3.3 其他开放问题

最紧迫的工程问题是数据隐私合规与FHIR互操作标准化,现状是敏感患者数据不能上传至云端API,关键困难在于本地化部署的计算资源限制与模型漂移管理,研究路径包括构建符合HIPAA/GDPR标准的本地化部署架构、FHIR互操作接口及自动化验证流程。最根本的研究问题是多模态长时程推理的校准退化,现状是当前基准多局限于静态文本或单模态,关键困难在于不同模态数据分布差异大且缺乏统一表示,研究路径包括整合影像、波形及纵向EHR数据,解决多模态融合中的校准退化问题,通过构建动态、交互式环境评估智能体在复杂时间序列中的推理能力。此外,细粒度过程监督与评估体系的构建也是关键开放问题,现状是现有基准无法定位具体失败模式(如检索错误、逻辑跳跃),关键困难在于过程奖励模型的自动化构建成本高且主观性强,研究路径包括建立针对推理步骤、工具调用质量及中间证据保留率的评估指标,通过过程奖励模型(PRM)和细粒度检查点提升训练与评估的针对性。已知—争议—未知认知图谱显示,领域在静态问答与RAG有效性上达成高度共识,在多智能体协作优势与RL必要性上存在中等强度争议,在多模态融合、长程RL奖励设计与细粒度过程监督上缺乏成熟理论框架,未来发展趋势将依赖于对不确定性管理的深化与多模态长程推理的解决。

4. 总结与展望

LLM临床决策支持领域正处于从“能力验证”向“可靠部署”过渡的关键期,核心矛盾在于LLM的高泛化能力与临床场景对零容错、可解释性的严苛要求之间的冲突。早期研究通过静态问答与多智能体辩论提升了单轮诊断的准确性,但暴露出“共识陷阱”与效率低下问题;随后,交互式诊断与强化学习优化通过POMDP建模与过程监督,解决了信息缺失与长程任务奖励稀疏问题;当前,安全与可解释性机制通过结构化论证与不确定性量化,提升了推理透明度与决策安全性。然而,核心瓶颈仍在于如何在部分可观测、高风险的临床环境中,通过过程监督与不确定性量化,实现安全可控的长程自主决策,这一瓶颈制约了领域从实验室性能向临床价值的转化。

未来可能突破的方向包括:扩展至多模态与长时程临床工作流,整合影像、波形及纵向EHR数据,解决多模态融合中的校准退化问题,通过构建动态、交互式环境评估智能体在复杂时间序列中的推理能力;提升可解释性与逻辑一致性,引入结构化逻辑树、因果推理或Toulmin论证框架,解决推理链条断裂与幻觉问题,通过显式编码推理模式提高决策的可审计性与临床可信度;优化多智能体协作机制与鲁棒性,研究贡献感知、因果驱动或对抗性验证机制,解决多智能体间的信息瓶颈与系统性偏差,确保在资源受限或对抗环境下决策的稳定性与安全性。对进入者最值得做的一件事是,在统一骨干与统一预训练条件下,构建涵盖多模态、长程交互与过程监督的综合评估基准,以弥合实验室性能与临床实际应用之间的差距,为领域提供公平、可比的评估标准。

以上为节选,完整内容见ArxivReview

來源:阿里雲開發者社區 AI · developer.aliyun.com