LangSmith 赋能医疗 AI 可靠性:Abridge 与 Included Health 通过评估闭环缩短发布周期并提升安全监控

原标题:The Reliability Layer for Healthcare AI: Common LangSmith Use Cases
38AI 研判分

LangChain 发布案例研究,展示 LangSmith 如何作为医疗 AI 的可靠性层。Abridge 利用其评估功能将发布周期从数月缩短至数天,Included Health 则通过监控路由质量实现聊天参与度提升 75% 及高危情况 99% 以上的正确标记。核心在于将临床审查转化为可复用的标签、评估器和数据集,而非每次从零开始。

报道正文

本文目录10 个章节

Morgan Lo 2026年9月22日 9分钟 返回博客 创建智能体 创建智能体

核心要点

  • LangSmith 使团队能够将临床审查转化为标签、评估器和数据集,并在未来的版本中复用,从而避免每次从头开始。
  • Abridge 使用 LangSmith 运行评估,帮助将其发布周期从一到两个月缩短至几天。
  • Included Health 使用 LangSmith 监控其 AI 健康指南的路由质量和安全性。上线后,聊天参与度增长了 75%,且系统正确标记了超过 99% 的高风险情况。

在医疗领域,判断 AI 系统是否运行正确的最佳评判者,正是那些该系统旨在节省时间的人群。临床医生可以迅速判断生成的病历是否正确归因了症状,或者患者是否被推荐了最合适的护理级别。但他们无法无限期地对数千次诊疗进行此类审查。在规模化场景下,专家验证成为了瓶颈。

医疗团队应对这一挑战的方式各不相同,但许多团队都遵循一个共同原则:将临床审查视为基础设施,而非反复发生的运营成本。本文介绍了两家以不同方式构建 AI 医疗产品的组织,如何在评估实践上殊途同归。借助 LangSmith,他们将专家输入转化为可持久使用的资产,例如标注数据集、校准后的评估器以及自动化的发布门禁。目标并非消除人类判断,而是让这种判断的价值不断累积。

你将了解到:

  • 如何将稀缺的临床专业知识转化为持久的评估能力
  • 可复用的评估如何在不牺牲信任与安全的前提下实现更快的发布
  • 当前的评估挑战,例如受保护健康信息(PHI)的处理和模型漂移

医疗领域 AI 评估面临的挑战

医疗 AI 智能体需要在多种工作流中运行,例如患者护理决策和就诊记录文档化。

Included Health 构建了 Dot,这是一个由 LangGraph 和 Deep Agents 驱动的 AI 指南。它能够解读模糊的会员需求,回答有关保险覆盖范围和账单的问题,将人员引导至适当的医疗服务,并检测紧急情况。例如,关于某项扫描是否在覆盖范围内的提问,可能在几轮对话后揭示出会员实际上需要与初级保健医生沟通。评估 Dot 不仅意味着检查其准确性,还要确认它是否利用了会员的完整上下文来推荐安全且合适的下一步行动。

Abridge 将患者与临床医生之间的对话转化为临床笔记。在获得患者同意后,医生记录就诊过程,Abridge 将对话转换为笔记,该笔记成为纵向健康记录的一部分并支持计费。在这种场景下,归因(attribution)至关重要。如果患者的观察被呈现为医生的结论,症状可能会变成可计费的诊断。幻觉(Hallucinations)则带来另一种风险:从未开具的药物或剂量可能被录入记录。一份可信的笔记必须保留“谁说了什么”,捕捉临床上的关键信息,并且不引入任何对话中未支持的内容。

这些系统以不同的方式出现故障,但两个团队都使用 LangSmith 来解决同一个约束条件:准确性由工程团队之外的人员决定,而该人员的往往是系统中最为稀缺的资源。

这使得专家审查既不可或缺,又可能成为瓶颈。正如 Abridge 团队所言:“信任点滴积累,却如桶倾覆般迅速流失。”目标是使每一次专家判断都能在未来的测试、发布和迭代中复用。

临床审查必须填补的空白

在将临床判断编码到自动化评估之前,团队必须首先明确专家正在评估的具体内容。有三个特性使得这种判断难以规模化。

基准真值(Ground truth)很少是单一的。 临床笔记并没有一种规范形式*。* 哪些内容属于笔记取决于专科、就诊情况和临床医生,合理的专家之间也可能存在分歧。参考笔记很有用,但如果将单一参考视为唯一正确答案,可能会惩罚有效的变体,同时仍然遗漏临床上重要的错误。

正确的“不作为”同样重要。 医疗团队必须评估系统是否在应当行动时正确行动,以及是否在不应行动时正确识别并选择不作为。例如,Included Health 的审核人员会检查紧急防护栏(guardrails)是否在适当情况下触发,并在良性案例中保持不激活状态。再如,Abridge 会测试其智能体是否严格遵循边界约束,并选择临床医生所预期的工具。

审核者的专业能力是规范的一部分。 Abridge 会在前期确定某项评估是否需要由委员会认证医师或特定专科医生参与。评判模型的质量取决于用于校准它的判断质量。

这并不意味着临床判断无法实现自动化,而是明确了负责任地实现自动化的要求:包容合理的差异、关注未发生的事件,并确保每个标签背后都有恰当的专业知识支撑。

将临床专业知识转化为持久资产

一旦团队明确了需要保留的判断标准,就可以开始将专业知识转化为基础设施。Abridge 将临床医生的输入转化为标注数据集和经过校准的评判模型,使其在单次人工审核结束后仍能持续发挥作用。

Abridge 从临床医生和用户反馈中已知的失败模式入手。团队按发生频率和严重程度对这些失败模式进行排序,将其归类为准确性、合规性、风格和完整性等类别,并为每一类构建独立的评判模型。评估器不再输出单一的通用质量分数,而是针对笔记可能失败的具体方式进行测试。

节省时间的关键在于自动化提供判断后的后续流程。过去,临床医生需编写注释指南并标注诊疗记录,随后有人工手动调整评判模型的提示词,直到其评分与标签一致。如今,Abridge 将相同的指南和示例输入到自动提示优化框架中,自动生成评判模型。

由于没有任何单一参考标准能够涵盖所有有效的笔记形式,Abridge 采用两种具有互补优势的方法进行分层处理:

两者结合,实现了广度与精度的平衡:前者提供跨场景的可扩展覆盖,后者则捕捉临床审查所要求的专科特异性细微差别。

经过优化的评判器仍需通过与临床医生的标注进行验证来确保其可靠性。LangSmith 的 Align Evaluator 为团队提供了一个界面,用于比较两者并调查分歧。Abridge 还会单独要求标注者解释他们的决策理由,即使输出结果是正确的。这些解释有助于解决不一致性,并确认标签反映了审慎的审查过程。

最终形成的评估系统可供检查、重新校准和复用。通过将个体判断转化为持久化的评估器,团队可以将稀缺的临床专业知识保留在最能发挥价值的案例上。生产环境中的审查提供了新的案例和反馈,使这些标准保持最新状态。

通过生产审查闭合评估循环

经过校准的评判器应用的是团队已经捕获的判断逻辑。生产审查则提供下一轮的判断依据,揭示系统在真实对话中的表现,并为需要修复的问题生成证据。

Included Health 展示了新证据如何进入这一循环。对话被送入 LangSmith 标注队列,由临床审查员评估 Dot 是否引导成员前往了正确的护理场所、其紧急护栏机制是否表现得当,以及该案例是否需要后续跟进。

这些决策转化为结构化标签,导出至 Included Health 的数据仓库,供数据科学团队用于构建运营仪表盘。同时,这些数据也反馈到指导 Dot 如何导航成员的“技能定义”中。每一次审查只需投入一次精力,却能产生三重价值。

由此形成了一个强大的反馈闭环。临床判断转化为数据,数据指导产品迭代,而这些变更在下次发布前都会依据相同标准进行测试。每一次评审不仅服务于当前案例,也塑造了系统的未来行为。

将评估转化为发布关卡

反馈闭环在发布阶段发挥关键作用。团队无需从零开始评估每一个候选变更,而是可以将其与已收集的证据进行对照测试。

在 Abridge,模型变更会经历逐步贴近真实场景的阶段:离线评估、针对历史诊疗记录的回归测试、小范围 A/B 测试、全面发布以及持续的生产环境监控。每个阶段都会提供不同类型的证据。

A/B 测试是该流程中最独特的一环。Abridge 的部分合作伙伴同意成为首批参与静默灰度发布的客户(占比 10% 至 15%)。这使得 Abridge 能够观察到自动评判器无法提供的信号:临床医生是否修改生成的笔记、他们如何评价这些笔记,以及他们分享了哪些定性反馈。离线评估用于确定变更是否具备小范围曝光的条件;生产环境中的表现则决定灰度发布是否应进一步扩大。这一流程将 Abridge 的发布周期从一到两个月缩短至几天。

Included Health 将同样的原则应用于一次架构变更。将 Dot 的超级图(supergraph)迁移至 Deep Agents 影响了四个产品团队,各方都对破坏性变更持谨慎态度。团队运行了现有的多轮对话模拟套件,确认性能保持稳定,并在不到两周内完成了迁移,且未出现显著的回退问题。

在这两个案例中,发布信心得以累积。团队无需为每次变更重新建立信任,而是可以在已收集的证据基础上继续推进。

衡量生产环境的可靠性

更快的发布周期只有在系统面向真实用户稳定运行时才有意义。Included Health 从三个维度衡量性能:采用率、路由质量和安全性。

每项指标回答不同的问题:*会员会使用该产品吗?它能引导用户获得适当的护理吗?它能识别需要紧急关注的情形吗?*综合审视这些指标,能让团队更全面地了解生产环境的可靠性。

在 Dot 上线后,Included Health 报告称聊天互动率提升了 75%。在经评分的对话中,临床医生对 Dot 护理建议的认可度仍高于团队设定的 95% 目标,且临床审计显示,Dot 能够识别超过 99% 的高风险情况。

在 Abridge,标注过的就诊记录用于校准针对未来版本运行的评估模型(judges);而在 Included Health,临床标签的生命周期超越了产生它们的单次对话。这些产物仍需审查和重新校准,但其背后的专家判断力不再仅服务于单一决策。

评估流水线中的 PHI

使临床判断可复用的那些产物——就诊轨迹、对话历史和临床医生标注——也可能包含受保护的健康信息(PHI)。一旦团队开始存储和复用这些数据,安全与部署架构便成为评估设计的一部分。

Abridge 将自托管、访问控制和可审计性视为其评估基础设施的要求。他们还在利用对话数据进行学习之前,移除其中的身份标识信息。这些并非在评估流水线构建完成后才添加的控制措施,而是从一开始就决定了哪些数据可以进入该流水线。

LangSmith 支持托管 云、自带云 和 自托管 部署。团队必须决定评估数据的存储位置、谁有权访问、适用哪些审计和保留控制措施,以及如何处理包含 PHI 的轨迹。

让信任可重复

在医疗 AI 领域,信任的建立是缓慢的。它随着每一次正确处理的就诊、每一个护栏机制以及每一个在触达用户前被拦截的回退问题而增长。然而,一个逃脱了这些检查的变更就可能摧毁这一切。

医疗团队通过确保每次细致的审查在审查本身结束后仍能持续发挥作用,从而实现快速推进。

如需查看完整的客户案例,请观看 使用 LangGraph 构建临床 AI Agent:Abridge 针对高风险医疗场景的 Eval 技术栈 并阅读 Included Health 如何利用 Deep Agents 和 LangGraph 构建用于医疗导航的联邦式 Agent。

‍

洞察 Agent 的真实行为

LangSmith 是我们的 Agent 工程平台,可帮助开发者调试每一个 Agent 决策、评估变更影响,并实现一键部署。

试用 LangSmith预约演示