谷歌推出 Gemini 企业级 Agentic RAG 平台

原标题:Unlocking dependable responses with Gemini Enterprise Agent Platform’s Agentic RAG
58AI 研判分

谷歌在 Gemini 企业智能体平台中正式集成“Agentic RAG”(代理式检索增强生成)功能,旨在解决传统单步 RAG 无法处理跨数据源、多跳查询的痛点。该方案通过让 AI 自主规划、推理并迭代交互多个数据孤岛,显著提升了复杂业务场景下回答的可靠性与准确性。

报道正文

本文目录13 个章节

当前的单步检索增强生成(RAG)系统并非为现代业务工作流中的多源、多跳查询而设计。例如,如果查询是“项目 X 中使用的服务器规格是什么?”,系统可能会找到关于项目 X 的文档,但这些文档可能仅提及服务器 ID。它不会知道需要利用该 ID 在另一个数据库中执行第二次搜索以查找规格信息。由于信息分散在不同的数据“孤岛”中,需要进行更深入的探索才能找到事实,因此结果往往是部分答案或“未找到”响应。

由此引入了“Agentic RAG”(智能体 RAG),它能够规划、推理并与数据源进行迭代交互,从而能够处理复杂查询,提高可靠性和准确性。

今天,我们很高兴推出托管于 Google Gemini Enterprise Agent Platform 上的 Cross-Corpus Retrieval powered by Agentic RAG(基于 Agentic RAG 的跨语料库检索)。与其他多智能体 RAG框架一样,我们的方案采用多种协同工作的智能体来可靠地回答复杂查询。与其他多智能体框架不同的是,我们的方案融入了充分上下文机制,以确认是否有足够的信息来提供准确答案。与标准 RAG 相比,我们的框架在事实性数据集上的准确率提高了多达 34%。我们还使用专有的内部数据集对系统进行了评估,发现其在多个特定领域任务上实现了更好的接地(grounding)和更高的推理准确率。

多智能体架构的工作原理:规划、重写与路由

将多智能体 RAG 想象成一个有组织的研发部门,而不是单一的搜索引擎,会有助于理解其工作原理。在“单体式”或“Vanilla”(基础版)RAG 系统中,检索组件只是查看你的问题并尝试找到匹配的文档,然后由 LLM 生成响应。

在多智能体框架中,系统将任务分解为专门的角色:

  1. 编排器(Orchestrator) 评估你的复杂请求,并判定“这不是一个单步任务”,随后将工作委派给各个智能体。
  2. 规划智能体(Planner Agent) 梳理信息路径。例如,如果你询问某个项目的预算和时间表,规划智能体会决定:“首先,我们需要检查财务数据库,然后需要查看项目管理日志。”
  3. 查询重写器(Query Rewriter) 将你的请求转化为多个搜索查询。它将 “项目 X 的情况如何?” 转化为 “项目 X 第三季度状态报告” 和 “项目 X 团队的关键阻碍因素”。
  4. 搜索扇出智能体(Search Fanout Agent) 接收这些优化后的查询,并将其发送到各种检索源以收集信息片段。
  5. 最后,LLM 聚合所有上下文以生成最终回复。

我们的 Agentic RAG 有何不同

我们新的 Agentic RAG 框架与现有方案的关键区别在于 持久性(persistence)。与其他 RAG 解决方案相比,我们的框架之所以高效,是因为它能够识别何时缺失信息,并持续搜索直到上下文完整。这防止了 AI 在首次搜索无果时“猜测”,或简单地回答“我没有足够的信息”。虽然在某些情况下这是合适的回应,但有时信息确实存在,只是需要我们找到它。

例如,想象一位医生询问患者的药物、饮食和过敏史:

"John Doe 膝关节手术后的出院用药和饮食限制是什么?他在住院期间是否出现过任何过敏反应?请勿包含仅在医院住院或急诊就诊期间使用的药物,肝素静脉滴注或替奈普酶除外。"

作为响应,我们的框架会启动许多专门的智能体。我们在下图中概述了解决方案,随后将进行更详细的描述。

阶段 1:编排

根智能体(Root Agent)解析医生的请求,并将任务委派给子智能体。规划智能体确定需要检查三个不同的领域:药房、营养学和临床笔记。查询重写器将长请求分解为简单、可搜索的问题,以便检索器能更准确地找到相关内容。

阶段 2:搜索(标准步骤)

RAG Agent 会一次性搜索患者病历中的所有查询分支。它找到了用药信息和饮食信息,但在最显眼的文件中找不到任何关于过敏的记录。在标准或“朴素”(Vanilla)RAG 系统中,流程可能就此终止,并给出一个不完整的答案。

阶段 3:充分上下文 Agent(新的研究创新)

可以将充分上下文 Agent(Sufficient Context Agent)想象为站在装配线末端的质量控制检查员。它在允许生成响应之前,会审查以下三项具体发现:

1. 检索到的片段

充分上下文 Agent 评估由 RAG Agent 从数据库中拉取的实际文本块。在医生的示例中,这些可能是“出院小结”和“营养记录”中发现的具体段落。它会阅读这些内容,以确认回答查询所需的信息是否存在于这些句子中。

2. 中间草稿

系统还会创建一个“粗略草稿”响应。随后,充分上下文 Agent 审查提示词、草稿和检索到的片段,以评估模型是否拥有提供全面且有据可依答案所需的一切信息。如果提示词要求三件事(药物、饮食、过敏),但片段中只包含其中两项的信息,充分上下文 Agent 就会将其标记为“上下文不足”。

3. 缺失部分分析

这是最关键的部分。充分上下文 Agent 会准确识别出哪些信息缺失。它不会仅仅输出“这不够充分”,而是会生成具体的“原因”和“反馈”日志。例如:

发现:“我们已有药物清单和低钠饮食说明。”

缺口:“源文档中缺少关于住院期间过敏反应或不良事件的信息。”

充分上下文 Agent 将已找到的内容与原始请求进行对比,并询问:“我们回答了过敏问题吗?” 如果没有,它会发出“上下文不足”信号并提供具体反馈:“你找到了药物和饮食信息,但漏掉了过敏信息。请回去专门搜索‘皮疹’或‘不良事件’。” 在多源场景下,它还可以请求更多信息,或者判定该源与查询无关。

阶段 4:迭代

由于充分上下文 Agent 的反馈,查询重写器(Query Rewriter)会创建一个新的针对“皮疹”的搜索。然后,RAG Agent 深入挖掘第一次被忽略的文件,从而找到缺失的信息。

阶段 5:综合(最终答案)

充分上下文 Agent 对数据进行最后一次检查。在获取了药物、饮食和过敏信息后,它判定可以停止搜索。最后,综合 Agent 为医生撰写一份清晰、准确的总结。

实验与结果

我们在 FramesQA 上评估了 agentic RAG,该数据集基于 FRAMES 论文。一个多跳问题的示例如下:

“截至 2024 年 6 月,收视率最高的两集电视大结局中,哪一集的时长最长?长多少?”

RAG 系统需要执行多个步骤才能得出正确答案。首先,它必须识别出收视率最高的两集大结局分别来自剧集 MAS*H 和 Cheers。然后,它需要找到它们的播放时长,并计算时长差值。在许多 RAG 设置中(如 Vanilla RAG 或不具备充分上下文的 agentic RAG),我们可能会遇到模型输出类似以下内容的情况:

“尽管进行了多次扫描,我仍未找到 MAS*H 或 Cheers 的明确播放时长。文档提供了收视率数据,但未提供以分钟或小时计的时长。”

这并未回答问题。

幸运的是,我们的 agentic RAG 能够解决这一问题:它首先搜索相关电视节目,然后利用查询重写器(Query Rewriter)和充分上下文 Agent(Sufficient Context Agent)进行针对性搜索,以获取 MAS*H 或 Cheers 的播放时长。随后,Gemini 可以轻松确定哪一集大结局时长最长以及具体长多少:

“MAS*H 的大结局时长为 150 分钟,是两部剧中最长的。它比 Cheers 的大结局(约 98 分钟)长了 52 分钟。”

[注:本文篇幅超长,以上为核心前篇精译,后续内容保留原文呈现]

We ran an experiment to test this ability at scale (FramesQA has 824 queries along with a corpus containing 2,676 PDF documents). In the “Vanilla” RAG setting, we use Google’s RAG Engine (which has an advanced retrieval engine, LLM parser, and re-ranker). We compared this with our agentic RAG in two settings. In the single-corpus setting, we retrieve from the FramesQA documents. In the cross-corpus setting, we also include three other distracting datasets, where the Planner Agent must determine where to retrieve from. This cross-corpus setting mimics use cases where companies have databases managed by separate teams. We compute accuracy by using an LLM-as-a-judge to compare the system responses to the ground truth answers in the dataset.

In the cross-corpus setting, our system nearly matches its single-corpus accuracy. Even when the Planner Agent must select the correct corpus out of 4 possibilities, we successfully route the search queries and answer 90.1% of questions correctly. Also, the latency of both single- and cross-corpus versions is about the same (within 3% on average). This demonstrates that our Agentic RAG system can reason over multiple, unrelated data sources, which opens up possibilities for more flexible retrieval scenarios.

Conclusion

By combining advanced query planning, routing, and sufficient context, our agentic RAG system ensures that AI-generated responses are auditable, traceable, and grounded. We look forward to seeing how the machine learning community leverages these new agentic capabilities to build the next generation of dependable AI systems. This new feature is now available as a public preview offering in Gemini Enterprise Agent Platform.

Acknowledgments

This project is joint work with Bo Li, Zhongjie Mao, Tiger Jin, Yuhong Kan, Mohd Abdullah (Obito), Chun-Sung Ferng, Pooneh Mortazavi, Roger (Peng) Yu, Eran Lewis, and Ivan Kuznetsov. We thank Kimberly Schwede for designing the graphics and Mark Simborg for writing assistance. We also thank our key enterprise partners for critical user feedback, data, and insights.