Hugging Face BlogT1·智能体与协同
76 分
ServiceNow 团队发布 MosaicLeaks 基准测试,专门评估深度研究智能体在混合使用私有文档与外部工具时的隐私泄露风险。研究发现现有模型频繁泄露敏感信息,且单纯优化任务性能会加剧此问题。团队提出 PA-DR 强化学习方法,成功将严格链路成功率提升至 58.7%,同时显著降低信息泄露率。
Deep Research Agent
能自主规划、检索并综合多源信息以解决复杂问题的 AI 系统
ServiceNow 团队发布 MosaicLeaks 基准测试,专门评估深度研究智能体在混合使用私有文档与外部工具时的隐私泄露风险。研究发现现有模型频繁泄露敏感信息,且单纯优化任务性能会加剧此问题。团队提出 PA-DR 强化学习方法,成功将严格链路成功率提升至 58.7%,同时显著降低信息泄露率。