InfoQ 中文T2·智能体与协同
62 分
Docker 发布智能体安全指南,将提示词注入、工具滥用与投毒、过度自主、凭证泄露和数据窃取列为五大风险,并指出共同根因是智能体可在运行时自主选择工具、串联操作且通常以启动者权限运行。Docker 认为仅靠模型约束无法可靠区分合法与注入指令,主张以隔离和治理作为主要防御手段,限制被劫持智能体可触达的资源范围。
开放 Web 应用安全项目,发布应用安全标准与智能体式 AI 威胁指南
Docker 发布智能体安全指南,将提示词注入、工具滥用与投毒、过度自主、凭证泄露和数据窃取列为五大风险,并指出共同根因是智能体可在运行时自主选择工具、串联操作且通常以启动者权限运行。Docker 认为仅靠模型约束无法可靠区分合法与注入指令,主张以隔离和治理作为主要防御手段,限制被劫持智能体可触达的资源范围。