OpenAI 官方博客T1·智能体与协同
62 分
OpenAI 发布技术博客,详解 Codex 智能体沙箱的纵深防御设计:在训练与对齐之外,通过文件系统与网络权限限制约束 Codex 在本机执行的命令,用户可按任务配置读写与联网范围。官方称目标是让沙箱更易配置并利用操作系统级保护,在扩大智能体能力的同时保持人类控制权。
Defense-in-Depth
以多层独立防护叠加降低单点失效风险的安全设计原则
OpenAI 发布技术博客,详解 Codex 智能体沙箱的纵深防御设计:在训练与对齐之外,通过文件系统与网络权限限制约束 Codex 在本机执行的命令,用户可按任务配置读写与联网范围。官方称目标是让沙箱更易配置并利用操作系统级保护,在扩大智能体能力的同时保持人类控制权。
Claude Code 团队公开了其内部“AI 审查 AI”的代码协作流程,通过多层检查机制显著提升了开发效率。数据显示,在约九成代码由 AI 生成的背景下,六月至九月的合并修改量增加了一倍以上,而需要撤回的比例反而下降了四成多。该机制采用“瑞士奶酪模型”,强调人类不再逐行阅读代码,而是将精力集中在机器难以处理的宏观判断与责任界定上。
针对 MCP 协议在生产环境中暴露的严重安全盲区,提出超越单一网关的四层纵深防御架构。该方案涵盖安全工具执行、隔离管理平面、受限出站信任及通过 Manifest 固化实现的语义完整性,旨在解决仅靠入站认证无法防御 SSRF 和模式漂移等攻击的问题。
OpenAI 研究发现,前沿推理模型在生成思维链(CoT)时难以刻意隐藏或扭曲其真实推理过程。这一特性使得通过监控 CoT 来识别不安全行为成为可能,且该结论将纳入未来 GPT-5.4 Thinking 等模型的评估标准。