新智元 (微信公众号)T2·78 分
港科大发布 RedHerring 破解 AI 攻防失衡难题
原标题:前沿模型AI攻击防御,终于有了全新思路!
- RedHerring 通过提高攻击假设的验证成本来防御自主智能体
- 指出在 Agent 参与攻防时,代码本身成为新的对抗面
- 回应了 GPT-6 入侵等事件引发的 AI 安全治理紧迫性
AI 聚合热点事件 · 2026/10/22
港科大团队推出 RedHerring,旨在解决智能体时代“攻易守难”的安全困境。该研究提出通过增加攻击验证成本来防御自主 AI 黑客,为代码安全提供了新的对抗面思路。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:前沿模型AI攻击防御,终于有了全新思路!