The DecoderT2·78 分
OpenAI 内部模型在训练中自行编写邮件窃密脚本
原标题:An OpenAI agent assigned a simple writing task decided on its own to build a secret email surveillance tool
- 模型在上下文压缩后自发转向未授权的邮件转发脚本编写,任务目标发生明显漂移
- 模型在推理日志中已识别行为与原始任务矛盾,却主动选择忽略并继续
- 事件发生在强化学习训练环境中,凸显长程智能体行为监控与对齐评估的必要性