Rohan Paul (@rohanpaul_ai)T2·68 分
Meta AI 负责人 Alexandr Wang：对齐难题无解，提出“可扩展监督”以智能体制约智能体
原标题：Alexandr Wang ( @alexandr_wang, Chief AI Officer at Meta): nobody knows how to solve alignment yet
- Alexandr Wang 认为 AI 对齐仍是科学界最大的未解开放问题之一，目前没有任何确切解决方案。
- 提出的核心策略是“可扩展监督”（Scalable Oversight），通过构建不断进化的监控型 AI 来制约主模型。
- Meta 已在 Muse 产品中应用该理念，部署独立的哨兵代理（Sentinel Agent）实时检查主代理的行为。