Nadella Revises AI Alignment View: Capability Does Not Guarantee Safety
Microsoft CEO Satya Nadella revised his long-held assumption on AI safety, acknowledging that increased model capability does not automatically solve alignment issues. He advocates treating AI as an internal security threat and calls for deterministic system designs and industry standards to manage unpredictability. This shift reflects deepening risk awareness among tech leaders, resonating with warnings from OpenAI and Anthropic executives.
Full Report
10 月 27 日消息，据《商业内幕》今天（27 日）早间报道，微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为，AI 系统越强大，就越容易让其行为符合人类的价值观和目标，但现在，自己不再相信两者会自然而然地同步发展。
在新一期《20VC》播客中，主持人哈里 · 斯特宾斯问纳德拉，过去一年里有什么想法发生了改变。纳德拉解释，他原本认为，随着 AI 能力不断提高，确保 AI 行为符合人类价值观和目标的“对齐”问题也会迎刃而解。
模型规模扩大带来的效果符合纳德拉的预期，AI 能力持续提升，但对齐问题依然没有得到解决。“我过去总以为，对齐问题自然就会解决。我不再这么认为了。我觉得，对齐可能是一个更棘手、性质也不同的问题。”
纳德拉曾于 10 月 10 日在 X 发文警告 AI 的风险，主张加强外部安全管控。他认为，企业应将 AI 模型视为内部安全威胁，采取防护措施时应假定模型遭到入侵。
纳德拉在帖子中写道：“我们需要通过可靠、具有确定性的系统设计、人工管控和完善的操作规程，为行为难以完全预测的 AI 模型建立防护机制。对于现有标准不足的领域，还需要制定行业标准。”
据IT之家了解，纳德拉并非唯一认为 AI 能力提升不能自动确保人类掌控 AI 的科技行业高管。OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫代伊都曾就 AI 的潜在威胁发出警告。今年 7 月，1000 多名 AI 从业者联署的一封信也警告，AI 能力的发展速度可能超过人类理解或控制它的能力。