IT之家 · 智能时代 · 2026/10/9 07:31:17
Anthropic 修订 Claude 政策：新增禁止虐待条款并扩大武器与监控禁令
出处作者 / 发布主体：IT之家
42AI 研判分
核心综述
Anthropic 宣布将于 2026 年 11 月生效的新版使用政策，首次明确禁止用户对模型实施“持续且不必要的虐待”，同时大幅收紧在武器开发、自主车辆控制及未经同意监控领域的限制。新规则强调对连接物理硬件的 AI 需有人类监督，但豁免了常规抱怨、黑暗创作及研究测试场景。
报道全文原始报道全文
10 月 9 日消息，科技媒体 The Verge 今天（10 月 9 日）发布博文，报道称 Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。
执行机制方面，Anthropic 表示主要方式为终止对话，但并未明确时候会引入用户封禁等进一步措施，并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。IT之家附上相关截图如下：
Anthropic 扩大武器禁令范围，涵盖使武器运转的软件与组件，以及武装无人机和其他自主车辆等行为。公司称已发现多起利用 Claude 开发武器指导或控制软件的尝试。
监控条款明确禁止未经同意追踪个人，无论实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象，也不得用于构建或改进监控工具。
Anthropic 还规定，当 AI 连接至可能造成伤害的自主物理硬件时，必须由合格操作者观察设备并在必要时停止。对于特定政府客户，公司可在合同限制与安全措施充分时调整规则。