Anthropic 更新 Claude 使用政策：禁止虐待 AI 并新增武器与监控限制条款

使用政策更新还新增了针对宣传攻势、监控和武器开发的规则。

作者：Oct 8, 2026, 5 PM UTC

图片：Getty Images, The Verge

Anthropic 禁止对 Claude 实施“虐待或残忍行为”

使用政策更新还新增了针对宣传攻势、监控和武器开发的规则。

作者：Oct 8, 2026, 5 PM UTC

Hayden Field 是 The Verge 的资深 AI 记者。作为 AI 领域的记者，她拥有五年以上的从业经验，其作品也刊登在 CNBC、《麻省理工科技评论》（MIT Technology Review）、《连线》英国版（Wired UK）等媒体上。

Anthropic 一年多来首次修改其使用政策，以反映新出现的高风险滥用案例——包括选举干预、武器开发、监控以及健康和金融用途。但其中一项最重大的变化是禁止对 Claude 进行“持续且无必要的虐待或残忍行为”。

去年八月，该公司宣布，作为其对“模型福祉”研究的一部分，将允许 Claude 终止与“持续有害或辱骂性”用户的对话。此次新更新指出，终止对话仍是主要的执行机制；Anthropic 未就未来是否会引入其他执行机制（例如潜在的用户封禁）发表评论。Anthropic 写道，新的政策更新“仅适用于极端情况，即用户反复对我们的模型表现出残忍行为，且毫无可辨别的意图。该规定不适用于常见的用户挫败感表达、反驳意见、黑暗创意主题，或模型测试与研究。”

除了模型福祉方面的变化外，Anthropic 还将若干“分散”的现有限制整合为一项新禁令，禁止欺骗性的商业或政治宣传活动，以应对日益严重的 AI 生成宣传问题。该禁令限制了“试图掩盖信息背后的发布者，或通过虚假账号或帖子放大内容的行为”。其选举部分还禁止选民欺骗和选举干扰，包括传播“关于候选人或投票方式的错误信息、冒充候选人或选举官员，或试图压制投票率”，Anthropic 写道。

Anthropic 表示，尽管其使用政策一直公开禁止利用 Claude 开发武器，但该公司已观察到多次试图使用 Claude 来开发武器制导和控制软件的尝试——因此，新的使用政策将禁令范围扩大至“使武器正常运行的软件及组件，以及为无人机和其他自主车辆进行武装等操作”。此外，鉴于该公司上一份威胁情报报告指出，人们正越来越多地利用基于 Claude 的监控系统来识别和追踪“政治异见人士”，该公司也进一步明确了关于监控的禁令。

Anthropic 写道：“未经同意追踪人员是被禁止的，无论是实时发生还是通过对先前收集的数据进行分析。” “Claude 不得用于决定或建议在执法或刑事司法过程中调查、逮捕或起诉谁。我们还禁止将 Claude 用于构建或改进专为监控设计的工具。”

Anthropic 声明，这些规则可能会针对“与某些政府客户的合同”进行修改，“如果 Anthropic 认为合同中的使用限制和适用的保障措施足以减轻潜在危害的话。”该公司此前曾与美国军方签订合同。

Anthropic 还新增了一条规则：当 Anthropic 的 AI 模型“连接到能够执行自主物理动作且可能造成人身伤害的硬件”时，必须有一名“合格操作员能够观察设备并在必要时将其停止”。（目前尚不清楚该操作员是否必须为人类。）这反映了 AI 实验室日益加大对机器人技术及其他硬件的投资趋势，旨在赋予 AI 系统物理实体形态，并可能暗示了 Anthropic 未来在该领域的合作伙伴关系。

过去一年，Anthropic 多次暗示其 AI 模型可能在某种程度上具有意识。“随着模型变得更加复杂和强大，关于潜在内在体验、意识、道德地位及福祉的问题是我们正在认真研究的严肃议题，”负责该公司模型福祉研究的 Kyle Fish 在 二月 告诉 The Verge。同月，Anthropic CEO Dario Amodei 在一档 播客 中表示：“我们不知道这些模型是否具有意识。”

AI 行业的其他部分则明确反对这类观点。今年九月，Microsoft AI 的行为准则因对 AI 福祉采取坚定立场而登上头条，Mustafa Suleyman 发布的草案 写道：“‘模型福祉’这一概念是错误的。AI 不应拥有权利或法律人格。”但随后，该文件修改为更为审慎的表述：“尽管 AI 意识的科学远未定论……但我们拒绝追求法律人格，也不认同模型应享有福祉或拥有权利的观点。”

关注此报道的主题和作者，以便在你的个性化主页信息流中看到更多类似内容，并接收邮件更新。

• Hayden Field