日本拟立法处罚前沿 AI 失控企业
原标题:日本政府考虑对前沿 AI 失控行为设立处罚措施,拟修订法律应对拒不配合的恶意企业
58AI 研判分
日本政府正推进 AI 安全监管制度改革,计划要求 AI 企业承担安全保障义务,并对发生前沿 AI 失控或网络攻击事件后拒不配合的企业发布强制执行命令乃至施加处罚。整体方案拟于今年年底前公布,监管对象范围(是否涵盖美国大模型公司)仍待讨论。
报道正文
IT之家 11 月 12 日消息,据共同社昨天报道,日本政府正考虑要求 AI 企业履行安全保障义务,并新增处罚措施应对前沿 AI 的失控风险。

IT之家从原报道获悉,日本政府计划今年年底前公布制度改革整体方案,相关内容已在某个讨论 AI 法律制度的非公开工作组会议中得到确认。此举旨在应对 AI 网络攻击、失控等重大威胁,确保政府能对拒绝协商的恶意企业采取应对措施。
目前 AI 企业的业务分工日益细化,包含基础研究、基础模型研发及用户服务等多个环节。未来日本政府将进一步讨论监管对象范围。如果将美国 AI 大模型公司也纳入监管,如何切实保护日本用户权益,也将成为亟待解决的问题。
对于发生问题后仍拒绝配合协商的企业,日本政府计划在必要时发布强制执行命令,并考虑对违抗命令的企业实施处罚,这些措施预计将主要针对前沿 AI 失控、攻击事件。