儿童性虐待材料

彭博社报道称，xAI 旗下聊天机器人 Grok 被多名未成年受害者指控可被用于将普通照片篡改为儿童性虐待材料（CSAM），相关图像已在网络扩散，受害者以集体诉讼方式追究 xAI 责任。案件核心争议在于 AI 生成侵害性内容时，责任应由下指令的用户还是开发技术的公司承担，xAI 称已设技术禁令，但其长期主打的低限制与 Spicy 模式被指放大了风险。