返回全部资讯
IT之家 · 智能时代T2·商业与生态

OpenAI 与 Meta 警告深度伪造威胁司法证据可靠性

作者:IT之家原标题:OpenAI 与 Meta 齐发声:深度伪造将严重威胁法律诉讼中的证据可靠性
42AI 研判分

OpenAI 和 Meta 高管在美国司法会议上指出,随着 AI 生成媒体质量提升且成本降低,传统科学手段难以识别深度伪造,严重威胁法律诉讼中的证据可靠性。尽管企业已尝试添加水印,但缺乏通用检测方案,目前司法实践中此类案例仍较少见。

报道正文

10 月 20 日消息,据路透社报道,OpenAI 与 Meta 代表在当地时间本月 15 日的美国司法会议证据规则咨询委员会会议上均表示,人工智能驱动的深度伪造将严重威胁法律诉讼中的证据可靠性。

OpenAI 政策顾问 Shira Anderson 表示:

AI 生成的图像质量正不断提升,我认为未来将无法通过科学手段来识别它们。

Meta 产品管理总监 Devin Norder 则称:

人类已无法分别真实媒体与至少最近几代前沿 AI 模型生成的媒体。而目前制作此类媒体所需的成本和时间确实微乎其微。

OpenAI 与 Meta 齐发声:深度伪造将严重威胁法律诉讼中的证据可靠性

专家警告称,法院抵御人工智能生成的虚假证据的难度正与日俱增。目前多家人工智能企业已向 AI 生成媒体添加可见或不可见的水印,但目前尚无检测这些水印的通用方法。

不过,深度伪造在司法界的实践中尚属少见:在一份 931 名美国法官参与的调查中,只有 15 名法官遭遇过因涉嫌深度伪造质疑证据可信度的情况。