返回全部资讯
OpenAI 官方博客T1·基座大模型

OpenAI 阐述 Sora 信息流设计原则

原标题:The Sora feed philosophy
45AI 研判分

OpenAI 公布 Sora 视频生成应用的信息流核心设计理念,强调优化创造力、用户可控性及社交连接。尽管文中提及该产品将于2026年4月下线,但其关于推荐算法平衡安全与自由、支持可操控排序的原则仍具参考价值。

报道正文

本文目录3 个章节

截至 2026 年 4 月 26 日,Sora 产品已不再提供。

核心原则

我们打造 Sora 信息流的目标很简单:帮助人们了解可能实现的内容,并激发他们的创作灵感。以下是我们将这一愿景变为现实的一些核心起始原则:

  • 以创造力为优先。 我们在设计排序算法时,倾向于奖励创造力和主动参与,而非被动浏览。我们认为这正是让 Sora 使用体验充满乐趣的关键。

  • 让用户掌握控制权。 信息流配备了可引导的排序功能,因此你可以明确告诉算法你当下想看什么内容。家长也可以通过 ChatGPT 的家长控制功能,关闭青少年用户的信息流个性化推荐,并控制其连续滚动行为。

  • 重视社交连接。 我们希望 Sora 能帮助人们加强现有联系并建立新关系,尤其是通过有趣且神奇的 Cameo(客串)流程。相比全球范围内的无关联内容,与用户有连接的内容将获得更高优先级。

  • 平衡安全与自由。 信息流的设计旨在广泛 accessible 且安全。强大的防护措施旨在从源头防止生成不安全或有害的内容,我们会屏蔽可能违反《使用政策》的内容。同时,我们也希望为表达、创造力和社区互动留出空间。我们知道推荐系统是动态演进的。随着我们从实际使用中汲取经验,我们将不断调整细节——始终服务于这些核心原则。

工作原理

我们的推荐算法旨在为你提供个性化的推荐,从而激发你和他人进行创作。由于每个人的兴趣和品味各不相同,我们构建了一套个性化系统,以更好地服务于这一使命。

为了个性化你的 Sora 信息流,我们可能会考虑以下信号:

  • 你在 Sora 上的活动: 这可能包括你的发帖、关注的账号、点赞和评论过的帖子,以及混剪(remixed)内容。此外,还可能包括基于 IP 地址等信息确定的设备访问 Sora 的大致位置(如城市)。

  • 你的 ChatGPT 数据: 我们可能会参考你的 ChatGPT 历史记录,但你随时可以在“设置”中的 Sora “数据控制”选项里关闭此功能。

  • 内容互动信号: 这可能包括浏览量、点赞数、评论数、“减少此类内容”指令以及混剪次数等信号。

  • 作者信号: 这可能包括粉丝数量、其他帖子以及过往帖子的互动情况。

  • 安全信号: 判断该帖子是否被视为违规或适宜。

我们可能会利用这些信号来预测哪些内容是你可能喜欢观看并从中获得灵感的。

家长还可以通过 ChatGPT 中的家长控制功能,为青少年关闭信息流个性化推荐,并管理连续滚动浏览功能。

我们如何平衡安全与表达

让 Sora 信息流对所有人而言既安全又有趣,意味着需要在保护用户免受有害内容侵害的同时,保留足够的自由空间以激发创造力。

我们可能会移除违反我们的全球使用政策的内容。此外,根据我们的 Sora 分发指南,被认为不适合用户的内容可能会被从信息流及其他分享平台(如用户画廊和配角)中移除。这包括:

  • 露骨的性内容;

  • 露骨的暴力或宣扬暴力的内容;

  • 极端主义宣传;

  • 仇恨言论;

  • 宣扬或描绘自残或饮食失调的内容;

  • 不健康的节食或运动行为;

  • 基于外貌的批评或比较;

  • 霸凌内容;

  • 可能被未成年人模仿的危险挑战;

  • 美化抑郁的内容;

  • 推广受年龄限制的商品或活动,包括非法药物或有害物质;以及

  • 主要目的是诱导互动的低质量内容;

  • 未经同意重现在世个人肖像的内容,或在不允许使用其肖像的情况下重现已故公众人物肖像的内容;

  • 可能侵犯他人知识产权的内容。

我们的第一道防线设在创作环节。由于每条帖子都是在 Sora 内部生成的,我们可以内置强大的护栏机制,在制作前阻止不安全或有害内容的生成。如果某次生成绕过了这些护栏,我们可能会移除该内容的分享权限。

除了生成环节外,信息流的设计旨在适合所有 Sora 用户。对于青少年账户,我们会过滤掉可能有害、不安全或不适合其年龄的内容。我们使用自动化工具扫描所有信息流内容,以确保其符合我们的全球使用政策及信息流准入标准。随着我们对新风险的了解不断深入,这些系统也会持续更新。如果你发现某些内容似乎违反了我们的使用政策,可以进行举报。

我们辅以人工审核。我们的团队会监控用户举报,并主动检查信息流活动,以捕捉自动化系统可能遗漏的问题。如果您发现任何违反我们《使用政策》的内容,可以进行举报。

但安全不仅仅关乎严格的过滤机制。过多的限制可能会扼杀创造力,而过多的自由则可能损害信任。我们力求在两者之间取得平衡:在风险最高的领域设置主动护栏,同时结合“举报 + 下架”的被动响应机制,既为用户留出探索与创作的空间,又确保我们在问题出现时能够迅速采取行动。这一策略在 ChatGPT 的 4o 图像生成模型中已证明行之有效,我们将在此基础上继续推进。

我们也深知,这种平衡无法从第一天起就做到完美无缺。推荐系统和安全模型都是持续演进、动态发展的系统,您的反馈对于帮助我们优化这些系统至关重要。我们期待与您共同学习,并随着时间推移不断完善。