免费用户仍然可以浏览社区创建的 AI 生成的视频。截图：OpenAI

作者 / Kyle Wiggers

编译 / Centreless

OpenAI 于本周一推出了视频生成工具 Sora，但该公司决定暂时不向大多数用户开放其关键功能，需等待进一步测试后再决定。

这一功能可以使用真人的照片或视频作为参考，生成新的视频。OpenAI 表示将仅为部分 Sora 用户提供此功能，并将在优化其“安全性策略”后才全面推出。

“利用真人照片或视频作为‘起点’生成视频的功能可能存在被滥用的风险，我们正在采取渐进式方法，以从早期使用模式中吸取经验，”OpenAI 在一篇博客文章中写道。“艺术家的早期反馈表明，这是一种他们重视的强大创意工具，但考虑到潜在的滥用风险，我们不会立即向所有用户开放。”

此外，OpenAI 也不允许用户将包含真人片段或图像的生成视频分享到 Sora 的首页发现版块。

OpenAI 技术团队成员、Sora 项目研究负责人 Will Peebles 在今天早些时候的直播演示中提到：“作为 OpenAI，我们显然是一个受关注的目标，因此我们希望防止 Sora 被用于非法活动，同时也要平衡创意表达的自由。我们意识到，这将是一个持续的挑战——可能在第一天并不能做到完美。我们采取了保守的启动策略，如果我们的审核机制不够完善，请向我们反馈。”

生成视频是一种强大的工具，但同时也颇具争议，尤其在深度伪造和虚假信息传播方面存在严重担忧。据身份验证服务公司 Sumsub 的数据显示，2022 年至 2023 年间，全球深度伪造欺诈案件增加了 10 倍以上。

为了防止滥用，OpenAI 表示 Sora 配备了一个过滤器，用于检测生成视频中是否包含未成年人。如果检测到，系统会在涉及性、暴力或自残内容的审核中采用“更严格的标准”。

所有由 Sora 生成的视频都会包含其来源元数据，这些元数据符合 C2PA 技术标准。尽管元数据可以被移除，但 OpenAI 表示，这种元数据可以帮助支持 C2PA 的平台快速检测视频是否来自 Sora。

为避免版权投诉，OpenAI 还引入了“提示重写”功能，以防止 Sora 按照在世创作者的风格生成视频。

“我们增加了提示重写功能，用于在用户尝试生成在世艺术家的风格视频时触发，”OpenAI 写道。“在这一版本的 Sora 中，我们采取了保守的策略，同时也在了解 Sora 如何被创意社区使用……虽然借鉴其他艺术家风格有悠久的传统，但我们理解部分创作者可能会有顾虑。”

包括 OpenAI 在内的多家 AI 公司因涉嫌在未经许可的情况下使用艺术家的作品训练 AI 工具而被提起诉讼。这些公司则表示，“合理使用原则”保护它们免受版权侵权指控，并声称 AI 模型并不会简单地复制创作者的作品。

在模型训练方面，OpenAI 表示 Sora 是通过“多样化数据集”开发的，包括公开可用的数据、通过数据供应商合作获得的专有数据，以及内部开发的定制数据集。今年早些时候，前 OpenAI CTO Mira Murati 曾表示并未否认 Sora 使用了 YouTube 视频片段进行训练，这似乎违反了 Google 旗下流媒体平台的使用政策。

据视频博主 Marcus Brownlee 透露，他提前体验了 Sora 系统，该系统可以通过文字提示或图像生成多种视频片段，还可以通过 Re-mix 工具编辑现有视频。Storyboard 界面允许用户创建视频序列；Blend 工具可将两个视频融合为包含两者元素的新视频；Loop 和 Re-cut 选项进一步支持创作者调整和编辑他们的视频和场景。

目前，订阅 OpenAI ChatGPT Pro 和 Plus 计划的用户可以立即使用 Sora，但仅限于某些国家的用户。

Edited by far

* 添加主编微信保持联系或入群与同行交流

（长河：hillfar，备注“公众号”）

也可以赞赏 ☕️

声明：本文为「Centreless」的编译文章，仅代表作者观点或立场，且不构成任何投资及应用建议。转载 / 翻译出于传递更多信息之目的，如涉及作品内容、版权及其它问题，请和我们取得联系。

点“在看”分享给更多好友