近日，OpenAI 宣布暂停其 AI 视频生成模型 Sora 对马丁・路德・金 （MartinLutherKingJr.） 的肖像生成。这一决定是应马丁・路德・金遗产管理处的请求而做出的，原因在于用户在 Sora 上生成了一些 「失礼」 的视频内容。
OpenAI 在其社交媒体平台 X 上发布声明称:「虽然描绘历史人物的言论自由是重要的，但我们认为公众人物及其家属应该最终控制他们肖像的使用。」 此外，相关授权代表或遗产所有者可以请求禁止在 Sora 平台上使用他们的肖像。
该限制出台之际，正值 OpenAI 刚刚推出其社交视频平台 Sora。用户可以在此平台上创造与历史人物、朋友或自愿提供肖像的用户相似的真实感 AI 视频。然而，Sora 的发布引发了关于 AI 生成视频的安全性以及如何在技术上实施保护措施的激烈讨论。
马丁・路德・金的女儿伯尼斯・金 （BerniceKing） 上周在 Instagram 上呼吁人们停止发送她父亲的 AI 视频。她的呼声与罗宾・威廉姆斯的女儿的观点一致，后者也要求 Sora 用户停止生成关于她父亲的 AI 视频。根据 《华盛顿邮报》 的报道，Sora 用户曾生成了金博士发出猴叫声和与马尔科姆・X 摔跤的 AI 视频。
除马丁・路德・金外，Sora 上还出现了许多其他历史人物的粗俗视频，包括艺术家鲍勃・罗斯、歌手惠特尼・休斯顿和前总统约翰・F・肯尼迪等。马丁・路德・金遗产管理处的许可方尚未对此事作出回应。
自 Sora 推出以来，OpenAI 还增加了其他限制。例如，10 月初，该公司表示将为版权持有者提供更细致的控制权限，以管理与其肖像相关的 AI 视频生成内容。尽管如此，在 ChatGPT 的内容管理上，OpenAI 似乎采取了更放松的方式，近日还宣布将允许成人用户与 ChatGPT 进行 「情色」 聊天。
OpenAI 在推出 Sora 时，显然在应对 AI 视频生成带来的各种担忧。OpenAI 首席执行官萨姆・阿尔特曼 （SamAltman） 表示，公司在推出当天对 Sora 感到 「忐忑不安」。OpenAI 正通过将新技术投放市场来探索如何更好地分配这一技术。
划重点:
🌟OpenAI 暂停生成马丁・路德・金的视频，以回应其遗产管理处的请求。
🤖Sora 平台上用户生成了一些不当视频，引发公众担忧。
🔒OpenAI 承诺将为版权持有者提供更细致的内容管理控制。
