索拉的社交飞跃：OpenAI 正在打造一个“ChatGPT 时刻”，还是一个内容审核怪兽？
引言: OpenAI的最新尝试——一款名为Sora的社交视频应用，旨在通过让用户在征得朋友同意后进行“深度伪造”，从而开启“视频生成领域的ChatGPT时刻”。尽管普及AI视频创作的承诺颇具吸引力，但这种进军社交媒体的举动，凭借其固有的病毒式传播特性和复杂的人际动力，引发了远超技术能力的深层问题。我的怀疑天线正在颤动；这不仅仅是关于有趣的混剪，它关乎数字身份和信任的根本。
核心提炼
- “同意”模式尽管看似稳固，但在病毒式社交分享以及用户解读中不可避免的灰色地带的背景下，正面临前所未有的挑战，它有可能沦为法律上的挡箭牌，而非对个人提供切实保障。
- OpenAI进入社交媒体，将AI视频生成范式从一个创意工具根本性地转变为一个承载巨大内容审核和伦理责任的平台，为企业管理AI驱动的数字形象开创了新先例。
- 内容平台声称要让“X级或极端”内容“无法生成”，这是一种惯用的说法，而历史经验表明，此类限制在大规模执行时极难完美实施，甚至不可能，这预示着一场重大的内容审核战役。
深度解读
OpenAI最新版的Sora，被包装成一款类似TikTok的社交应用，试图进行一场走钢丝般的表演：将强大的深度伪造技术投放至社交平台，同时试图通过一种“同意”机制来控制其固有风险。用户可以自愿贡献自己的肖像用于“客串”，从而成为所生成AI内容的“共同所有者”，这个想法在概念上很巧妙。然而，用户赋能与企业责任之间这种错综复杂的平衡，一旦离开了新闻发布会的受控环境，进入社交媒体的狂野洪流，便充满了危险。
将其与现有平台相比，Sora的Remix功能类似于TikTok的合拍功能，但Sora并非拼接用户生成的素材，而是允许创建全新的、合成的个人形象。这不仅仅是添加滤镜；而是利用了一个能够实现惊人逼真度的生成模型。“ChatGPT时刻”的比喻听起来更像是营销上的虚张声势，而非清醒的评估。ChatGPT主要处理文本，这是一种具有既定规范的媒介，而且至关重要的是，它对个人身份的影响不如视觉深度伪造那样直接和本能。当你的数字面孔可以被操纵和传播时，其风险截然不同。
现实世界的影响是巨大且令人不安的。尽管OpenAI向我们保证会对公众人物和“极端”内容进行限制，但这些往往只是抵挡不断上涨潮水的临时堤坝。我们已经看到，即使是功能不那么复杂的生成技术，平台多年来也一直在与虚假信息、骚扰和未经授权的内容作斗争。成为“共同所有者”和能够“删除”内容的概念听起来令人安心，但互联网的“不灭墨水池”却是出了名的深。一旦你的10秒肖像深度伪造视频被混剪、下载或截图，其传播就超出了任何单一实体的有效控制。当一个“经同意”的深度伪造视频在意想不到的语境中走红，或者被巧妙地修改以传达不同的信息时，会发生什么？“同意”模式很快就会演变成一个复杂的法律和道德泥潭，可能会将滥用行为的监管责任推回给肖像被利用的个人，而非提供该平台的实体。此举不仅仅关乎视频生成；更是关于开创数字身份操纵的商业化和社会整合，以及随之而来的一切不可避免的后果。
对比观点
有人可能会说，OpenAI 正在真诚地尝试负责任地创新，为生成式AI融入社会互动开辟一条新道路。支持者会强调“同意”和“共同所有者”功能是行业领先的保障措施，旨在赋能用户，让他们在AI时代对自己的数字肖像拥有前所未有的控制权。他们可能会设想一个未来，这项技术将解锁全新的创意表达、协作式叙事和个性化娱乐形式，远远超越传统视频平台所能提供的。竞争对手甚至可能会将OpenAI的大胆举动视为一种旨在获取先发优势的策略性风险，目标是在更严格的法规出现之前，在一个蓬勃发展的社交AI领域建立市场主导地位。对短视频（10秒）的关注以及最初的区域性推出，可能被视为对待一项敏感技术的谨慎迭代方法，让OpenAI在更广泛的全球发布之前进行学习和适应。从这个角度来看，“视频领域的ChatGPT时刻”不仅仅是炒作，而是一个合理的愿望，希望出现一个能从根本上改变我们与数字媒体互动方式的工具。
前景探讨
Sora未来一到两年的现实前景充满动荡。OpenAI很可能会面临持续不断的内容审核难题，挑战其“不可能生成”主张的极限。即使有同意机制，我们也可以预见到一些高度关注的滥用事件，这将考验数字肖像所有权和平台责任的法律边界。“共同所有者”的概念虽然引人入胜，但几乎肯定会在法庭上受到挑战，因为用户会寻求对其已同意但随后被利用或滥用内容的追索。用户的接受度将很大程度上取决于其新奇性，以及OpenAI如何在不可避免的伦理争议中，维持安全和有趣的认知。最大的障碍将不是技术性的，而是法律、伦理和社会层面的。在一个充斥着AI生成肖像的世界里，如何管理对信任、个人隐私以及身份定义本身的长期影响将是至关重要的。最终，Sora的成败与其说是取决于其技术实力，不如说取决于它驾驭人类行为和法律先例险恶水域的能力。
原文参考: OpenAI’s new social video app will let you deepfake your friends (The Verge AI)