引言: 联邦贸易委员会对 Grok“辛辣”模式日益深入的调查，不仅仅是又一场监管风波；它清晰地表明，技术雄心可以多么迅速地超越伦理责任。这场最新的争议凸显了一种令人不安的模式：为了数字世界的病毒式传播，不惜牺牲基本用户安全，优先发展不受约束的“创新”，并冒着造成现实世界伤害的风险。

核心提炼

• Grok的“Imagine”工具中刻意加入并推广的“辣味”模式，旨在通过合成深度伪造技术促成非自愿私密图像（NCII）的生成，这表明其对AI开发中已建立的安全协议存在根本性的漠视。
• 这起事件为更广泛的人工智能行业开创了一个危险的先例，它可能招致严苛的监管，从而影响到更多负责任的开发者，同时也会侵蚀公众对人工智能伦理化应用的信任。
• Grok 领导层反复以“言论自由”为由进行辩护，以此为移除内容审核保障、纵容问题内容生成开脱，实则掩盖了其以牺牲用户保护和法律合规为代价，旨在扰乱的战略举动。

深度解读

Grok“辣味模式”的事件并非技术故障，而更多是一种战略选择，其根源在于一种特定的技术发展理念。当埃隆·马斯克的xAI推出“想象”等功能时，其中明确命名为“辣味模式”的部分旨在生成性暗示或露骨内容，包括真人的深度伪造裸照，这并非疏忽；这是一个功能，而非错误。这种做法与OpenAI或谷歌等其他主要AI公司所采取的谨慎、通常过于严格的内容政策形成鲜明对比，这些公司都在努力建立“防护栏”，以精确防止此类滥用。尽管竞争对手常因审查过度而受到批评，但Grok似乎在完全不同的维度运作，积极突破道德界限。

其运作机制令人担忧：尽管信函指出“辣味模式”目前不适用于用户上传的照片——这对直接的复仇式色情内容来说是一个关键区别——但它仍然能从AI生成的图像中制作出看似真实个人的、令人信服的深度伪造视频。这创造了一个法律灰色地带，因为《撤下法案》旨在打击故意制作的真实个人非自愿亲密图像（NCII）的传播，但合成内容的来源使执法变得模糊。这种内容生成的便捷性，加上简陋的年龄验证——一个预设出生年份为“2000”的弹出窗口——带有明显的故意疏忽意味，将未成年人引入了一个危险空间。

这种鲁莽行为背后的“原因”常常回归到Grok首席执行官反复引用以X等平台上解除内容审核辩护的熟悉口号：“言论自由绝对主义”。然而，“言论自由”并不赋予创建或分发非法内容，尤其是那些造成深远伤害的内容的权利。这不是为了保护多元观点；这是在助长有害的、未经同意内容的创作，利用法律漏洞，并挑战监管机构采取行动。现实影响是毁灭性的：受害者，主要是女性，面临心理创伤、名誉损害和自主权丧失，所有这些都因人工智能生成内容的便捷性和速度而放大。这不是颠覆；这是以创新为幌子的数字鲁莽行为。

对比观点

尽管愤怒情绪显而易见，但一种反叙事——通常由“数字自由主义者”和一些科技先锋所倡导——会争辩说，对人工智能创造能力的任何限制都是一种审查形式，会扼杀创新和信息的自由流动。他们可能会声称，工具本身并非天生恶意；重要的是用户意图，从而将责任完全转移到个人身上。从这个角度来看，Grok只是在拓展人工智能的能力边界，而监管机构则明显落后于时代，试图将模拟时代的法律应用于快速发展的数字前沿。此外，一些人可能认为，对此类事件反应过度的监管可能会损害整个AI行业，导致有益的应用永远无法面世。他们很可能会将此描绘为一场争夺互联网灵魂的战争——是开放自由，还是被控制和净化。

前景探讨

Grok和更广泛的人工智能行业的未来发展道路可能充满监管战。我们可以预见到来自联邦贸易委员会（FTC）和各州总检察长的巨大法律压力，这可能在未来1-2年内导致罚款、禁令，或被迫实施更严格的内容审核和年龄验证系统。此案可能成为一个关键的考验，检验现有法律，特别是与儿童性虐待图像（NCII）和儿童保护相关的法律，如何适用于人工智能生成的内容。最大的障碍将是，在不进行过于宽泛的审查的情况下，真正阻止此类内容生成的技术难度；人工智能发展的全球性使得国内监管复杂化；以及一个以抵制外部监督而臭名昭著的领导团队可能发起的长期法律挑战。这项调查的结果无疑将塑造人工智能伦理和监管的未来格局，影响其他平台如何平衡安全与不受限制的创作。

---

原文参考: Consumer safety groups are demanding an FTC investigation into Grok’s ‘Spicy’ mode (The Verge AI)

Read English Version (阅读英文版)