引言: 随着业界为下一代生成式AI严阵以待，OpenAI为GPT-5宣布的“生物漏洞赏金”计划，着实令人玩味。尽管此举表面上是为了负责任地部署人工智能，但这项在高度敏感的生物领域，为发现“通用越狱”漏洞提供一笔微薄奖金的倡议，反而对人工智能安全和企业问责制的真实状况，引发了更多疑问而非解答。

核心提炼

• OpenAI公开呼吁在生物领域实现“通用越狱”，这表明GPT-5中存在一个重大的、公认的安全漏洞，内部红队尚未能完全缓解。
• 为揭露一个潜在灾难性缺陷而提供的25,000美元相对微薄的奖励，这表明要么是对风险的严重低估，要么是一个旨在外包关键安全研究的战略性公关举动。
• 关注“通用越狱”意味着GPT-5内部存在根本性的架构或对齐挑战，而仅靠基于提示词的赏金不太可能解决这些问题，尤其是在处理两用生物信息时。

深度解读

OpenAI决定为GPT-5推出“生物漏洞赏金计划”，这被视为一项主动措施，但在经验丰富的观察家看来，这更像是公开承认其内部面临的严峻挑战。对于一家市值数百亿美元的公司来说，依靠外部研究人员去发现一个具有潜在生物滥用能力的模型中的“通用越狱提示”，却只提供区区2.5万美元的奖金，这令人难以置信。这不是消费者应用中的一个小漏洞；它是一个旨在处理人类最敏感知识的系统中的基础性漏洞。

“生物”方面尤其令人不寒而栗。尽管具体细节模糊不清，但其含义是，GPT-5可能通过一个简单的绕过方法，被迫生成危险的生物信息，无论是合成病原体的指令，还是可能引发公共卫生危机的虚假信息。这种悬赏的存在本身就表明，OpenAI广泛的内部安全协议和红队（攻击模拟）工作要么未能奏效，要么正在被外部廉价劳动力战略性地补充。传统的软件公司为操作系统中的关键零日漏洞提供数百万美元的奖励；对于一个具有潜在生存风险的AI，2.5万美元与其说像是对顶级安全研究的认真激励，不如说更像是一种象征性姿态，甚至可能是一种巧妙的公关手段，同时将复杂问题转嫁出去。

此举也凸显了开发强大AI所固有的张力。像OpenAI这样的公司承受着巨大的压力，需要发布尖端模型以保持其竞争优势，而这往往是在充分理解或减轻其风险之前进行的。因此，漏洞赏金计划具有双重目的：它确实能发现一些漏洞，但它也营造出严格安全措施的表象，即使这些措施本质上是被动的且依赖外部的。它让OpenAI可以说“我们邀请全世界来破解它”，这听起来很负责任，但巧妙地回避了为什么其内部流程未能自行发现如此关键的“通用越狱”的问题。实际影响可能深远：如果此类漏洞未被修复，或者在赏金计划之外落入不法分子之手，后果可能是灾难性的，远远超过所提供的任何经济奖励。

对比观点

尽管持怀疑态度是情有可原的，但有人可能会认为OpenAI的生物漏洞赏金计划是一个真正透明且负责任的举动。无论是多么庞大或资源充足，没有任何一个组织能够预见GPT-5这样复杂系统可能出现的每一种潜在误用或利用方式。通过邀请全球多元化的研究人员社区，OpenAI正在利用更广泛的专业知识和创造力资源，这可能会揭示内部团队可能因盲点或群体思维而忽视的漏洞。在这种观点看来，25,000美元的奖金仅仅是一种象征性的激励，研究人员真正的动机是为全球AI安全做出贡献，并因发现重大缺陷而获得认可。此外，这一举措还表明了其对开放科学和主动安全的承诺，让公众参与到在先进人工智能广泛部署之前确保其安全的这项关键任务中。这是一个解决难题的务实方法，它承认了内部红队测试的局限性，并采纳了研究社区的集体智慧。

前景探讨

在未来一两年内，我们可以预计，针对高级AI模型（尤其是那些具备敏感能力的模型）的漏洞赏金计划将成为常态。然而，此类计划的有效性在很大程度上将取决于所提供的激励措施以及所涉风险的严重程度。需要克服的最大障碍将是超越对“越狱提示”的被动修补，转向真正根本的AI对齐。当前的做法就像在不断流血的伤口上贴创可贴，治标不治本。我们必须解决那些最初就导致“通用越狱”出现的深层架构问题，而不是仅仅指望外部研究人员发现绕过方案。此外，监管环境将难以跟上步伐，可能导致零散的指导方针，未能解决能够生成生物相关信息的模型所带来的系统性风险。真正的考验将不是漏洞赏金能否发现缺陷，而是行业能否从根本上构建出安全且从一开始就与人类价值观对齐的AI。

---

原文参考: GPT-5 bio bug bounty call (OpenAI Blog)

Read English Version (阅读英文版)