上帝公司：为什么通用人工智能（AGI）的“到来”已经是一场企业权力游戏
引言: 长期以来备受期待的通用人工智能（AGI）的曙光，一度被设想为一场深刻的奇点，正迅速被重塑为一份董事会宣言。这种玩世不恭的重新解读引发了关键问题：究竟是谁在定义智能，它又蕴含着怎样的现实价值，以及我们究竟是在见证一项科学突破，抑或只是一场战略性的企业策略。
核心提炼
- 通用人工智能 (AGI) 的定义，正从科学或哲学的探究中，沦为企业和地缘政治的战场，这正在损害其本身的意义。
- 人工通用智能（AGI）从被视为“奇点”转变为“稀松平常”，这标志着一项可能具有变革性的技术正经历令人担忧的商品化，其驱动力是市场估值而非严谨的科学共识。
- “AI垃圾生成器”与强大的创作工具同时大量涌现，凸显了当前生成式AI的悖论，并预示着未来，定义模糊的通用人工智能（AGI）可能会加速低质量数字内容的洪流。
深度解读
原文将“奇点”随意斥为“一个星期二”，这或许是过去一周AI热议中最能说明问题的观察。曾经是哲学辩论和科幻小说素材、即人工智能在所有领域超越人类认知能力的那一刻，如今却成为OpenAI与微软法律文件中的协商内容。这不只是一种语义上的转变；更是对AGI意义的深刻重塑，将其从一个关乎人类存亡的事件降格为一个企业里程碑。
谁来决定AGI何时实现？仅仅是“专家小组”将宣布“上帝”（即AGI）的说法，就暴露了当前发展路径的荒谬性。这与经验性的、可独立验证的标准无关；而是关于把关、市场控制，以及最终的知识产权。OpenAI的重组及其与微软更新的协议，并非关乎科学进步，更多的是为了建立主导地位，以利用未来一个模糊定义下的“由AGI驱动”的经济。这种模式我们以前见过：科技巨头抢占新兴技术高地，往往会制定对自己有利的参与条款。
看看Adobe Max最近的发布与之有何相似之处。一方面是真正令人印象深刻的创意工具；另一方面则是旨在用AI生成垃圾淹没社交平台的“垃圾机器”。这种两面性完美地概括了AI的现状：拥有巨大的增强和创造潜力，但同时也迅速扩张着自动化平庸内容的生产能力。如果当前远非“通用”的生成式AI，就能产生如此广泛的质量范围，那么当“专家小组”宣布AGI时又意味着什么？这种“通用智能”会仅仅是更高效地生产出更复杂的垃圾，还是会真正开创一个深刻创新的新时代？商业动机严重倾向于前者——速度和数量优先于细致入微的洞察。现实影响是真实内容和AI生成仿制品之间的界限进一步模糊，使得消费者和创作者都越来越难以辨别真相和价值。这种企业驱动的AGI定义，有可能将一个里程碑式的概念简化为产品路线图中的一个功能集。
对比观点
固然容易抱持怀疑态度，但也有人会认为，以务实的方法来定义AGI，即便不完美，也是一种必要之恶。在缺乏普遍接受的科学定义的情况下，允许OpenAI和微软等关键行业参与者建立一个框架，即便可能带有私利，也为对话、投资以及至关重要的安全防护措施的发展提供了一个起点。一个由企业组成的“专家小组”可能被视为总比毫无监管要好，尤其是在真正的通用智能所涉及的伦理影响和潜在社会颠覆方面。此外，“周二”情景固然揭开了神秘面纱，但也可被解读为将先进人工智能以受控、渐进的方式融入日常生活的积极一步，而非可能导致恐慌或失控部署的灾难性“奇点”。这种观点强调，任何定义，即使有缺陷，也能提供一个具体的目标，并促进负责任的技术进步所必需的关键对话。
前景探讨
在未来一到两年内，预计围绕AGI的叙事战将不断升级。更多的公司将声称其技术“接近AGI”，无论其实际能力如何，以利用投资者的炒作和媒体的关注。“专家小组”模式很可能会被其他联盟或政府效仿，导致关于AGI的定义出现杂乱无章的竞争，且缺乏任何明确、独立的验证。最大的障碍将是建立真正客观、透明、非利己的AGI标准，并使其获得全球科学界的普遍接受，而不仅仅是一小撮有权势的公司。与此同时，监管机构将难以跟上步伐，可能会专注于特定的AI应用，而不是试图定义或治理AGI本身。“信息垃圾机”问题将恶化，这要求我们对内容溯源和真实性提出创新解决方案，否则将面临一场全球性的数字信息危机。
原文参考: God will be declared by a panel of experts (The Verge AI)