AGI的妄想：硅谷千亿美元豪赌为何无视现实
引言: 在通用人工智能（AGI）光鲜亮丽的表象之下，一个新帝国正在崛起，它由前所未有的资本和近乎宗教般的狂热所驱动。然而，当数百亿资金被投入到一个许多专家怀疑永远不会到来的未来时，我们必须扪心自问：这些数字殿堂正以何种代价被建造，究竟谁才是真正的受益者？
核心提炼
- 人工通用智能（AGI）“造福全人类”的承诺，主要作为一种帝国主义意识形态而发挥作用，为巩固巨大的企业权力和资源开采提供正当理由，而非作为一项可验证的科学目标。
- OpenAI的“赢者通吃”心态从根本上扭曲了人工智能研究，优先考虑通过海量数据和计算进行蛮力扩展，而非根本性的算法创新、效率或安全性。
- 尽管企业投入了巨额资金，并网罗了顶尖研究人才，但人工通用智能（AGI）的实际益处却远未兑现，而与此同时，其带来的现实危害——从劳工被剥削、环境压力到社会动荡——却日益凸显。
深度解读
AGI，在其最狂热的支持者眼中，不仅仅是技术前沿；它是一种伪装成慈善使命的经济和政治策略。郝凯文的“帝国”比喻与其说是夸张，不如说是一个理解当今AI产业“为何”的关键视角：对权力、控制和资源攫取的无休止追求，所有这些都披着提升人类的崇高外衣。这在宏大技术抱负史上并非开创性的，但围绕AGI的规模、速度和近乎救世主般的热情使其具有独特的效力。
OpenAI最初声称的“有益AGI”的创立使命，据许多说法，已经演变成对市场主导地位的追求，“速度优先于一切”成为其主导原则。这不是创新；这是对地球计算极限的蛮力围攻。“智力上廉价”的路径——向现有技术投入越来越多的数据和计算力——并非独创性的证明，而是几乎无限资本供应的可用性。这种方法虽然在生成令人印象深刻的演示方面有效，但却绕过了基础算法突破的艰巨工作，并回避了效率、伦理和长期可持续性等关键问题。它相当于在技术上通过更快地堆叠更多砖块来建造摩天大楼，而不是重新设计基础以实现稳定性和韧性。
这种由企业驱动、痴迷于速度的轨迹所带来的后果是显而易见的。学术界，曾经是多元化和独立AI研究的源泉，已被掏空，其最聪明的人才被企业实验室吸收。整个学科的议程现在反映了企业的优先事项，扼杀了真正的科学探索，转而青睐产品路线图和市场份额。讽刺意味深长：尽管数百亿资金投入到这场AGI的追求中，但对“全人类”而言，切实可验证的益处在很大程度上仍停留在理论层面。相反，我们看到了非常真实的附带损害：低薪工人因恐怖内容而遭受创伤，电网不堪重负，社会结构因失业和令人信服却虚假的AI输出的泛滥而支离破碎。郝凯文尖锐地指出，Google DeepMind的AlphaFold是一个真正具有变革性的AI，其开发所需的基础设施少得多，也没有相关的伦理泥潭，这正是对该行业偏好路径的严厉控诉。“帝国”不只是在扩张；它正在将成本外部化到全球公共领域和弱势群体身上，与此同时却宣扬着一种日益脱离当下现实的未来丰裕福音。
对比观点
像郝这样的批评者描绘了一幅关于无限膨胀的野心和日益加剧的危害的严峻图景，而当前人工智能发展路线的支持者则会争辩说，此类分析忽视了已经实现的、不可否认的即时益处。像ChatGPT这样的大型语言模型（LLM），尽管存在不足，但已明确证明提高了各行各业的生产力，自动化了繁琐任务并加速了研究。这些工具极高的可及性使以前仅限于专家的能力得以普及化，赋能了数百万人。他们会辩称，对通用人工智能（AGI）的追求，尽管雄心勃勃，却是一项必要的“登月计划”——一个推动创新、拓展人类潜能边界的宏伟挑战，有望为人类最复杂的问题，从气候变化到疾病，寻得解决方案。他们认为，巨额投资仅仅是开创一项变革性技术的成本，而伴随的危害要么是暂时的成长之痛，要么是可解决的挑战，这些挑战将随着技术的成熟和监管框架的跟上而得到解决。此外，许多人仍然坚信领导人工智能竞赛的地缘政治必要性，将其视为在快速变化的全球格局中，国家安全和经济竞争力的关键组成部分。
前景探讨
展望未来一到两年，当前的轨迹表明，业界将坚定不移地致力于规模扩张，各大公司将继续向更大的模型和更多的基础设施投入数十亿美元。我们可以预见，LLM能力将进一步实现渐进式提升——例如，更细致入微的输出，更好的多模态理解——但真正的通用人工智能（AGI）仍然是一个遥远、甚至可能是神话般的愿景。最大的障碍将不再是纯技术性的，而是经济和伦理方面的。巨额计算成本将继续飙升，将真正的创新限制在少数资金雄厚的巨头手中，而日益加剧的社会和环境危害将加剧要求更严格监管的呼声，并促使人们对行业优先事项进行根本性的重新评估。OpenAI等实体内部的利润动机与公共利益之间的冲突将变得更加尖锐，可能导致进一步的内部异议或外部挑战。尽管这个“帝国”无疑将继续扩大其影响力，但其意识形态基础的裂缝——其仁慈言辞与实际影响之间日益扩大的鸿沟——将变得越来越难以忽视。关键问题将是，类AlphaFold那样更具道德和效率的替代性AI发展路径，能否获得足够的关注，从而使该行业摆脱当前资源密集且道德岌岌可危的道路。
原文参考: Karen Hao on the Empire of AI, AGI evangelists, and the cost of belief (TechCrunch AI)