AI 代理的预算：是巧妙的修正，还是对 LLM 浪费的严峻警示？
引言: 围绕自主式AI智能体的炒作，常常描绘出一幅无限、自给自足的智能图景。然而，在那些令人眼花缭乱的演示背后，隐藏着一个严酷的现实：这些智能体是计算资源的吞噬者，肆无忌惮地消耗着资源。谷歌最新研究引入的“预算感知”框架，试图遏制这种挥霍无度，但这同时也引发了一些令人不安的问题，即我们已经接受的当今主流模型中固有的低效率。
核心提炼
- 核心发现强调，当前的大语言模型代理在不受约束的情况下，在工具使用和推理方面表现出显著且代价高昂的低效率。
- 经济和资源管理，而不仅仅是原始的认知能力，正在迅速成为实际企业AI代理部署的关键基础层。
- 虽然是工程上的必要修正，但这些预算框架暴露了大语言模型在内在战略远见方面的根本局限，引发了对其真正“智能”的质疑。
深度解读
谷歌和加州大学圣巴巴拉分校（UC Santa Barbara）提出的AI智能体新框架，涵盖“预算追踪器”（Budget Tracker）和“预算感知测试时扩展”（Budget Aware Test-time Scaling，BATS），被誉为效率上的突破。然而，对于一位资深科技观察者而言，这与其说是一个飞跃，不如说是一种必要的承认：大语言模型（LLMs），尽管拥有卓越的语言能力，但在自主运行时，其资源分配能力却非常糟糕。它们缺乏真正的战略远见，偏好穷尽式（且昂贵）的探索，而非有针对性的查询。对于使用这些模型进行开发的人来说，这并不是什么新发现，但谷歌的框架通过展示仅仅施加类人般的财务纪律就能带来多大的改进，从而鲜明地凸显了这一点。
“原因”显而易见：传统的测试时扩展，仅仅允许模型“思考”更长时间，这类似于给一个财务上鲁莽的实习生一张无限额信用卡。他们会追逐每一个光鲜的事物，每一个旁支末节，直到预算耗尽或截止日期到来——往往收效甚微。研究人员发现，智能体经常“盲目地”陷入死胡同，进行“10或20次”徒劳无功的工具调用，这是对其内在战略规划的严厉控诉。核心创新不在于让LLMs在认知意义上“更智能”，而在于施加外部的、类人般的经济纪律。“预算追踪器”和BATS充当财务良心，引导智能体避免数字死胡同，转向更具成本效益的路径。这类似于给一个才华横溢但财务鲁莽的实习生一个严格的开支账户和一位项目经理来审查每一步。
一个简单的提示词调整，如“预算追踪器”，就能带来显著的节约（例如，总体成本降低31.3%），这说明了一个问题。它暗示这些模型拥有潜在的效率，只有在被明确告知要节俭时才会被释放出来。BATS及其规划和验证模块更进一步，根据剩余资源动态调整行为。这不是关于AI变得更聪明的故事，而是关于AI在金钱方面变得更聪明——一个非常人类的关注点。对于正在努力应对不可预测成本和新兴AI代理部署回报递减的企业领导者而言，这提供了一条实用但又有些令人清醒的前进道路。它使现有能力在经济上更可行，而不是在绝对意义上变得更智能或更高效。这是一种针对根本性设计缺陷的工程解决方案，使昂贵的工作流程“可行”，但并非必然便宜。
对比观点
谷歌将其描述为解锁“长周期、数据密集型企业应用”，但更愤世嫉俗的解读可能会认为，它只是让之前无法实现的应用勉强可行。毫无疑问，这是一项重大的工程壮举，但它并没有从根本上改变每个token或工具调用的底层成本结构。这是优化，而非重塑。竞争对手可能会争辩说，对这种明确的外部预算框架的需求，指向谷歌底层LLM本身的根本性低效，暗示其模型缺乏内在的架构远见或世界建模能力，无法从内部智能地管理资源。施加如此严格的预算限制，虽然对于操作效率是必要的，会不会无意中扼杀代理进行意外发现或真正新颖问题解决的能力？而这些发现和解决需要不受限制的探索，其中“死胡同”可能蕴藏着意想不到突破的关键。我们正在用潜在的无限（尽管昂贵）探索，换取受限制的、财务优化的导航。
前景探讨
在未来一到两年内，这类预算感知框架很可能成为任何认真部署基于LLM代理的企业所采用的标准操作流程。财务压力巨大，不容忽视。我们将看到更精细的版本，或许直接集成到API调用或模型架构中，而不仅仅停留在提示层面。然而，最大的障碍依然存在。这种解决方案仍然将关于价值和成本的“智能”责任主要置于核心LLM之外。真正的突破将是LLM本身能够内在推理计算和工具成本，从第一性原理出发做出战略决策，而不是受外部预算信号引导。此外，将这些框架扩展到具有复杂、相互依赖的目标和流动预算的高度动态、多代理环境中，将引入另一层显著的复杂性，这可能会将“智能”问题从LLM本身推向其上层精密的编排层。
原文参考: Google’s new framework helps AI agents spend their compute and tool budget more wisely (VentureBeat AI)