注意力霸权遭挑战:新型“功耗保持”模型将AI训练成本锐减98% | SAP商业AI问世,市场研究面临信任挑战

今日看点
- Manifest AI 公司的 Brumby-14B-Base 引入了“能量保留”架构,取代了注意力层,从而显著降低了大型语言模型(LLMs)的成本并提高了效率,其性能与最先进的 Transformer 模型相当。
- SAP 推出 RPT-1,这是一款预先在业务数据上训练的专用关系基础模型,使企业无需大量微调即可实现开箱即用的预测分析。
- 一项新调查显示,98%的市场研究人员每天使用人工智能,但其中39%报告存在错误,37%指出数据质量存在风险,这凸显了一个亟需人工监督的关键信任鸿沟。
主要动态
谷歌的“Attention Is All You Need”论文为现代AI奠定了基础八年后,一种全新的激进架构正在崛起,挑战Transformer的主导地位。Manifest AI发布了Brumby-14B-Base,它是Qwen3-14B-Base的一个变体,完全放弃了注意力机制,转而采用一种名为“Power Retention”(功率保持)的新颖机制。这种循环的、硬件高效的架构可以在任意长的上下文中存储和更新信息,避免了困扰基于注意力模型的二次内存增长问题。在一项令人惊叹的效率展示中,Brumby-14B-Base的再训练成本仅为4,000美元,不到同等规模传统模型从零开始训练所需成本的2%。这个拥有140亿参数的模型表现与Qwen3-14B和GLM-4.5-Air等成熟的Transformer模型不相上下,尤其在注意力机制通常会失效的数学和长上下文推理方面表现出色。这种“Power Retention”系统承诺无论上下文长度如何,都能实现每个token的常数时间计算,并且比FlashAttention2等优化过的注意力机制具有更高的硬件利用率。Manifest AI创始人Jacob Buckman强调,虽然从头开始构建成本会更高,但用这种新范式重新训练现有Transformer权重L的能力大大加速了其普及,有望使大规模AI实验变得更加平民化。
这一架构转变正值企业继续寻求量身定制的AI解决方案之际。SAP对此的回应是推出了其首个关系基础模型RPT-1。与在文本和代码上训练的通用大型语言模型不同,RPT-1在业务交易和表格数据上进行预训练,使其对企业上下文具有语义感知能力。SAP声称RPT-1能够开箱即用地执行预测分析和构建业务模型,而无需通用LLM通常所需的广泛微调。这种基于SAP专有ConTextTab架构的专业方法,旨在为财务和商业用例提供更结构化和精确的答案,直接挑战了企业需要为特定任务重新训练更广泛AI系统的必要性。
与此同时,像Zendesk这样的公司已经通过集成OpenAI的GPT-5等先进模型,推动了应用AI的边界。Zendesk的AI代理现在能够自主处理近80%的客户请求,GPT-5显著增强了它们推理、采取行动以及保持95%以上执行可靠性的能力。这使得工作流程故障减少了30%,上报事件减少了20%。Zendesk通过收购AI原生分析平台HyperArc,进一步加强了其实时智能,旨在融合结构化和非结构化支持数据,为整个公司提供前瞻性洞察和建议。
尽管取得了这些进步,AI的实际应用并非没有挑战。一项针对市场研究人员的最新QuestDIY调查揭示了一个惊人的悖论:98%的专业人士每天使用AI,其中72%每天多次使用,但显著的信任问题依然存在。近四成研究人员表示“对有时会产生错误的技术依赖性增加”,37%的人提到了“数据质量或准确性方面的新风险”。这导致31%的人花费更多时间重新检查和验证AI输出,在节省时间的同时实际上又增加了新的工作。数据隐私和安全问题也是一个主要障碍。该行业当前的运营模式将AI视为“初级分析师”,需要持续的人工监督和判断以确保可信度,这强调了原始速度必须与可验证的准确性和伦理考量相平衡。
分析师视角
Manifest AI 的“功耗效率保持”技术与 SAP 的 RPT-1 同时出现,预示着人工智能的一个关键时刻。“功耗效率保持”技术的效率有望打破注意力机制的计算和内存瓶颈,这有可能让大规模模型开发变得更加普惠,并加速超越 Transformer 单一架构的多元化发展。如果能够扩展到更大的模型,这可能会极大地重塑人工智能的经济格局。与此相辅相成的是,SAP 的 RPT-1 则例证了专业化、领域感知型人工智能日益增长的重要性,这种人工智能为特定业务任务提供了开箱即用的可靠性,超越了通用大型语言模型“一刀切”的方法。然而,市场调研结果提供了一个重要的现实检验:广泛采用并不能保证信任。准确性、透明度和数据隐私方面的持续问题突出表明,创新必须与健全的验证、伦理治理以及对人工智能局限性的清晰认识并驾齐驱。人工智能的未来可能是一个由架构突破、高度专业化应用以及一种不断演变的“人类主导”的伙伴关系组成的“马赛克”,在这种关系中,批判性判断仍然至关重要。
内容来源
- Attention ISN’T all you need?! New Qwen3 variant Brumby-14B-Base leverages Power Retention technique (VentureBeat AI)
- Forget Fine-Tuning: SAP’s RPT-1 Brings Ready-to-Use AI for Business Tasks (VentureBeat AI)
- Inside Zendesk’s dual AI leap: From reliable agents to real-time intelligence with GPT-5 and HyperArc (VentureBeat AI)
- 98% of market researchers use AI daily, but 4 in 10 say it makes errors — revealing a major trust problem (VentureBeat AI)
- OpenAI launches its Sora app on Android (The Verge AI)