引言: AI驱动的内部智能体所描绘的前景已令企业心神向往，带来了超高效、自动化工作流的愿景。然而，在快速原型开发和自然语言界面的光鲜外表之下，我们必须审慎地思考，对LLM驱动的智能体的采纳是否会开启一个充满不可预测的复杂性和难以管理的技术债务的时代，而非真正的创新。

核心提炼

• 确定性、可审计的代码驱动系统与概率型、“黑箱”式的大语言模型驱动智能体之间的根本矛盾，给关键任务型企业职能带来了严峻的困境。
• 企业常常被面向代理的LLM开发速度所吸引，却忽视了与维护其可靠性、安全性及可解释性相关的巨大长期运营成本。
• 围绕LLM驱动智能体的炒作，可能导致资源从稳健、久经考验的工程实践中转移，转而投向那些尽管新颖，但可能引入不可接受的运营脆弱性水平的解决方案。

深度解读

围绕构建内部代理——无论是用于自动化IT工单、协助合规性检查，还是简化人力资源流程——的讨论，最终总是归结为一个关键的架构选择：代码驱动与LLM驱动的工作流。几十年来，企业一直依赖前者：精心设计、明确的规则、确定性逻辑，以及一个尽管可能很复杂但最终可审计、可调试且可预测的代码库。这种传统方法，尽管在开发上被认为缓慢，但提供了无与伦比的控制和可靠性，这对于处理敏感数据或关键操作的系统至关重要。

LLM驱动代理的出现，被誉为僵化、演进缓慢的代码的解药。其吸引力是不可否认的：一个能理解自然语言、能适应意外情况，并且似乎只需较少前期“编码”工作即可启动的代理。快速原型开发和处理非结构化数据的能力成为强大的卖点。然而，一位资深专栏作家的 T 疑问立即对其中的权衡提出了质疑。人们常常忽略的是，LLM驱动代理的“简单性”很快就演变成了一个充满提示工程细微差别、检索增强生成（RAG）复杂性以及与幻觉、偏见和漂移持续斗争的泥潭。“代码”并未消失；它只是转变为复杂的数据管道、精密的模型微调，以及一个庞大的监控和防护系统生态系统，旨在从本质上是概率性的机器中获取近似确定性的行为。

此外，将LLM驱动代理集成到现有遗留企业系统中，很少是即插即用的事情。数据治理、安全协议和合规性要求往往需要当前LLM架构难以提供的透明度和可解释性。代码驱动代理的决策可以追溯到特定的逻辑行，而LLM的“推理”在很大程度上仍然不透明，使得调试、审计和验证输出成为一项艰巨的任务。这不仅仅是技术挑战；它也是一个组织挑战，影响从监管合规性到用户信任的一切。现实世界的影响是，部署LLM驱动助手的感知易用性与使其足够可靠地用于严肃内部用途所需的巨大工程和运营开销之间存在日益扩大的鸿沟。许多企业发现自己拥有令人印象深刻的演示，但在生产要求重压下崩溃，导致成本不断攀升和团队沮丧。

对比观点

LLM驱动代理的倡导者会认为，我的怀疑忽视了这些技术的革命性潜力。他们会强调，LLM在处理传统代码难以应对的多样化、非结构化数据方面提供了无与伦比的灵活性，以及简易代理可以快速上线部署的速度。对于需要创造力、总结或综合各种信息的任务，LLM代理远远超越了死板的、基于规则的系统。此外，他们认为，随着提示工程、微调和安全层面的进步，可靠性差距正在缩小，从而实现更具适应性和更像人类的交互。赋能非技术用户通过自然语言构建和调整代理的能力，可以使自动化大众化，从而在企业各个角落释放创新。他们可能会指出，“人机协作”模式是一种可行的错误缓解策略，确保关键决策始终有人工监督，从而最大限度地降低不透明的风险。

前景探讨

未来1-2年内，企业级AI的务实现实可能会引导我们走向混合方法。纯粹由LLM驱动的、用于关键高风险内部任务的智能体仍将是小众应用，或许仅限于错误影响较小的探索性数据分析或内容生成等领域。相反，我们将看到“LLM增强型”代码驱动智能体的激增，其中LLM在一个更大、确定性且可审计的代码框架内，作为特定功能（如解析自然语言查询或总结输出）的智能模块。

最大的障碍将包括开发用于LLM可观测性、调试和持续验证的稳健、标准化框架，从而使工程师能够真正理解LLM做出特定决策的原因。此外，解决AI运维（AI Ops）、提示工程和混合系统架构方面的人才缺口也将至关重要。最终，LLM驱动的内部智能体若要超越新奇感，就必须不仅展示速度，还要证明持续的投资回报率、坚不可摧的安全性，并且，至关重要的是，赢得企业员工坚定不移的信任，因为他们最看重可预测性和问责制。

---

原文参考: Building an internal agent: Code-driven vs. LLM-driven workflows (Hacker News (AI Search))

Read English Version (阅读英文版)