引言: 随着公司竞相整合生成式AI，业界越来越倡导将这些概率系统视作“新员工”——甚至配上岗位描述、培训和绩效评估。尽管治理AI的冲动值得称赞且必要，但这种精心设计的“入职”范式可能会掩盖该技术固有的不稳定性，并引入一层新的组织复杂性，而真正为此做好准备的人寥寥无几。

核心提炼

• 该文章正确地强调了模型漂移、幻觉和偏见等关键风险，因此企业AI需要健全的治理和结构化整合。
• 拟议的“类人入职”范式预示着一个重大转变，即转向专门的AI赋能团队和“PromptOps”专家，这将造成复杂的新组织开销。
• 这种做法，虽然对于当前LLM的局限性而言是务实的，但最终可能会掩盖住对更根本稳定的AI架构，或该技术更简单、确定性应用的更深层需求。

深度解读

将AI代理“入职”视作新员工的理念，具有某种吸引人的逻辑。面对为加拿大航空“编造”法律建议的聊天机器人、推荐不存在书籍的AI生成书单，或对年长申请者存在偏见的算法，对其进行规训的呼声是不可否认的。原文精准地阐述了这些真实且代价高昂的失败，强调了现代大型语言模型（LLM）概率性、适应性以及容易“漂移”的本质。事实上，任何与LLM打过交道的人都知道，它“胡编乱造”或偏离预设脚本的倾向，需要远超静态软件的监督水平。

然而，作为技术周期的一位经验丰富的观察者，我对提出的解决方案不禁感到一丝怀疑。将LLM视为“新员工”——配备“职位描述”、“绩效评估”和“指导”——与其说是一种根本性解决方案，不如说是一种精心设计的应对机制。本质上，我们正试图用人类的组织流程来管理一个根本上非人类的、模式匹配的算法。“PromptOps”真的会是新的“工程学”吗？或者，它只是对一种仍缺乏真正自主性或理解能力的技术进行的人工干预式“保姆”的复杂形式？

从历史上看，每当一项新技术展现出固有的不可预测性时，最初的反应往往是围绕它建立多层人工管理。早期专家系统，凭借其脆弱的规则集，也需要巨大的人力投入来定义、训练和维护。当前的“AI赋能”运动，尽管对风险规避至关重要，却也隐含地承认了一个重大局限：这些强大的模型仍然不可靠，无法在无人监督的情况下部署。“模型接地”、“构建模拟器”和“反馈工具化”等详尽的清单，不仅仅是最佳实践；它们承认核心技术仍然是一个黑箱，需要持续、警惕的人工干预才能使其与现实保持一致。这并非说这些努力是错误的——它们绝对至关重要——但我们必须清醒地认识到它们代表着什么：一个强大但根本不稳定的工具的全面管理框架，而非真正“入职”一个有感知能力的协作者。

对比观点

尽管“入职”框架为当前AI挑战提供了必要的应对方案，但我们也值得审视，究竟谁是这种叙述的最大受益者。AI供应商急于推销复杂的“信任层”、“治理平台”和“可观测性工具”，自然会大力倡导这种全面的方法，而这往往伴随着高昂的价格和持续的服务合同。对于许多中小型企业而言，组建一个完整的“PromptOps”团队并建立一个“AI赋能”卓越中心，可能意味着难以逾越的开销，从而抵消了AI所承诺的效率提升。

此外，过分强调这种类人化的“入职”过程，我们有助长虚假安全感甚至将技术拟人化的风险。将大型语言模型（LLM）视为有“工作描述”的“同事”，可能会无意中降低我们的批判性警惕，使我们更容易受到其错误或细微偏见的影响。根本问题依然是：大型语言模型（LLM）是一个概率引擎，而非一个能够以人类方式学习的意识实体。持续的“再训练”和“反馈循环”或许看似能“改进”它，但这些往往是对一个仍会以不可预见方式“漂移”或“产生幻觉”的系统进行的被动调整。这种持续的、高接触的管理是一种可持续的解决方案，抑或仅仅是权宜之计，直到更稳定、可审计或专用的人工智能架构从根本上出现？另一种观点认为，或许从一开始就应将更多精力放在设计本质上更强大、确定性更高的AI上，而不是围绕本质上不可预测的黑箱构建精密的管理结构。

前景探讨

在未来1-2年内，“AI的引入与赋能”范式无疑将成为任何认真负责地部署生成式AI的企业标准操作流程。我们将看到“PromptOps”专家和AI治理职位的大量涌现，这既受到监管压力的驱动，也受到实际世界中惨痛教训的推动。那些投资于稳健的RAG（检索增强生成）实施、精密的模拟环境和持续反馈循环的公司，将更有可能取得更大的成功，并更有效地降低风险。

然而，最大的障碍将是可扩展性和成本。每个团队、每个部门真的能够负担并实施这样一个劳动密集型的管理框架吗？这些混合型角色（部分是领域专家，部分是AI引导者）的人才库仍处于萌芽阶段。此外，AI固有的稳定性这一根本问题依然存在。如果模型持续容易出现“漂移”和“幻觉”现象，持续的“AI引入”和“再训练”负担将成为一个重大的运营拖累。长期来看，可能需要转向更专业化、模块化的AI设计，这些设计本身就不太容易出现这些问题；或者重新评估类人生成式AI真正适用的场景，将其应用保留给不那么关键、更具探索性的任务，在这些任务中，其概率性本质带来的弊端更小。

---

原文参考: The teacher is the new engineer: Inside the rise of AI enablement and PromptOps (VentureBeat AI)

Read English Version (阅读英文版)