赛富时人工智能的“同理心”：我们是不是在把标配当作突破来庆祝？
引言: 赛尔斯福（Salesforce）宣称其AI智能体取得了重大里程碑，吹嘘将支持服务量削减了5%，并发现机器人具有了“同理心”。然而，在公司内部的祝贺声中，他们的发展历程所揭示的，与其说是革命性AI的突破，不如说是客户服务中那些持久而不便的真相，以及当前人工智能令人惊讶的局限性。
核心提炼
- 备受赞扬的客户支持工作量5%的减少，虽属积极进展，却掩盖了为实现哪怕是微小的人工智能效率提升，所必需的巨大而不起眼的人力付出和基础数据治理。
- 人工智能“同理心”这一概念，主要体现在为机器人编程，使其具备基本的软技能，这揭示了当前的大型语言模型距离真正的理解有多远，以及我们对对话式人工智能的期望往往有多低。
- 赛富时（Salesforce）意识到，更多的人工转接是有益的，这突显了人工智能目前作为精密助理或分诊工具的角色，挑战了在复杂客户支持中盛行的全面自动化论调。
深度解读
Salesforce近期关于其Agentforce AI系统的声明，被宣扬为企业AI自主化的一场凯旋进军，然而，更深入的审视却揭示了一个更细致入微、坦率地说，也没那么革命性的真相。虽然支持案例量减少5%以及500名工程师的重新部署无疑是效率提升，但在AI雄心壮志的宏大图景中，这些是否称得上真正的“重大里程碑”，抑或仅仅证明了即使是微小的进步也需要巨大的基础工作？
强调教导机器人说“对不起”尤其说明问题。这并非人工意识或真正同理心的突破；而是在基本人际互动中来之不易的经验。Salesforce最初部署了冷冰冰、只讲事实的客服机器人，结果发现客户更喜欢礼貌和对他们挫败感的认可。将“服务艺术”——即软技能培训——融入AI提示中，本质上是一种复杂的模仿形式。这揭示了面向客户的有效AI之路并非关乎神奇的感知能力，而是费力地编程模拟人类社交礼仪的对话模式。这凸显了AI目前仍然是人类设计的镜子，即使它不理解人类沟通协议，当它遵循这些既定协议时，表现最佳。
从备受赞誉的1%人工转接率到“好得多”的5%这一反直觉的转变，或许是最深刻的见解。最初对最少人工干预的沾沾自喜，暴露出一个关键缺陷：客户因AI无法解决复杂问题而感到沮丧，导致体验下降。通过使客户更容易联系到人工，Salesforce承认了一个基本事实：AI擅长模式匹配和信息检索，但在需要真正解决问题、细致入微的理解或情商时常常力有不逮。这并非AI本身的失败，而是对其当前能力的现实评估——一个强大的分诊和信息传递系统，但尚未能在所有场景下全面取代人工客服。
此外，“内容冲突”问题导致数千篇帮助文章被删除，这凸显了AI部署中一个常被忽视的隐藏成本。AI并不会神奇地理解混乱的数据；它只会暴露数据中的缺陷。这项“内容清理”举措表明，成功的AI实施往往取决于大量、枯燥的数据整理工作，从而将一个AI项目转变为一个复杂的数据管理项目。同样，最初严格的护栏，阻止AI讨论Microsoft Teams，因为它在“竞争对手名单”上，这凸显了当前AI控制机制的不成熟。用模糊的“符合Salesforce最佳利益”取代明确的禁止，显示出对大型语言模型解释能力的依赖，这在生产环境中是巨大的信任飞跃。
对比观点
尽管Salesforce将这些发现视为宝贵的“经验教训”，但更愤世嫉俗的专栏作家可能会认为，它们凸显了当前企业级人工智能的根本性、持续性局限。5%的降低虽然是积极的，但却引出了真正的投资回报率（ROI）问题，尤其考虑到在内容清理、提示工程以及谨慎的分阶段部署中投入的隐性人力资本。当预算并非Salesforce规模时，每家企业都能负担得起投入数百小时来清理内容或完善防护措施吗？此外，教机器人说“对不起”是真正的进步，还是巧妙地降低客户期望，引导他们接受模拟的同理心作为人类情感联系的替代品？这里存在一条道德钢丝：公司是否仅仅是为了成本效率而训练客户容忍不那么真实的互动，从而可能从长远来看侵蚀真正客户关系的基础？
前景探讨
赛富时（Salesforce）的下一阶段，将重心放在语音接口上，无疑将带来新的机遇和全新的挑战。虽然语音交互提供了更自然的用户体验，它也引入了在延迟、口音识别和辨别情感语调方面的复杂性——这些问题可能轻易地破坏当前“礼貌型机器人”的成功。未来1-2年内，企业级AI代理的现实前景并非完全自主，而是混合模型的持续演进。最大的障碍将不再是原始计算能力，而更多地在于完善AI与人类代理之间复杂的“共舞”。这包括持续、彻底的数据质量管理（一项永无止境的任务），开发更复杂、更具上下文感知能力的AI控制机制，并将AI无缝集成到现有、往往错综复杂的企业系统中，同时不产生新的摩擦点。真正的创新并非AI取代人类，而是AI成为日益精密的副驾驶，增强人类能力以提供更好、更高效的服务。
原文参考: Salesforce used AI to cut support load by 5% — but the real win was teaching bots to say ‘I’m sorry’ (VentureBeat AI)