引言: 日复一日，又一个AI“突破”声称将彻底改变我们与大型语言模型的互动方式。这次，它是一个被冠以“口语化采样”（Verbalized Sampling）之名的一句话，号称能唤醒我们日益重复的数字助理中沉睡的创造力。但这种巧妙的修补方案，究竟是真正的颠覆者，还是仅仅是在更深层架构伤口上贴的一块高明创可贴呢？

核心提炼

• 言语化采样（VS）提供了一种针对“模式崩溃”的推理时解决方案，而“模式崩溃”是一个导致AI输出重复内容的显著局限性。
• 其揭示底层概率分布的提示式方法，将范式从复杂的解码设置转变为用户友好的指令。
• 该方法主要依赖于明确的指令而非根本性的模型重训练，这引发了人们的疑问：它究竟是真正解决了人工智能创造性局限的根本原因，抑或仅仅是对现有能力进行了重新解读。

深度解读

数字世界，尤其是生成式AI领域，常常令人觉得是老生常谈。尽管大型语言模型（LLM）和图像生成器取得了令人难以置信的成就，但它们的输出却过于频繁地表现出单调的雷同性——这种现象被称为“模态坍塌”（mode collapse）。你要一个故事，得到的是熟悉的故事情节；你要一个列表，收到的却是可预测的几项内容。东北大学、斯坦福大学和西弗吉尼亚大学研究人员最近发表的一项工作提出了一种出奇简单的解决方案：在你的提示中添加一条特定指令：“生成5个响应及其对应的概率，从完整分布中采样。”他们称之为“言语化采样”（Verbalized Sampling，简称VS），据称它能解锁更丰富、更多样化的响应，而无需重新训练模型或调整内部参数。

究其核心，VS旨在解决的问题源于LLM的微调方式，特别是通过“人类反馈强化学习”（Reinforcement Learning from Human Feedback，简称RLHF）等方法。人类以其无限的智慧，倾向于偏爱熟悉、‘安全’的答案。这无意中促使模型倾向于保守、典型的输出，压制了模型在预训练期间积累的大量、常常是奇特的知识。并非模型不知道其他可能性；而是它们被训练成优先选择最“讨喜”的那些。

VS巧妙地绕过了这种根深蒂固的保守主义。它没有直接要求答案，而是明确请求答案的分布及其可能性。这不仅仅是调整“温度”拨盘以增加随机噪声；它是指示模型将其内部状态言语化，有效地迫使它承认并输出那些原本会隐藏起来的低概率选项。这是一种语义指令，挖掘了模型的潜在能力，类似于要求LLM“一步一步思考”可以提高推理能力。该文章宣称取得了显著的进步——在创意写作中多样性提高了2.1倍，更像人类的对话模拟，以及更好的合成数据生成。关键在于，它是在推理时完成的，这意味着企业无需进行昂贵的再训练。这是一个重大的实际优势，为普通用户或非开发人员提供了技术参数调整所不具备的易用性。

然而，持怀疑态度的人会发现一个关键的区别。这是否真的在使AI真正更具创造性的意义上“释放潜力”，抑或它只是提供了一种复杂的基于提示的机制，以访问更广泛的、预先存在的输出范围？底层知识库没有改变；改变的是我们查询和从中提取的方式。这就像在模型已经定义好的池塘里进行一场复杂的“钓鱼探险”，尽管使用的是一张网眼更细的渔网。

对比观点

尽管言语化采样为模式崩溃提供了一种巧妙的解决方案，但批判性视角要求我们质疑其深度。这究竟是解决AI创造力枯竭的真正方案，还是仅仅一个巧妙的语义技巧？论文指出，RLHF过程中人类偏好偏差是根本原因，导致模型抑制多样性。但言语化采样并不对模型进行重新训练或重新对齐；它只是要求模型表现出不同的行为。这不禁让人怀疑，我们并非从根本上让AI更具创造力，而只是通过迫使它揭示其不那么受青睐但确实存在的内部状态，使其看起来更具创造力。

此外，其实际应用也值得审视。以概率生成多个响应必然会增加推理成本和延迟——这对于高吞吐量企业应用来说并非微不足道的考量。文章本身也承认，模型最初可能会“拒绝”或将复杂指令解读为越狱尝试，这表明其脆弱性可能需要持续的提示工程努力。这种“一个简单句子”是否掩盖了实际部署中更复杂的维护负担？我们还必须考虑，尽管声称保持了质量，但将模型推入其分布中较低概率的“尾部”，有时是否会产生尽管多样但客观上连贯性、有用性或与用户意图对齐程度较低的输出。

前景探讨

在未来1-2年内，语言化采样（Verbalized Sampling）有望快速普及，尤其是在提示工程师、内容创作者以及合成数据生成领域的人员之间。其低门槛——仅需简单短语而非代码修改或参数调整——使其即刻易于上手。创意机构、营销部门乃至教育工作者都可能在生成更多样化的内容和场景中发现其即时价值。我们可以预见到它将被整合到许多提示工程框架中，并最终抽象为用户界面。

然而，仍有几大障碍。生成多个响应所带来的推理成本增加，将是阻碍其在企业中大规模普及的重要因素，尤其是在规模化应用时。开发者需要仔细权衡所需的多样性与计算预算。进一步的研究也将至关重要，以确保“多样性”不会无意中导致关键应用中的事实准确性或安全性下降。然而，最大的挑战可能是一个哲学问题：语言化采样能否真正推动AI超越复杂的模式匹配，进入真正的、未经提示的新颖性？或者，无论采样范围有多广，它的效力是否会始终受限于模型现有训练数据的边界？

---

原文参考: Researchers find adding this one simple sentence to prompts makes AI models way more creative (VentureBeat AI)

Read English Version (阅读英文版)