引言: 人工智能的炒作周期仍在狂热地持续翻腾，许诺着无限的创造力和效率。然而，在严肃的技术项目一线，一场悄然但有力的反抗正在酝酿，它对人工智能生成内容的质量提出了令人不安的疑问。当我们从海量信息中仔细甄别时，一个关键的认识正逐渐清晰起来：并非所有人工智能产出都是同等质量的，坦率地说，其中很多是数字“糟粕”。

核心提炼

• 一个重要的技术项目（Asahi Linux）已明确声明某些生成式人工智能输出“不适合使用”，这预示着更广泛的行业正从单纯追求数量转向更注重质量。
• 这一立场彰显了对生成式AI不加批判应用的日益增长的怀疑，挑战了所有AI生成内容都具有内在价值的论调。
• 核心挑战在于人工智能偏好表达的流畅性，而非事实准确、细致入微或原创性，这导致大量平庸、误导性乃至彻头彻尾的错误“糟粕”泛滥成灾，既浪费人类时间又损害知识的完整性。

深度解读

从Asahi Linux这类项目中，关于“粗制滥造的生成内容”被“认定不适合使用”的理念，这不仅仅是微不足道的政策更新；它更是整个科技领域的一个风向标。Asahi Linux是一个将Linux移植到Apple Silicon的精细工程，它依赖于精确性、深厚的技术理解和可验证的信息。在这样的环境中，那些优先考虑统计学上的流畅性而非事实准确性或细致理解的AI生成内容——无论是代码片段、文档、错误报告，还是论坛讨论——都将成为一个实实在在的阻碍。

“为什么”的根源在于大型语言模型及其他生成式AI的当前状态。尽管它们在综合信息和模仿人类交流模式方面令人印象深刻，但其根本运作机制是模式匹配，而非真正的理解。这常常导致它们的输出结果表面上正确或合理，但缺乏真正的准确性、原创性或批判性洞察力。这些模型擅长反刍训练数据中的信息，有时会编造事实、暗中抄袭，或生成平淡、通用且几乎毫无价值的散文。对于一个项目中，代码块中一个错位的逗号或文档中一个模糊的指令都可能产生连锁负面效应，此类“粗劣内容”不仅效率低下，更是有害的。

将这种抵制与早期的技术浪潮进行比较，例如90年代离岸开发初期引发的兴奋，当时成本节约有时会掩盖质量控制问题。科技行业从廉价、低质量产出的真正成本中吸取了痛苦的教训。生成式AI在其当前迭代中也呈现出类似的困境，尽管其发展速度大大加快。AI生成内容所带来的感知到的速度和成本节约，可能会掩盖人工审查、纠正的隐性开销，以及项目智力资本可能面临的侵蚀。我们正在见证一个必要的转变：从最初对AI生成能力的迷恋，转变为对其生成质量的批判性评估。实际影响是显而易见的：重视准确性、深度和真正创新的组织和社区，正日益警惕AI即时满足的肤浅诱惑。

对比观点

生成式人工智能的支持者可能会认为，将其输出称为“糟粕”是一种过于严苛和短视的观点。他们会辩称，人工智能模型仅仅是工具，而像任何工具一样，其效用取决于操作者的技能。他们会说，问题不在于人工智能本身，而在于提示不足、缺乏人工监督，或者对自主性抱有不切实际的期望。对于许多人来说，即使是“糟粕”也可以作为一个有价值的起点，克服写作障碍或加速初稿的生成，大大缩短了首次输出所需的时间，即使需要后续的人工完善。他们还会指出人工智能模型呈指数级的改进速度，表明当前的质量问题是暂时的成长烦恼，将在未来的迭代中得到解决。此外，利用人工智能提高效率的经济必要性依然巨大，使得许多组织难以简单地否认其使用，即使它并不完美。

前景探讨

未来一到两年内生成式人工智能的现实前景预示着一个两极分化的格局。一方面，在核心软件开发、科学研究和敏感法律文件等关键且高风险的领域，可能会采取类似于Asahi Linux的日益严格的政策，要求人工验证、高度完整性的内容。重点将从生成AI产出转向验证AI产出，以认识到“粗制滥造”的隐性成本。

另一方面，对于风险较低、数量庞大的任务，例如基础内容创作、营销文案或内部沟通，生成式人工智能将继续得到广泛采用。然而，即便在此类领域，也将日益强调健全的人工审查流程和发展更好的“AI卫生”。需要克服的最大挑战是多方面的：降低人工智能模型日益被其自身“粗制滥造”内容训练的风险，从而导致未来模型退化；开发出能够真正进行推理和具备原创性而非仅仅流利的AI；建立行业范围内的道德AI部署最佳实践；以及，至关重要的是，管理人为因素——抵制将速度和成本置于真正质量和完整性之上的诱惑。

---

原文参考: Generative AI. “Slop Generators, are unsuitable for use [ ]” (Hacker News (AI Search))

Read English Version (阅读英文版)