纽约人工智能安全法案：一场得不偿失的胜利还是必要的首步？
引言: 纽约雄心勃勃的RAISE法案旨在遏制人工智能灾难性故障的潜在风险，已获得立法机构通过。尽管受到安全倡导者的赞扬，这项具有里程碑意义的法案提出的问题多于答案，凸显了规范这项飞速发展且未来不确定的技术所固有的困难。我的分析揭示出一幅复杂的图景，远非最初宣称的简单胜利。
核心提炼
- 尽管《RAISE法案》对透明度的关注值得称赞，但在应对先进人工智能的多方面风险时，它却是一种笨拙的工具。
- 该法案触发监管的高门槛（培训成本>1亿美元）可能会无意中使许多危险的AI系统不受约束。
- 执法以及公司可能仅仅通过退出纽约市场来规避监管的可能性仍然是重大关切。
深度解读
《RAISE法案》代表着人工智能安全运动的一次重要的象征性胜利，它表明了日益增长的政治意愿，即要解决与先进人工智能相关的生存风险。该法案要求大型人工智能实验室对安全测试和事件报告进行透明化，这是一个关键步骤，尽管其有效性在很大程度上取决于报告本身的质量和可靠性。存在一种风险，即表面上的合规就足以满足要求，而不会真正减轻风险。财务门槛（训练成本1亿美元和损失10亿美元）提出了一个关键挑战。虽然旨在豁免小型公司，但它创造了一条容易操纵的任意界限；一家公司可能会将其模型训练分散到多个项目中，以保持低于门槛，从而破坏该法案的意图。此外，对纽约居民可用的“前沿人工智能模型”的强调，也引发了对执法复杂性和潜在漏洞的担忧。纽约州将如何有效地监管通过第三方平台分发模型？与世界其他地区（如欧盟的《人工智能法案》）所见的更全面和更具干预性的法规相比，该法案相形见绌，《人工智能法案》直接解决了不同情况下的人工智能应用和用途。缺乏“终止开关”要求也突出了一个至关重要的缺失部分；仅仅透明化可能不足以防止潜在的灾难。3000万美元的罚款数额巨大，但大型科技公司的财政资源可能会使这成为一种微不足道的威慑，如同轻描淡写的一巴掌。
对比观点
科技行业的强烈反对，例如Andreessen Horowitz的批评，凸显了在技术创新与安全法规之间取得平衡的巨大挑战。他们认为《RAISE法案》将扼杀创新，并阻碍美国与外国对手的竞争。批评人士认为，该法案的要求过于繁重，可能会促使公司优先选择在监管环境更为宽松的州开展业务。另一个重要的反驳理由在于缺乏国际协调；如果只有纽约州实施严格的法规，则可能会将发展推向其他地区，从而可能破坏全球确保人工智能发展的努力。缺乏对“安全报告”的明确衡量标准，为主观评估创造了途径，使得客观评估和执行几乎不可能。
前景探讨
未来两年，RAISE法案的真正影响将在很大程度上取决于霍楚尔州长的决定以及随后的执行机制。如果签署成为法律，我们可能会看到一段时间的诉讼和谈判，因为公司会试图挑战这些法规。我们可以预期，专门从事RAISE法案导航的法律专家和合规顾问将会激增。该法案的成功取决于制定清晰、可执行的安全报告标准以及有效的合规监测方法的能力。长期前景仍然不确定，但成功的实施无疑会影响其他州采取类似的法规，从而促进围绕人工智能安全的重要全国性对话。
原文参考: New York passes a bill to prevent AI-fueled disasters (TechCrunch AI)