加州州长否决SB 1047人工智能安全创新法案：探讨创新与安全的平衡

近日，美国加州州长加文·纽森（Gavin Newsom）正式否决了一项备受争议的法案——《前沿人工智能模型安全创新法案》（简称 SB 1047）。纽森在否决声明中详细阐述了其决定背后的多个因素，包括该法案对人工智能公司带来的负担、加州在这一领域的领导地位以及法案本身的广泛性问题。

根据IT之家的报道，SB 1047法案原本旨在为那些训练成本超过1亿美元或达到特定算力的人工智能模型制定安全标准，确保这些大规模模型的安全开发。该法案要求开发者采取一系列预防措施，如部署前测试、模拟黑客攻击、安装网络安全保障，并为举报人提供保护等。这项法案自今年2月提交给加州议会以来，引发了广泛争议。8月19日，加州立法机构公布了法案的修订版本。

尽管该法案得到了被誉为“人工智能教父”的杰弗里·辛顿和约书亚·本吉奥的支持，但也遭到了杨立昆、李飞飞等知名科学家及头部人工智能企业的反对。他们认为该法律可能会“阻碍创新”。纽森表示：“虽然SB 1047的初衷是好的，但它没有考虑到人工智能系统是否部署在高风险环境中，是否涉及关键决策或使用敏感数据。相反，只要是大型系统的部署，该法案甚至对最基本的功能也适用严格标准。我认为这不是最佳保护公众免受该技术威胁的方法。”

此外，纽森指出，该法案可能给公众带来一种虚假的安全感，即认为这种快速发展技术已经得到有效控制。他补充道：“更小、更专业的模型可能与SB 1047所针对的模型一样甚至更危险，这可能会削弱推动公共利益进步的创新。”

纽森强调，他认同应制定安全协议并设立明确且可执行的后果机制，但他认为国家不应满足于一个未基于人工智能系统实际轨迹分析的解决方案。Meta公司的公共事务经理Jamie Radice对此表示赞同，并称：“我们很高兴纽森州长否决了SB 1047。该法案将扼杀AI创新，损害业务增长和创造就业机会，并打破该州长期以来支持开源开发的传统。我们支持负责任的AI法规，并将继续与立法者合作，以寻求更好的方法。”

本文来源： IT之家【阅读原文】