加利福尼亚州的人工智能法案引起了广泛的关注。尽管一些人认为在快速发展的技术面前，任何监管措施总比没有好，但另一些人则认为该法案可能会对小企业产生负面影响，并阻碍创新。
参议院法案1047，即《前沿人工智能模型的安全与保障创新法案》，要求开发成本至少为1亿美元的高级人工智能系统开发者测试其模型的危害能力，并实施相应的防范措施。该法案为大型人工智能公司的员工设立了举报者保护，并建立了CalCompute，一个为初创企业和研究人员提供负责任的人工智能开发公共云计算集群。法案需在9月30日前获得加利福尼亚州州长加文·纽森的签字才能成为法律。
加利福尼亚的人工智能法案得到了前谷歌人工智能负责人杰弗里·辛顿和加拿大计算机科学家约书亚·本吉奥等顶尖人工智能专家的支持。然而，该法案也面临批评。加利福尼亚州众议员南希·佩洛西及其他众议院成员向纽森发函反对该法案，表示“该法案对我们的州、初创企业社区、科学发展，甚至对防范与人工智能开发相关的潜在危害都没有好处。”ChatGPT开发商OpenAI也反对该法案。
“我认为对这项技术进行监管非常重要。即使某些监管措施不好，也总比没有好。”——阿维瓦·利坦，Gartner分析师
Gartner分析师阿维瓦·利坦表示，她看到了加利福尼亚人工智能法案面临的两难局面。虽然利坦认为法案对人工智能安全测试的门槛可能会对小企业造成伤害，但她仍然认为人工智能需要监管。
“我确实认为对这项技术进行监管非常重要，”她说。“即使某些监管措施不好，也总比没有好。”
加利福尼亚人工智能法案的利弊
总部位于加利福尼亚州伯灵格姆的AiFi首席执行官史蒂夫·卡林将该人工智能法案形容为“复杂”，并表示它试图解决太多问题。AiFi为零售商提供基于人工智能的优化工具。
卡林表示，加利福尼亚人工智能法案不仅包含“合理保证”和“合理安全边际”等模糊且难以解读的术语，还要求人工智能开发者根据行业最佳实践制定测试标准，但没有提供额外的指导。
“在一个仍在建立标准的全球互联行业中，这是一项重大挑战，”他说。“此外，法案并没有明确谁将执行这些规定，或他们需要具备什么资格才能理解他们所审查的技术。”
利坦认为，与其试图监管人工智能模型，更好的法案应效仿欧盟人工智能法案，专注于风险和应用。欧盟人工智能法案同样收到了积极和消极的反馈。
“我从来没有觉得对技术进行监管是合理的，”她说。“你怎么能监管数学呢？你应该监管应用。我觉得那会是一个更聪明的方法。”
利坦认为，加利福尼亚人工智能法案可能对初创企业产生负面影响，她表示初创企业可能会筹集1亿美元的资金，并因此受到法案的合规要求。她指出，监管合规成本可能会给小企业带来负担。
她补充道，今天为人工智能模型设定的任何门槛在未来几年内都可能过时，因为技术正在快速发展。
“从某种意义上说，我认为这真的会扼杀创新，还有更聪明的做法，”她说。“另一方面，你会看到像约书亚·本吉奥和杰弗里·辛顿这样的杰出人士支持该法案。当他们这样做时，你会想，‘好吧，他们知道一些我不知道的事情。'”
Forrester Research分析师阿拉·瓦伦特赞扬法案中包含的举报者保护措施，这保护了那些提供公司人工智能模型中发现问题信息的员工。她将这一措施定义为增强人工智能安全的关键。
瓦伦特表示，她也很难理解为什么法案中的一些条款，包括人工智能模型的安全测试要求，会在行业内造成分歧。她认为，人工智能不仅在技术行业中普遍存在，还在关键基础设施、政府和商业中广泛应用，因此需要进行安全测试。
瓦伦特承认，实施安全措施和人工智能模型测试需要资源，这可能是小企业面临的一个问题。虽然大公司可以将安全和保障流程融入其运营，但初创企业可能缺乏资金进行广泛的措施。然而，她表示，“做对的事情总是有成本。”
即使小企业可能在没有测试要求的情况下节省了前期成本，但它们仍然会面临未来的这些成本——甚至可能面临因公司人工智能模型带来的负面后果而受到客户起诉的风险。
“如果你在建造一座摩天大楼，难道不应该测试基础的安全性和稳定性吗？”瓦伦特说。“我不知道他们为什么要把这个问题推给未来，但这笔账迟早会算到头。”
法案为美国人工智能法律的拼凑增添了新内容
加利福尼亚并不是第一个推进人工智能法案的州。今年早些时候，科罗拉多州通过了全面的人工智能立法，而康涅狄格州的立法者也推进了一项法案，以规范私营部门对人工智能模型的部署。甚至纽约市也通过了针对算法偏见的人工智能法案。
AiFi的卡林将应对日益复杂的州人工智能法规网络形容为“初创企业的一项艰巨且昂贵的任务”。
“像SB 1047和加利福尼亚的其他法案所示的逐州方法，可能导致监管环境的碎片化，给人工智能开发者带来噩梦，”他说。“加利福尼亚试图解决一个应该由联邦政府处理的问题。”
瓦伦特表示，多个人工智能法案在联邦层面提出但未能成功，这意味着国会不太可能在短期内对联邦人工智能标准进行投票。
“如果有一个联邦替代方案来取代这种逐州的、零散的做法，我当然会欢迎，而且我认为很多组织也会欢迎，”瓦伦特说。“不幸的是，在美国，等待国会对某件事情采取行动不仅需要很长时间，而且你试图避免的后果已经发生。”
麦肯齐·霍兰是负责报道大型科技和联邦监管的高级新闻撰稿人。在加入TechTarget Editorial之前，她曾是威尔明顿星报的综合报道记者，以及瓦巴什平民报的犯罪和教育记者。
