共计 1976 个字符,预计需要花费 5 分钟才能阅读完成。
AI 的监管问题一直是备受关注的焦点,近日,围绕加利福尼亚州议会的一项 AI 监管法案,硅谷可谓是吵翻了天。
泰斗专家力挺监管立法
上周三,一群在计算机领域声名显赫的功勋学者教授联名签署公开信,支持加州议会的 AI 安全监管法案。这些学者教授在人工智能领域作出了奠基性研究,尤其在神经网络和深度学习方面贡献杰出,在 AI 行业地位极高,其意见受美国政府及整个 AI 行业重视。
签署者包括被誉为“人工智能之父”的杰弗里·辛顿、“深度学习之父”约书亚·本吉奥、撰写最早 AI 教材的斯图亚特·罗塞尔以及互联网立法专家劳伦斯·赖斯格。他们表示,若缺乏足够重视与监管,下一代 AI 系统研发可能存在严重风险,认为加州这一法案是有效监管该技术的基本要求。
辛顿和本吉奥此前就曾公开支持 SB 1047 法案,此次因该法案遭受诸多反对而再次表态支持。
李飞飞吴恩达反对过度监管
不少计算机科学专家公开反对目前的 AI 监管法案,斯坦福计算机教授李飞飞上周在《财富》杂志发表评论文章,明确反对加州这一监管法案。她认为该法案会伤害新生的 AI 生态系统,尤其是公众领域、学术以及小科技部分。
李飞飞表示自己不反对 AI 治理,但 AI 监管政策须支持开源开发,提出统一合理规则,而 SB 1047 未达此标准,希望与加州议员合作制定 AI 监管立法。
李飞飞的同事吴恩达虽未激烈反对,但也委婉表示法案很多条款让自己无所适从。
AI 监管立法势在必行
自今年 2 月加州议会提出该法案后,硅谷就 AI 监管问题争论不休。该法案由加州参议员斯科特·维纳提出,要求加州 AI 公司训练大模型时进行严格安全测试,实施完善安全措施以降低灾难风险。
SB 1047 在加州立法讨论中进展顺利,此前民意调查显示,高达 77% 的加州选民支持对 AI 立法,55% 的选民强烈支持对 AI 公司进行强制安全检测。
此法案只针对在 AI 大模型研发投入超 1 亿美元的公司,谷歌、Meta 等知名公司在监管范围内,且无论公司总部是否在加州,只要在加州有业务就受监管。
此前调查显示,几乎所有受访者认可政府应对 AI 技术威胁进行监管,在 AI 可能带来的风险中,隐私问题和安全性、虚假信息问题等被多次提及,多数受访者还认为科技公司应为使用用户信息训练 AI 大模型付费。
美国国会及拜登政府去年开始研究 AI 监管,联邦贸易委员会多次调查相关公司,但因大选阶段两党无暇顾及国会立法,AI 监管立法或许只能交给明年上台的新一届政府和国会。
美国各地有 400 多个与 AI 相关的法案正在拟定,加州除 SB 1047 法案外,还有 30 个相关法案在立法初期讨论阶段,涉及保护知识产权、阻止 AI 色情内容、保护儿童数据等方面。
硅谷 AI 行业强烈反对
在 SB 1047 的监管对象层面,多数硅谷 AI 公司和创投行业反对该法案,Meta、谷歌、微软等巨头通过游说希望修改法案或阻止其通过。
微软表示法案监管架构根基未到位,通过可能让 AI 领域错失投资、带来误导结果,使行业失去研发专注资源。
风投机构安德森·霍洛维茨指出法案要求不可能完成,若通过,多数创业公司会选择搬迁到对 AI 行业更友善的州。
知名 AI 创业公司 Anthropic 致函维纳,表明不支持目前监管法案,希望缩小范围,专注于让 AI 公司为造成的灾难承担责任,而非强行规定其应采取的安全措施。
旧金山担忧 AI 公司逃离
旧金山是美国 AI 领域创新地,诸多 AI 创业公司集中于此且不断扩张。但来自旧金山的议员却率先提出法案要求监管限制这些公司。
维纳的法案引发旧金山热议,很多人担心会打压 AI 行业,损害本就低谷的旧金山经济。
旧金山经济严重依赖科技行业,2021 年近五分之一雇员工作于科技行业,但近年因治安问题,越来越多科技公司搬离,如马斯克的 X。今年第二季度旧金山市区写字楼空置率高达 36.8%,创历史新高。
而 AI 是旧金山为数不多还在增长的亮点行业,今年第一季度 AI 行业新租赁大量写字楼。曾担任旧金山市长的法瑞尔公开表示法案可能扼杀新兴 AI 产业,呼吁将 AI 监管职责交给联邦政府。硅谷最具影响力的创业训练营 Y Combinator 的 CEO 陈嘉兴也批评相关政策,称 SB 1047 法案可能损害加州留住 AI 人才、吸引 AI 公司的能力。
营造恐慌和危言耸听?
虽遭到硅谷 AI 行业强烈抵制,但 SB 1074 在加州立法通过的可能性增大,很多支持者不相信法案会扼杀 AI 行业创新。
非盈利网络权益保护机构 Encode Justice 表示,硅谷科技行业认为监管会迫使创新离开加州的说法误导且危险,SB 1047 法案只针对投入上亿美元研发 AI 模型的公司,多数创业公司不受影响。
法案提出者维纳称认为 AI 监管法案会杀死 AI 行业的说法是在营造恐慌,他是 AI 拥护者,为旧金山成为 AI 创新中心骄傲。今年 7 月底他到 YC 旧金山总部解释法案,但未得到听众太多认同。他不相信科技公司会因监管离开硅谷,还提到 2018 年加州出台互联网数据隐私法案时科技公司的态度,如今科技公司仍在加州且增长强劲。