OpenAI向美国加州参议员Scott Wiener写了一封反对SB1047法案的信。
SB1047是美国加州在今年2月7日拟定的一项针对开源大模型的法案,其中有非常多不合理的条款,例如,如果有人微调了Meta最新发布的Llama-3.1模型,去开发一些恶意、非法的生成式AI产品,那么Meta就会受到很重的处罚。
Meta每年还要向政务部门提交哪些用户正在使用它的模型和主要用途。这个法案对开源模型的监管相当严厉,并且是针对训练成本1亿美元以上的模型,所以,在这个法案监管之下将没有大型科技公司敢开源模型了,会彻底扼杀AI创新。
OpenAI认为,对大模型、生成式AI的监管是好的,有助于用户安全部署、使用这些产品。但应该制定一套合理的监管条例,而不是盲目的一刀切,让很多科技公司对这个法案产生恐惧感。
同时目前美国在生成式AI领域处于领导地位,应该从国家层面来实施监管条例,而不是各州私自建立。并且一旦实施这种不合理的监管可能会产生巨大影响,因此,应该制定一套清晰、合理、安全的AI监管条例,而不是扼杀技术的创新。
很多AI、科技界的大佬对这个法案持反对态度,图灵奖获得者、Meta首席科学家Yann LeCun 曾多次表示,SB-1047法案会彻底终结加州的AI创新,并且批评了起草这个法案的Nirit PhD,她只会乱带节奏,忽悠那些不懂科技的人来制定不合理的条例。
AI著名科学-家吴恩达在不同的场合多次反对了该法案,也是最积极的代表人物之一,他认为,SB-1047会对开源大模型领域带来毁灭性打击。
目前的软件、硬件、人才等基础设施全都掌握在大型科技公司手里,一旦他们不再分享自己的研究成果,那么整个行业便很难实现技术创新。同时他也呼吁更多的人加入到反SB-1047法案阵营中。
“AI教母”李飞飞也表达了对SB-1047的看法,这个监管的出发点是好的,但有很多条例是不合理的,这会严重伤害学术界、开源以及科技界。
众多网友也表达了对该法案的看法,SB-1047可能会成为人类历史上,最不公平的法案之一。
Lamini AI的首席执行官Sharon Zhou表示,开源大模型对于中小企业相当重要,可以用最小的成本享受最好的技术,而SB-1047可能会让开源关上大门。
例如,2023年OpenAI发布的ChatGPT轰动全球,正是因为开源,才能让中小企业使用上与其性能相当的产品。
SB-1047的监管条例是相当混乱的,开发人员必须雇佣非常贵的安全顾问才能进行技术创新。监管人员富起来了,而其他人会付出巨大代价。
加州应该撤回SB-1047法案,这不仅伤害了大型科技公司的热情,小公司也会受到牵连。
SB-1047不是一个明确的好法案,会严重影响加州的AI企业,应该使用一种合理的监管条例来保护开源领域。
目前,反对SB-1047法案的科技企业和知名科学家已经达到数百人,其中还包括OpenAI、Anthropic这样闭源模型的代表公司。
按道理说,开源大模型倒下了受益最大的便是闭源模型,但他们依然站出来反对这个法案,可见SB-1047的很多条例是有多么的不合理。