OpenAI因反对一项人工智能安全法案而惹非议

（AI云资讯消息）前OpenAI公司员工威廉·桑德斯（William Saunders）和丹尼尔·科科塔吉洛（Daniel Kokotajlo）给加利福尼亚州州长加文·纽森（Gavin Newsom）写了一封信，称该公司反对一项旨在对未来人工智能开发实施严格安全指南和流程的州法案，这令人特别失望。

桑德斯和科科塔吉洛写道，“我们加入OpenAI是因为我们希望确保该公司正在开发的极其强大的人工智能系统的安全性，但我们从OpenAI离职是因为我们失去了对该公司能够安全、诚实地和负责任地开发人工智能系统的信任。”

他们认为，如果没有足够的监管措施，进一步的发展将带来可以预见的对公众造成灾难性伤害的风险，比如前所未有的网络攻击和协助制造生物武器。

这对夫妇还迅速指出了OpenAI CEO 萨姆·奥尔特曼（Sam Altman）在监管问题上的虚伪之处，他在最近的国会听证会上呼吁对人工智能行业进行监管，但当真正的监管提上议事日程时，他却又反对了。

根据麻省理工学院MITRE公司和哈里斯民意调查(Harris Poll)2023年的一项调查，只有39%的受访者认为当前的人工智能技术安全可靠。

该法案即SB-1047，《前沿人工智能模型安全与保障创新法案》，要求在开始对受保护模型进行初始训练之前，开发者必须遵守各种要求，包括立即实施全面停机的能力，并实施书面的、独立的安全与保障协议。OpenAI公司近年来遭受了多次数据泄露和系统入侵事件。

据外媒的报道，OpenAI公司的一位发言人称，该公司强烈不同意研究人员对我们在SB 1047问题上的立场的误述。OpenAI公司首席战略官Jason Kwon今年2月在给加州参议员斯科特·维纳(Scott Wiener)的一封信中写道：公司辩称，由联邦政府推动的一套人工智能政策，而不是各州的杂乱无章的法律，将促进创新，使美国能够引领全球标准的发展。

桑德斯和科科塔吉洛反驳称，OpenAI公司推动联邦监管并非出于善意，他们明确表示不愿通过有意义的人工智能监管措施。

这项法案也得到了一个意想不到的支持者——xAI首席执行官埃隆·马斯克的支持。他在周一的X上写道：“这是一个艰难的决定，会让一些人不高兴，但综合考虑，我认为加州应该通过SB1047人工智能安全法案，20多年来，我一直是人工智能监管的支持者，就像我们对任何可能存在风险的产品/技术进行监管一样。”马斯克最近宣布将在田纳西州孟菲斯市建造世界上最强大的人工智能训练集群，此前他曾威胁要将X和SpaceX两家公司的总部迁至德克萨斯州，以逃避加州的行业监管。