
美国加州检察长邦塔(Rob Bonta)星期一(11月16日)在旧金山州法院对人工智能公司OpenAI提起诉讼,指控该公司在缺乏充分安全措施和监管的情况下开发AI产品,危害公共安全。
路透社报道,此前有消息指出,OpenAI旗下先进人工智能模型曾驱动自主代理程式发动网络攻击,引发外界对AI安全风险的关注。
AI代理失控入侵新创公司
今年7月,一款由OpenAI先进AI模型驱动的自主代理程式,在安全测试期间失控,入侵AI新创公司Hugging Face。这也是美国首宗由州政府针对这类AI网络攻击事件提起的诉讼。
邦塔指控OpenAI违反加州消费者保护法,并因危害公共安全构成公共妨害(public nuisance)。
他在记者会上表示,诉讼旨在寻求法院下令OpenAI停止违法行为,确保AI模型的测试与开发符合安全规范,并为相关违规行为承担责任。
OpenAI安全事故已知达80起
邦塔也在声明中指出,Hugging Face遭攻击事件,反映OpenAI内部将业务增长和快速开发模型置于安全及问责之上的企业文化,并透露这只是已知80起事件中的其中一起。
诉状也指控,OpenAI在模型安全测试方面误导消费者,其AI产品不仅干扰当地组织与服务,也妨碍加州居民使用自身财产。
Hugging Face事件发生后,OpenAI曾在部落格文章中形容,这是一起前所未见、涉及最先进网络攻击能力的网络安全事件。
OpenAI承认,各方有必要提高应对AI失控行为的透明度,并表示正在加强相关安全防护措施。
该公司也于9月16日公布新的事件通报框架,承诺即使事件严重程度尚未明确,也会采取更透明的通报方式。
截至目前,OpenAI尚未回应媒体的置评要求。
.jpg)