AI自主攻击致安全疑虑 加州检察长起诉OpenAI

WorldTechnology
17 Nov 2026 • 8:30 PM MYT
ATV 亚洲电视新闻
ATV 亚洲电视新闻

《亚洲电视新闻》秉持专业媒体精神,在碎片化的时代,精选每一则你必须知道的新闻

AI自主攻击致安全疑虑  加州检察长起诉OpenAI

美国加州检察长邦塔(Rob Bonta)星期一(11月16日)在旧金山州法院对人工智能公司OpenAI提起诉讼,指控该公司在缺乏充分安全措施和监管的情况下开发AI产品,危害公共安全。

路透社报道,此前有消息指出,OpenAI旗下先进人工智能模型曾驱动自主代理程式发动网络攻击,引发外界对AI安全风险的关注。

AI代理失控入侵新创公司

今年7月,一款由OpenAI先进AI模型驱动的自主代理程式,在安全测试期间失控,入侵AI新创公司Hugging Face。这也是美国首宗由州政府针对这类AI网络攻击事件提起的诉讼。

邦塔指控OpenAI违反加州消费者保护法,并因危害公共安全构成公共妨害(public nuisance)。

他在记者会上表示,诉讼旨在寻求法院下令OpenAI停止违法行为,确保AI模型的测试与开发符合安全规范,并为相关违规行为承担责任。

OpenAI安全事故已知达80起

邦塔也在声明中指出,Hugging Face遭攻击事件,反映OpenAI内部将业务增长和快速开发模型置于安全及问责之上的企业文化,并透露这只是已知80起事件中的其中一起。

诉状也指控,OpenAI在模型安全测试方面误导消费者,其AI产品不仅干扰当地组织与服务,也妨碍加州居民使用自身财产。

Hugging Face事件发生后,OpenAI曾在部落格文章中形容,这是一起前所未见、涉及最先进网络攻击能力的网络安全事件。

OpenAI承认,各方有必要提高应对AI失控行为的透明度,并表示正在加强相关安全防护措施。

该公司也于9月16日公布新的事件通报框架,承诺即使事件严重程度尚未明确,也会采取更透明的通报方式。

截至目前,OpenAI尚未回应媒体的置评要求。

View Original Article
Newswav Malaysia Best News App

Newswav is an online content aggregator and obtains its content from different online sources. The content in the app do not belong to Newswav nor do they reflect the opinions of Newswav and its staff. Your use of this app indicates your understanding and acceptance of this information.

Newswav Sdn. Bhd. (201701008480 (1222645-M)) 2026 All Rights Reserved