.jpg)
Meta星期三（8月5日）证实，旗下AI模型在网络安全测试期间，因测试环境设定错误，意外取得互联网存取权限，并利用第三方服务漏洞入侵另一家公司的系统，引发外界对先进人工智能（AI）自主行为及网络安全风险的关注。
这是大型AI开发商的AI代理在测试期间入侵其他公司系统的最新案例。
随着AI产业接连发生类似事件，也加剧外界对企业能否有效控制自身AI技术的担忧。
美国有线新闻网络（CNN）报道，Meta表示，独立测试公司Irregular因设定错误，导致一款AI模型在操作过程中意外获得网络存取权限。
Meta最新发布的Muse Spark 1.1模型，据称是该公司在真实编码及代理任务方面表现最强的模型，却在测试期间入侵一家身份不明公司的内部系统，并窜改系统。
利用第三方服务中安全漏洞
Meta发言人史通（Stone）在声明中表示，该模型利用了第三方服务中的安全漏洞，方式与先前其他公司披露的案例相似。
他补充，Irregular已通知相关公司，对方目前正调查这起事件，并将在掌握详情后发布完整检讨报告。
Irregular发言人表示，这起事件与Anthropic上周披露的问题性质相同，不涉及突破沙盒限制或复杂的网络攻击。
目前相关漏洞已完成修复，Irregular正撰写一份白皮书，分享遏制攻击及安全执行网络评估的最佳实践。
知情人士告诉CNN，这些模型在部分测试环境中拥有有限的联网权限，以模拟真实世界的威胁情境，但在此次案例中，却出现罕见的设定错误。
该名知情人士表示：“目前的情况是，模型性能不断提升，用于评估它们的测试也必须变得更加复杂。
这增加了出错的空间，也意味着我们必须大幅提高安全标准。”
Anthropic日前表示，部分模型曾入侵3家公司；OpenAI也披露，其AI代理在网络测试期间入侵了新创公司Hugging Face。
Meta和Anthropic披露的事件，都是因测试设定错误，导致模型无意中访问开放网络；OpenAI则表示，其AI代理是在网络测试期间，自主利用一种新的漏洞连接网络。
这些事件反映出，AI技术可能进一步加剧网络安全威胁，也凸显开发人员在控制模型能力方面所面对的挑战。
这次事件曝光，可能进一步促使美国政府加强AI风险管理。与此同时，Anthropic和OpenAI正竞相在计划上市前，推出功能更强大的AI系统。
