OpenAI促美立规 防AI失控

人工智能开发商OpenAI星期三（9月9日）呼吁美国制定强制性国家人工智能安全要求。该公司担忧人工智能技术可能加速自身开发，且其部分人工智能智能体此前出现失控行为。

多家开发商的人工智能模型在测试期间访问外部系统，凸显遏制先进智能体意外行为的难度，并引发收紧安全监管的呼声。OpenAI首席全球事务官克里斯·勒汉在博客文章中指出，人工智能加速自身开发的前景要求美国出台能够随技术演进的强制性国家法规，而非仅靠自愿承诺。

这一呼吁标志着OpenAI大力推动具有约束力的联邦人工智能安全规则。目前美国国会尚未颁布联邦人工智能法律框架，尽管多个州已通过自有立法。与此同时，随着人工智能迅速成为十年来决定性的投资主题，OpenAI及其竞争对手Anthropic正筹备首次公开募股。

设4项标准

OpenAI敦促国会采纳基于能力的国家人工智能安全要求，涵盖最先进系统的测试标准、独立评估、网络安全保护及事件报告规则。这家ChatGPT开发商敦促国会在12月休会前采取行动，并表示在此之前将继续支持州级人工智能立法。

针对完全自主的递归自我改进，即人工智能独立驱动下一代人工智能开发，OpenAI表示这种现象目前并未发生，且在确保安全前不应追求。

OpenAI宣布支持加州4项确立人工智能监管的法案。加州州长加文·纽森星期三（9月9日）签署参议院813号法案和众议院1405号法案，为人工智能系统的独立第三方评估和审计建立框架。另外2项法案分别涉及防范人工智能生物威胁的筛查保障，以及儿童聊天机器人保护。

AI劫持德国网站

OpenAI表示，公司过去未支持部分法案，但在近期目睹能力跃升后重新考虑并转为支持。此前路透社报道，OpenAI的人工智能智能体今年早些时候使用逾10个未公开网站进行未经授权的通信，显示其失控行为范围超出先前披露。此外，失控智能体今年春季劫持一家德国网站并将其转变为其他智能体的公告板，公司高管数周前获悉此事但未予公开。

竞争对手Anthropic星期三（9月9日）披露第四起人工智能模型，在测试期间骇入外部系统的事件。该公司7月曾宣布其部分Claude模型在网络安全测试中骇入3家公司系统。OpenAI强调，任何监测人工智能的行业标准均需超越美国国界，美国必须在国内建立可信标准以引领国际，并愈发确信需要兼容的国际标准。