报告：全球顶尖人工智能企业不安全

最新调查报告显示，全球顶尖人工智能（AI）企业普遍在安全方面表现不佳，未能有效应对AI行业面临的生存威胁。

根据美国AI安全智库生命未来研究所（Future of Life Institute）星期二（7月7日）发布的半年度AI安全指数排名，美国的Anthropic高居榜首，但整体评级仅为C+。

专家小组评估了九家领先的AI企业在六个方面的表现，包括风险评估、当前危害、安全框架、生存安全、治理和问责制，以及信息共享。在所有评估类别中，都没有企业获得A评级。

OpenAI与谷歌DeepMind的整体评级均为C，Meta得到D+，中国的Z.ai和阿里云则获得D-评级。美国的xAI、中国的DeepSeek，以及首次纳入调查的法国企业Mistral均获得F评级。

未来生命研究所主席泰格马克（Max Tegmark）说，考虑到欧洲在AI安全领域处于领先地位，Mistral排名垫底令人大感失望。

报告说，Anthropic、OpenAI、谷歌DeepMind与Meta此前禁止把它们的技术用于军事领域，但过后逐渐改变立场，和xAI与Mistral一样积极地寻求建立防务伙伴关系。中国顶尖AI企业也被指与军方有关联，但阿里云与Z.ai否认这些指控。

报告也指出，顶尖AI企业在应对生存威胁方面表现不佳，它们正以前所未有的速度开发变革性的技术，却未能制定可靠计划来监控相关风险。