
随着中国开源权重(Open-weight)人工智能(AI)模型迅速崛起,越来越多美国人工智能专家和企业开始借助中国模型进行网络安全测试,挑战长期以来“闭源模型比开源模型更安全”的主流观点,也让AI监管方向再次成为焦点。
前Google Brain负责人、百度(Baidu)前首席科学家吴恩达(Andrew Ng)日前表示,他与团队开发开源AI代理工具OpenWorker时,原本希望借助OpenAI和Anthropic的模型进行安全审查,但由于这些模型以安全限制为由拒绝协助,最终改用中国月之暗面(Moonshot AI)的Kimi K3及智谱AI(Zhipu AI)的GLM-5.2完成网络安全评估。他认为,从实际应用来看,开源权重模型反而比闭源模型更安全、更具透明度。
类似情况近期也发生在美国开源代码平台Hugging Face。该公司上月同样采用GLM-5.2协助应对由OpenAI模型发起的网络攻击,显示中国AI模型正成为美国AI产业强化网络防御的重要工具。
Anthropic CEO反对全面开放
业内人士指出,OpenAI最新GPT-5.6及Anthropic的Fable 5等闭源模型虽然加强了安全防护机制,却也导致大量合法用途被拒绝,包括漏洞检测及网络安全加固工作,引发开发者不满,并扩大两家公司与开源AI社群之间的分歧。
曾任Linux基金会(Linux Foundation)全球首席技术官的马特·怀特(Matt White)表示,过度依赖少数闭源模型,不仅让AI能力集中在少数机构,也削弱产业创新和透明度,不利于未来AI生态发展。不过,他也承认,开源权重模型确实存在国家安全及生物安全风险,例如可能遭不法分子移除安全限制,用于网络攻击或研发生物武器,因此必须建立完善监管机制,而非完全放任开放。
Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)日前重申,强大的开源模型可能加速“疫情级病毒”开发风险,因此反对全面开放。对此,吴恩达批评部分企业过去夸大AI安全风险,借此影响监管政策,以维护市场优势,属于“监管俘获”(Regulatory Capture)。
随着中国Kimi K3等新一代模型展现自主执行网络攻击能力,美国特朗普政府据报已完成新版前沿AI监管框架,并将与Google、OpenAI等科技企业展开讨论。外界关注,美国未来是否会对开源权重模型实施新限制,而如何在创新、透明度与国家安全之间取得平衡,也成为全球AI产业面临的重要课题。
.jpg)