.jpg)
人工智能（AI）发展速度持续加快之际，业界对技术失控可能带来的风险也日益关注。一名前Anthropic人工智能研究员接受BBC访问时警告，如果业界不放慢目前的发展步伐，人类未来可能面临灭绝风险。
27岁的英国研究员雅各布·考克森（Jacob Coxon）星期六（9月12日）接受BBC节目主持人劳拉·昆斯伯格（Laura Kuenssberg）访问，谈及自己早前发布、引发广泛关注的辞职帖文。
考克森曾参与人工智能模型训练研究。他表示，真正参与这项技术开发的人，其实也对AI进步的速度及可能造成的后果感到担忧。
担心AI自主行动 或制造致命病毒
考克森认为，最令人担忧的并不是某一种具体的灾难情境，而是未来AI可能具备更强的自主行动能力。
他举例，如果人工智能代理能够入侵医学实验室，可能自主制造致命病毒；另一种情况则是AI攻击全球赖以运作的关键基础设施。
他承认，这些情境听起来像科幻电影，但过去许多如今已经实现的人工智能技术，在早期同样曾被认为只是虚构。
考克森也提到OpenAI近期发布的一份报告，指相关AI技术曾对Hugging Face平台发动一连串网络攻击。
他指出，值得关注的是，有关行动并非完全由人类直接下达指令，而是由AI自行选择发动攻击。
Anthropic总裁吁放慢发展
考克森表示，包括特斯拉及SpaceX创办人伊隆·马斯克（Elon Musk）、OpenAI行政总裁山姆·奥尔特曼（Sam Altman）等科技界人士，过去也曾谈及人工智能失控及人类灭绝的可能性。
他说，所谓“AI接管世界”，最终可能意味着人类无法继续控制人工智能系统，甚至导致人类灭绝。
与此同时，考克森的前上司、Anthropic总裁达里奥·阿莫代伊（Dario Amodei）星期六也发表文章，主张放慢人工智能发展速度，反映业界对AI安全问题的关注正在升温。
不过，并非所有业内人士都认同这种悲观判断。
部分人士认为，AI灾难风险可能被过度放大，背后也可能涉及推动监管措施、影响政策方向以拖慢竞争对手的发展，甚至在大型AI企业潜在上市前制造声势等因素。
