Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间 。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。

Anthropic描述 ,AI模型有可能入侵智能烤箱 、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备 ,无需依赖昂贵的数据中心。

Anthropic在博客文章中称,这类模型难以关停,因为不存在可以集中切断的总控制点 。
该公司承认,近来 还不存在完全失控的可自我复制AI。
不过 ,AI智能体“正越来越有能力完成复制链条里的各个独立步骤,还能把自身的适配能力传递给后续复制出的新版本 ”。
Anthropic这份最新研究,加剧了市场对AI安全的担忧 ,包括模型发起网络攻击、AI失控等风险。9月,前沿模型能力的提升,已经引发全行业关于AI对人类构成生存风险的警示 。
Anthropic与竞争对手OpenAI的高管、研究人员多次警示 ,日益强大的AI存在潜在风险,部分人呼吁设置更严格的安全护栏,并管控技术发展节奏。
Anthropic开展多项测试 ,验证AI能否实现自我复制。其中一项实验,在15台廉价杂牌安卓电视盒组成的网络中,运行谷歌小型模型Gemma4-26B-A4B 。
公司指出 ,这类设备往往安全防护薄弱,容易被模型入侵。体积过大无法单台设备容纳的模型,可以拆分成多个分片,在多台设备上分布式运行。
“现实中的AI蠕虫未必只由单一模型或单一策略构成 。在不同硬件上部署多种模型 、采用多样化复制方案的集群 ,可能是更贴近现实的最坏攻击场景。”Anthropic表示。
该AI实验室称,自主AI复制最终会以何种形态出现仍不确定:它可能是运行在不安全设备上、缓慢扩散的分布式系统;也可能是高速入侵数据中心的强力网络模型;或是骗取算力额度的诈骗型AI 。
“超出我们实验范围的预测:未来各类硬件上都会遍布AI智能体,其中一部分将脱离人类管控。”
“慢速复制AI的出现 ,也将是一个先行信号,预示着未来会出现更激进、扩散更快的AI,它们能够攻破防护更强的机器 ,或是盗取API密钥。 ”