Anthropic警告:AI模型或将很快在家庭设备间自我复制

  Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间 。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。

Anthropic警告:AI模型或将很快在家庭设备间自我复制-第1张图片

  Anthropic描述 ,AI模型有可能入侵智能烤箱 、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备 ,无需依赖昂贵的数据中心。

Anthropic警告:AI模型或将很快在家庭设备间自我复制-第2张图片

  Anthropic在博客文章中称 ,这类模型难以关停,因为不存在可以集中切断的总控制点 。

  该公司承认,近来 还不存在完全失控的可自我复制AI 。

  不过 ,AI智能体“正越来越有能力完成复制链条里的各个独立步骤,还能把自身的适配能力传递给后续复制出的新版本 ”。

  Anthropic这份最新研究,加剧了市场对AI安全的担忧 ,包括模型发起网络攻击、AI失控等风险。9月,前沿模型能力的提升,已经引发全行业关于AI对人类构成生存风险的警示 。

  Anthropic与竞争对手OpenAI的高管、研究人员多次警示 ,日益强大的AI存在潜在风险,部分人呼吁设置更严格的安全护栏,并管控技术发展节奏。

  Anthropic开展多项测试 ,验证AI能否实现自我复制。其中一项实验,在15台廉价杂牌安卓电视盒组成的网络中,运行谷歌小型模型Gemma4-26B-A4B 。

  公司指出 ,这类设备往往安全防护薄弱 ,容易被模型入侵。体积过大无法单台设备容纳的模型,可以拆分成多个分片,在多台设备上分布式运行。

  “现实中的AI蠕虫未必只由单一模型或单一策略构成 。在不同硬件上部署多种模型 、采用多样化复制方案的集群 ,可能是更贴近现实的最坏攻击场景。”Anthropic表示。

  该AI实验室称,自主AI复制最终会以何种形态出现仍不确定:它可能是运行在不安全设备上 、缓慢扩散的分布式系统;也可能是高速入侵数据中心的强力网络模型;或是骗取算力额度的诈骗型AI 。

  “超出我们实验范围的预测:未来各类硬件上都会遍布AI智能体,其中一部分将脱离人类管控。”

  “慢速复制AI的出现 ,也将是一个先行信号,预示着未来会出现更激进、扩散更快的AI,它们能够攻破防护更强的机器 ,或是盗取API密钥。 ”

文章推荐

  • 片仔癀:林志辉辞去董事长等职位

      Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。  Anthropic描述,AI模型有可能入侵智能烤箱、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备...

    2026年10月13日
    0
  • 【临汾一级焦炭费用,山西一级焦炭费用报价】

      Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。  Anthropic描述,AI模型有可能入侵智能烤箱、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备...

    2026年10月13日
    0
  • 短纤维费用上涨(粘胶短纤维费用最新行情走势)

      Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。  Anthropic描述,AI模型有可能入侵智能烤箱、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备...

    2026年10月13日
    0
  • 香蕉做法(香蕉做法空气炸锅)

      Anthropic周一发布预警:小型AI模型距离具备在联网家用设备上自我复制的能力,仅剩数月时间。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。  Anthropic描述,AI模型有可能入侵智能烤箱、安卓电视盒子等联网设备,利用设备算力运行自身程序,并扩散至其他设备...

    2026年10月13日
    0