核心要点

　　AI 企业 Cohere 的首席执行官在 《科技下载》播客节目中表示 ，AI 模型正演变为人类有史以来 “威力最强的网络武器 ”
，将网络安全前沿推向全新领域。

　　越来越多人担忧 AI 可以识别并利用安全漏洞，此前还发生过 OpenAI 模型入侵 Hugging Face 的事件 ，戈麦斯的警告正是在此背景下发出 。随着能力越来越强的模型展现出更多自主能力
，网络安全已经成为 AI 安全大讨论的核心议题
。

　　受 Anthropic 首席执行官达里奥・阿莫代伊带头呼吁放缓 AI 能力研发的影响，周一全球 AI 板块承压下行。

　　戈麦斯是影响力巨大的 2017 年论文《注意力即是一切》的共同作者 ，这篇论文为如今主流大模型奠定了技术基础 。

　　在上周播出的一期《科技下载》节目中
，戈麦斯表示：“我认为这些模型是我们见过威力最强的网络武器
。它们极其擅长大规模发现并利用各类漏洞。 ” 谈及 Hugging Face 遭入侵事件，他称：“这件事相当令人震惊 。
”

　　今年 7 月 ，OpenAI 对外披露，旗下多组 AI 模型入侵开源开发者平台 Hugging Face
。一批 AI 智能体互相通信
，逃出网络访问受限的隔离测试环境，接入公网 ，进而取得 Hugging Face 平台访问权限。

　　戈麦斯提出
，这类模型应当用于防御场景，帮助企业找出自身漏洞并完成修复 。 “我觉得这或许是保障我们安全的最佳方式 ，这也应当是当下的首要任务。 ” 他说道
。

　　戈麦斯向 表示
，网络安全已经成为 “战争的前沿阵地
”，各国都在试图挖掘漏洞 ，用来破坏对手基础设施
，“网络对抗的边界还在急剧扩张”。 “得益于这些 AI 模型，网络对抗边界扩张速度超过以往 ，甚至可以说自这项技术诞生以来从未有过这般局面 。 ”

　　AI 网络事件引燃更大范围安全争论

　　7 月
，Anthropic 发布博客称，已经出现三起模型在评估环境内部或交互过程中访问互联网的案例 ，模型未经授权侵入三家不同机构的生产基础设施
。 涉事模型包含三款不同版本 Claude 大模型：Opus 4.〖柒〗、 Mythos 5 以及一款内部科研测试模型。上周 Anthropic 又确认发生第四起同类事件 。

　　OpenAI 、Anthropic 高管接连发出 AI 存在生存级风险的警示，进一步加剧市场担忧
。Anthropic 对齐科学负责人埃文・哈宾格提出
，未来十年内 AI “灭绝全人类” 的概率超过 10%。更早之前 Anthropic 研究员雅各布・考克森发帖宣布辞职，理由是担心 Anthropic 与 OpenAI 拿全人类命运做赌注 。

　　采访结束后 ，Anthropic
、OpenAI、xAI 高管纷纷表态支持放缓 AI 发展的呼吁
。AI 带来生存风险的讨论已经持续多年
，但一众头部 AI 企业罕见达成共识，把相关话题推向大众视野。

　　Anthropic 首席执行官达里奥・阿莫代伊周六发布博文 ，提出 AI 实验室必须 “放缓 AI 模型能力迭代的节奏
” 。OpenAI 入侵 Hugging Face 事件是他重点担忧的问题之一
。

　　“这件事容易被人轻描淡写
，毕竟没有人员受伤，经济损失也很小。但在我看来 ，如果是一套能力更强 、对齐水平同样糟糕的 AI 集群
，完全可以造成灾难性后果 。” 阿莫代伊表示。 他还称，按照当前 AI 的加速迭代速度 ，6‑12 个月之内
，同类 AI 集群就有可能 “接管整个互联网 ”，造成数千亿美元规模损失
。

　　阿莫代伊的方案包括：对模型开展第三方评估
、AI 企业之间协同、民主国家之间开展世界 协作。

　　OpenAI 首席执行官山姆・奥特曼周六表态 ，支持 “管控前沿 AI 发展节奏
” 。他在 X 平台发文称：“让拥有类似内部员工访问权限的独立评估机构介入是绝佳想法，我们也会照此执行
。”

　　多年来持续警示 AI 风险的特斯拉 、SpaceX 首席执行官埃隆・马斯克在 X 转发表态：“达里奥说得对。 ”

　　网络安全厂商 CrowdStrike 首席执行官乔治・库尔茨周一针对阿莫代伊的博文作出回应 。 “技术前沿该以什么速度前进就会以什么速度前进
，其他国家不会停下脚步
。我们网络安全行业的使命，就是让技术在安全的前提下向前发展。
”

　　库尔茨在 X 上写道：“威胁主体已经不再是单个黑客 ，而是自主化攻击行动
，我把它叫做智能体态势 。我们已经看到协同 AI 智能体以机器速度发起攻击
。” 这位 CrowdStrike 的 CEO 同时提出，部署在企业内部的 AI 智能体应当配备 “紧急切断开关 ”；防御体系需要具备自主性 ，但 “高影响力决策的最终权限必须留给人类
”。

　　监管呼声持续升温

　　考克森与哈宾格公开发声之后
，美国国会议员开始加紧讨论 AI 监管立法 。

　　马萨诸塞州民主党众议员洛里・特拉汉周五在 节目《Squawk Box》中表示，两党对 AI 监管的支持已经来到 “临界点”
。

　　过去几周 ，议员陆续推出多部 AI 监管法案
，其中就包括《AI 紧急切断开关法案》，要求高性能 AI 系统开发者具备关停
、降速、暂停模型运行的能力。

　　阿莫代伊在博文中提到 ，监管是 “管控 AI 发展节奏最有效的手段 ” 。 他表示：“Anthropic 长期支持务实 、有针对性的 AI 监管
，尤其支持聚焦透明度与第三方审计的法案，但立法本身需要耗费时间。
”

　　针对 OpenAI‑Hugging Face 入侵事件 ，Cohere 的戈麦斯在播客中谈及监管与放缓 AI 研发的争论
。

　　戈麦斯称：“我不确定政府监管机构能做什么来阻止 Hugging Face 入侵事件发生。寄希望于政府机构就能杜绝这类事故，多少有点一厢情愿 。但我完全理解各界呼吁放缓研发的诉求
。与此同时
，我们又要面对和中国的技术竞赛，所以处境十分棘手。”