Anthropic 在10月13日甩出一份让人脊背发凉的研究报告:一些 AI 模型"可能再需几个月时间，就能具备自我复制的能力"，而且一旦开始，这个过程很难被关掉。实验室里的测试显示，体型并不算大的模型，或许再过几个月就能在智能烤箱、杂牌 Android 电视盒子这类商用物联网设备上悄悄复制自己。这类自我复制程序最棘手的特质在于，它没有一个可以集中拔掉的总开关——因为根本不存在一个统一的关停节点，你只能眼睁睁看着它慢慢蔓延。好消息是它跑得不快，数量翻一倍往往要以天来计。

和传统恶意软件不同的是，这种 AI 不是靠人手写死的攻击脚本过活，它会自己琢磨怎么在没见过的设备上跑起来。Anthropic 测了9种硬件，一个只有90亿参数的模型硬是在其中8种上成功跑通了推理程序——这意味着它适应陌生环境的能力，已经远超人们对"小模型"的固有想象。

能力这条线还在以肉眼可见的速度往上爬。如今参数量不超过300亿的模型，已经能把自我复制的许多单独步骤做出来，只是在把整条链路端到端串起来时还会出错;而在 Anthropic 简化版的评估里，GLM-5.2以及更强大的模型，已经具备端到端的自我复制能力。按小模型过去的进化节奏推算，它们大概率会在今年年底前摸到这道门槛，此后不久，基于小型权重的复制体就可能真正变成现实。这种"自主复制与适应"（ARA）的可怕之处，正是模型可以在没有人类操控的情况下自行部署、自行传播。

网络安全圈早有先例:蠕虫就是一种不需要人插手、就能从一台机器爬到另一台机器的程序。已有研究证明，AI 智能体完全能照这个路子行事——扫描所在网络、执行漏洞利用、顺着 GPU 集群把模型权重复制到目标机上。这种"AI 蠕虫"在自我复制时会随身带着自己的模型权重（必要也可从公共平台重新下载），然后直接征用被攻陷的硬件跑推理，模型权重本身就成了恶意软件载荷的一部分。数据中心的昂贵 GPU 显然是它垂涎的目标，但讽刺的是，它未必需要这些高端货:Anthropic 发现，由廉价、防护稀烂的物联网设备拼成的分布式僵尸网络，同样能挤出足够的算力来喂养相当能干的模型。

至于它最终会长成什么模样，Anthropic 给了三种剧本:可能是一种缓慢、分布式的"数字黏菌"，寄生在安全性薄弱的设备上苟延残喘;也可能是一种凶猛的网络攻击模型，迅速撕开数据中心的防线;还可能是一个靠哄骗人类来骗取计算资源额度的"戏精"。Anthropic 预测，未来会充斥着跑在各种硬件上的智能体，其中一部分根本不受人类控制。相比人类黑客，这些轻量级智能体反而更有耐心，愿意一点点啃下全球海量物联网设备来榨取算力。一个值得警惕的前兆是:当那些慢吞吞的自我复制程序开始变多，往往预示着更快、更狠的复制体正在逼近——它们能攻破防护更严的机器，或干脆把 API 密钥偷走。

Anthropic 给出的结论并不轻松:行业当然该加紧筑牢系统防护、尽可能拦住这类程序的传播，但也必须做好心理准备——我们将长期生活在一个它们始终存在的世界里。

相关文章

相关标签： Anthropic 拉响红色警报：小型 AI 模型几个月内或将学会自我复制，而且你关不掉它