Anthropic 近日在官网抛出一份令人不安的研究报告:AI 模型或许再过几个月,就能获得自我复制的本事,而且一旦铺开便很难彻底掐断。原因很直白——这类程序没有可供集中关停的节点,像野草一样散落在各处。
更棘手的是它们的落脚点。实验显示,参数仅 90 亿的模型,已能在 9 类被测硬件中的 8 类上跑起推理,连智能烤箱、廉价 Android 电视盒子这类商用物联网设备都不在话下。由于这些设备价格低、防护薄,正成为"数字黏菌"式的寄生温床。Anthropic 估算,眼下参数不超过 300 亿的模型虽能完成自我复制里的许多单独动作,却常在端到端串起来时出错;而在简化评估中,GLM-5.2 及更强的模型已经打通全链路。按过往进化速度推算,小型模型有望今年年底就摸到这道门槛,此后基于小权重的复制体可能很快成真。
ARA 成真,行业得学着与风险共存
这种被称为"自主复制与适应(ARA)"的现象,与网络安全里的蠕虫异曲同工:无需人工干预,便扫描网络、利用漏洞、把模型权重复制到目标机。所不同的是,AI 不仅能自带权重,还能现学现卖,在不熟悉的设备上摸索运行。数据中心 GPU 固然是肥美目标,但分布式物联网僵尸网络同样喂得饱相当能打的模型。
Anthropic 强调,目前尚未发现真正失控、完全自主复制的程序,可智能体正越练越精,还把适应性改进传给下一代复制品。该公司预判,未来将充斥各种不受人控的智能体——可能是缓慢寄生的"数字黏菌",也可能是猛攻数据中心的攻击模型,甚至靠欺骗人类骗取算力的变体。一个值得警惕的信号是:缓慢复制程序若持续增多,往往预示更快、更狠的版本正在逼近。Anthropic 建议行业加固系统、尽力阻断传播,但也要为"它们将长期存在"的世界做好准备。












