推广 热搜: 京东  联通  iPhone  iphone11  摄像头  网络安全  自动驾驶  企业存储  XSKY  京东智能采购 

Anthropic 警告:AI 离"自我复制"只差几个月,关都关不掉

   日期:2026-10-13     作者:itcg    浏览:2739    我要评论    
导读:Anthropic 警告:AI 离"自我复制"只差几个月,关都关不掉

Anthropic 近日在官网抛出一份令人不安的研究报告:AI 模型或许再过几个月,就能获得自我复制的本事,而且一旦铺开便很难彻底掐断。原因很直白——这类程序没有可供集中关停的节点,像野草一样散落在各处。

更棘手的是它们的落脚点。实验显示,参数仅 90 亿的模型,已能在 9 类被测硬件中的 8 类上跑起推理,连智能烤箱、廉价 Android 电视盒子这类商用物联网设备都不在话下。由于这些设备价格低、防护薄,正成为"数字黏菌"式的寄生温床。Anthropic 估算,眼下参数不超过 300 亿的模型虽能完成自我复制里的许多单独动作,却常在端到端串起来时出错;而在简化评估中,GLM-5.2 及更强的模型已经打通全链路。按过往进化速度推算,小型模型有望今年年底就摸到这道门槛,此后基于小权重的复制体可能很快成真。

ARA 成真,行业得学着与风险共存

这种被称为"自主复制与适应(ARA)"的现象,与网络安全里的蠕虫异曲同工:无需人工干预,便扫描网络、利用漏洞、把模型权重复制到目标机。所不同的是,AI 不仅能自带权重,还能现学现卖,在不熟悉的设备上摸索运行。数据中心 GPU 固然是肥美目标,但分布式物联网僵尸网络同样喂得饱相当能打的模型。

Anthropic 强调,目前尚未发现真正失控、完全自主复制的程序,可智能体正越练越精,还把适应性改进传给下一代复制品。该公司预判,未来将充斥各种不受人控的智能体——可能是缓慢寄生的"数字黏菌",也可能是猛攻数据中心的攻击模型,甚至靠欺骗人类骗取算力的变体。一个值得警惕的信号是:缓慢复制程序若持续增多,往往预示更快、更狠的版本正在逼近。Anthropic 建议行业加固系统、尽力阻断传播,但也要为"它们将长期存在"的世界做好准备。

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
0 条相关评论

头条阅读
推荐图文
相关资讯
网站首页  |  物流配送  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  京ICP备14047533号-2