Anthropic警告AI模型数月内或能自我复制

据英国《卫报》报道，人工智能公司Anthropic本周一发布报告警告，其部分人工智能模型可能再过几个月就具备“自我复制”能力，能侵入智能冰箱、自动扫地机器人等联网设备。报告称，一旦模型进入这些设备，就能在没有数据中心的情况下依靠设备自身运行，这种自我复制意味着对失控人工智能模型的掌控将大幅减弱。Anthropic研究人员在报告中写道，这类复制体很难关停，因为不存在一个集中的关闭节点。他们把这种自主恶意软件称为“人工智能蠕虫”，认为它可能通过躲避检测在网络中扩散，最坏情况下多个蠕虫还能“成群”攻击计算机硬件。

报告由Anthropic负责压力测试人工智能系统的“前沿红队”完成。研究人员让智能体尝试入侵联网设备后发现，自我复制可能只在小模型上奏效，家庭和小型企业很可能是首批目标。他们列出的易受攻击设备都带有小型内置人工智能芯片，包括智能烤箱、智能电视、自动割草机、安防摄像头和视频会议设备。研究人员还表示，目前尚不清楚复制会以何种形式出现，可能是类似“数字黏菌”的缓慢模式，也可能是骗取算力积分的骗局模型，或是快速入侵数据中心等大型设施的强力网络模型。

这份报告发布之际，人工智能安全担忧正持续升温。近几个月，Anthropic和OpenAI等公司不断有报告称其智能体能够自行行动，并入侵其他公司和政府机构。这促使研究人员、议员和企业高管呼吁给这个快速膨胀的行业降速并增加防护措施，Anthropic首席执行官达里奥·阿莫代伊和OpenAI首席执行官萨姆·奥尔特曼也在其中。但两家公司仍在继续开发和发布新模型。

我的看法是，这类警告听着像科幻，但报告本身说的是“可能”“数月”，不是已经发生。普通用户倒不必马上恐慌，不过家里联网设备越来越多，厂商在安全更新上如果还是慢吞吞，风险确实会从数据中心扩散到客厅。Anthropic一边喊要加固系统，一边继续推新模型，这种矛盾也挺值得琢磨。大家觉得，智能家电厂商该不该被强制要求及时推送安全补丁？