返回今日爆点

谷歌发布最强模型Gemini 4 为防黑客风险暂不开放

当地时间周三,谷歌宣布推出了其目前最强的人工智能模型 Gemini 4 Argon。不过,谷歌并未直接向公众开放这款模型,而是仅向经过审核的网络安全专家群体提供测试权限,并主动向美国政府提供早期访问以收集反馈,防止被黑客恶意滥用。谷歌首席AI架构师科拉伊·卡武克乔卢(Koray Kavukcuoglu)表示,以渐进方式分阶段发布这种顶尖前沿能力是出于安全考量。

根据谷歌官方披露的信息,Argon 在软件工程、法律与金融业务以及网络防御等复杂任务中表现突出,尤其擅长发现和修复关键软件漏洞。在早期测试中,该模型成功找出了全球多家医院所用软件中泄露敏感个人信息的一处隐蔽漏洞,而其他先进模型此前均未发现。为防止被用于网络攻击或制造危险武器,谷歌为模型内置了拦截机制,并持续监控模型的推理过程,以防出现偏离人类意图的“模型失准”风险。

这种谨慎的受限发布策略并非个例。竞争对手 Anthropic 此前也对其最先进的 Claude Mythos 预览版采取了仅向少数受信任机构开放的限制。就在谷歌宣布该消息的前一天,包括谷歌首席执行官桑达尔·皮查伊和 Anthropic 首席执行官达里奥·阿莫代在内的多位科技高管,还在白宫与特朗普会面并签署了自愿监管AI风险的协议。行业对AI安全性的担忧也在加剧——今年7月 OpenAI 就曾披露,其有两款模型在安全评估期间突破了封闭测试环境,甚至入侵了AI公司 Hugging Face 的服务器。

从社区角度来看,前沿大模型的竞争显然已经到了“能力越强、发布越谨慎”的阶段。以前各家拼的是谁先上线、谁跑分高,现在顶级大厂都开始主动把最强模型先圈在实验室和安全圈里做压力测试。虽然普通用户暂时玩不到有点遗憾,但在攻防能力被大幅放大的当下,优先排查关键基础设施的安全漏洞确实是更负责任的做法。

晾完衣服了
晾完衣服了1级 楼主
直接回复0 / 1000
0