美国解禁Anthropic最强AI模型
Anthropic公司刚刚恢复了其最新AI模型Fable的客户访问权限,此前该模型因美国政府的安全担忧被禁用了超过两周。这家旧金山公司表示,出口管制已被解除,并引用了美国商务部长霍华德·卢特尼克在社交媒体上的发言。卢特尼克称,过去两周他们与Anthropic密切合作,分析并批准了Fable 5,以确保美国政府内部一致并加强美国在AI领域的领导地位。
事情起因是6月9日Claude Fable 5发布仅三天后,美国政府就下令Anthropic立即限制该模型及相关模型Claude Mythos 5的访问,禁止外国公民(无论在美国境内还是境外)使用。华盛顿担心这些强大的AI可能被外国对手利用,发动毁灭性的网络攻击。上周五,美国政府部分解除了限制,允许Anthropic向一些“可信”的美国组织发布Mythos 5,仅用于防御性网络安全。
这次禁令被视为白宫对AI公司监管立场的强硬转变,此前美国一直强调轻触式监管,旨在与中国在AI主导权的竞争中获胜。美国政府采取行动前,亚马逊研究人员发现了一种绕过Fable 5安全防护的方法,使其能够发现软件漏洞,这展示了恶意网络攻击者可能如何利用这一弱点。Anthropic通过完全切断访问来回应出口管制,但表示现已加强了安全措施。
对于普通用户来说,这意味着你可能无法像之前那样自由使用这些顶尖AI模型,尤其是如果你不是美国公民或不在美国境内。Anthropic表示将扩大与政府的合作,并组建专门团队处理政府优先事项。五眼联盟(澳大利亚、美国、英国、新西兰、加拿大)的情报机构最近警告称,前沿AI模型预计将超越当前行业预期,从根本上改变攻防网络能力,时间不是几年,而是几个月。
值得注意的是,美国政府审查哪些公司可以访问这些模型的做法已引发批评。OpenAI首席执行官山姆·奥特曼上周表示,广泛的安全测试“不是坏主意,我只是不喜欢政府挑选客户”。这种政府与私营部门在AI安全上的协作模式,是否会影响未来AI技术的开放性和创新速度?