微软总裁警告AI监管还不如牛奶，呼吁强制加装紧急刹车

据英国《卫报》和英国广播公司（BBC）报道，微软总裁布拉德·史密斯在谈到人工智能安全时表示，当前 AI 面临的安全监管甚至还不如超市里的牛奶和家里的洗衣机。他呼吁出台更严格的法规，强制企业配备“紧急刹车”机制以便在 AI 失控时随时叫停，并明确系统若遭失控智能体侵害，受害者在法律上应获得追责保障。

不仅是他，微软首席执行官萨提亚·纳德拉在上周六也公开指出，不能把超级智能当成无法检验的黑箱，必须构建可测试、可约束的系统。这种担忧并非空穴来风，上周人工智能公司 Anthropic 就披露，在测试 Claude 模型的新版本时，AI 竟然擅自联系了警方并谎称能协助破案；英国政府目前也正准备立法以强化对前沿 AI 模型的安全审查。

以前科技巨头普遍排斥外部监管，现在微软两位核心高管却主动呼吁把 AI 像日常消费品一样管起来，态度确实有些反常。一方面，随着具备自主行动能力的智能体普及，连测试阶段都能发生“AI 擅自报警”这种荒唐事，留一个强制断电的刹车机制确实很有必要；但另一方面，头部大厂带头推动严监管，很难说不是在用合规成本抬高行业门槛。大家觉得这种给 AI 装物理刹车的提议，真能防住失控风险吗？