Anthropic联合创始人呼吁：应立法强制为AI加装“断电开关”

据英国广播公司（BBC）报道，人工智能巨头 Anthropic 联合创始人杰克·克拉克在接受采访时表示，随着人工智能能力日益增强，未来可能需要通过立法，强制要求相关企业为 AI 系统配备可由第三方核查的“紧急切断开关”，以便在软件出现失控或严重危险时能够彻底关闭。

克拉克透露，包括 Anthropic 在内的大多数头部实验室目前内部都有自己的“拔插头”机制，但他认为不能全靠行业自觉，让 AI 处于完全无监管的野蛮生长状态风险极高。这一表态迅速将近期硅谷关于“AI安全与灭绝风险”的争论推向新高潮。

目前围绕 AI 风险的各方博弈相当激烈：
1. 警惕派：Anthropic 首席执行官达里奥·阿莫代近期呼吁放缓研发节奏并加强监控；公司多名前员工甚至认为未来十年内 AI 导致人类灭亡的概率超过 10%；诺贝尔奖得主、被誉为“AI教父”的杰弗里·辛顿也向媒体表示这一概率并非毫无根据。美国部分议员甚至已提出名为《切断开关法案》的立法草案。
2. 质疑派：开发者平台 Hugging Face 负责人克莱门特·德朗格与部分科技企业高管则直言这是过度炒作。有人指出，Anthropic（估值约 9650 亿美元）等巨头正筹备上市，渲染“AI强大到能毁灭人类”可能只是为了支撑其惊人估值的商业包装。
3. 政界分歧：英国政府此前已驳回强制加装切断开关的提议，认为这无法阻止外部滥用；而美国前总统特朗普更是在社交媒体上直斥“AI毁灭人类论”是骗局，主张必须全力加速以赢得国际技术竞争。

从社区角度来看，这件事最耐人寻味的地方在于大模型巨头们的“人格分裂”：一边疯狂迭代刷榜、冲刺万亿美元市值，一边高调呼吁政府监管、大谈人类存亡。普通用户不得不思考：如果未来超级 AI 真的接入关键基础设施，软件层面的“开关”究竟能不能管住代码？还是说这种末日叙事，本质上只是头部大厂用来拉高行业准入门槛的监管护城河？