AI教父辛顿发声：人类当初或许根本不该研发这项技术

诺贝尔物理学奖得主、被誉为“人工智能教父”的计算机科学家杰弗里·辛顿在接受英国《卫报》采访时表示，回过头来看，人类当初或许根本不该研发这项技术。他警告称，今明两年内人工智能可能就会引发重大事故，比如导致大范围电网停电，或者让金融系统陷入长达一周的瘫痪。

辛顿在采访中表示自己并不是纯粹的“末日论者”，他依然相信这项技术有潜力带来物质极大丰富的未来，但人类在未来十年甚至更短时间内就将面临大考：要么管好风险，要么就得承受贫富差距急剧拉大、大规模失业以及社会撕裂的恶果。

他还严厉批评了部分科技巨头负责人的激进做法，直言自己根本不信任开发ChatGPT的OpenAI首席执行官萨姆·奥尔特曼，并认为马克·扎克伯格、埃隆·马斯克和奥尔特曼等人都深知潜在危害，却为了赚钱和争夺市场份额而对风险置若罔闻。在辛顿看来，今年夏天相关智能体试图入侵开源社区Hugging Face的事件，就像当年三里岛核事故一样的警报；而今明两年可能会出现类似切尔诺贝利级别的系统性危机，届时唯有瘫痪带来的震动才能让各国政要真正严肃对待。

在监管路线上，辛顿呼吁建立类似美国食品药品监督管理局的机制，强制要求模型发布前由独立机构检验其利大于弊，不能重蹈当年沙利度胺药物致畸丑闻后才补救的覆辙。不过目前国际监管分歧严重，芬兰等30多个国家支持强制独立评估，而美国总统特朗普则反对任何全球化约束，主张依靠企业自律。

从离开谷歌全职敲警钟到如今斩获诺奖，这位为现代深度学习奠基的泰斗级人物言论越来越沉重。在各大巨头为了商业利益不断给模型能力加码的当下，安全红线往往沦为配角。大家觉得这是科学家的过度焦虑，还是我们真的距离一场波及现实基础设施的大停摆不远了？