AI灭绝风险争论再起，专家称早知危险

最近，《卫报》刊登了一篇朱迪思·莱文的评论文章，讨论人工智能可能带来的生存风险。文章提到，9月8日，Anthropic的计算机科学家雅各布·考克森在X上发帖表达了对AI的“存在性恐惧”，随后引发了一轮关于该不该担忧AI灭绝人类的讨论。

文章的核心观点是：科学家和企业家其实在四分之一世纪前就知道AI的危险，但在好奇心和利润的驱动下，他们还是继续推进。文中举了几个早期案例：卡内基梅隆大学机器人研究所创始人汉斯·莫拉维克在1988年就预测超级智能会在40年内超越人类；埃利泽·尤德科夫斯基在2001年创立机器智能研究所，最初对“超人类心智”充满期待，但到2002年就开始担心AI脱离人类控制，并提出了“AI盒子实验”；2000年，太阳微系统公司首席科学家比尔·乔伊在《连线》杂志发表《为什么未来不需要我们》，从技术先驱转为深刻怀疑者。

文章还提到，杰弗里·辛顿最近在CNN上反问：“我们有什么例子，是更聪明的东西被不那么聪明的东西控制的？”他认为应该放慢AI开发，直到我们懂得如何控制它。Anthropic的安全研究员埃文·胡宾格本月发帖称，他认为AI在未来十年内“杀死全人类”的概率超过10%。

作为普通用户，看到这些内容的第一反应是：原来这拨人早就知道风险，但一直没停。文章里还引用了泰德·卡钦斯基1995年的宣言片段，虽然作者身份特殊，但那段关于机器逐步接管决策的描述，放在今天看确实让人心里发毛。

不过，文章也指出，现在讨论的焦点之一是“AI终止开关法案”之类的联邦立法，要求科技公司具备限制失控AI的手段。辛顿说还有时间，但如果不快点行动，AI可能会说服掌管开关的人不要按下去。

整篇文章读下来，感觉不是要制造恐慌，而是提醒大家：这些警告不是今天才有的，只是现在才被更多人听见。至于该多担心，每个人可能都有自己的判断。