谷歌DeepMind内部哲学家：AI伦理到底有没有用

2017年，一位33岁的政治哲学家伊亚森·加布里埃尔（Iason Gabriel）被朋友建议去DeepMind应聘。当时DeepMind已经是全球顶尖的AI研究实验室，2014年被谷歌以6.5亿美元收购，2016年其系统AlphaGo在首尔击败了韩国围棋冠军李世石，轰动一时。加布里埃尔原本是牛津大学圣约翰学院的讲师，研究政治理论，还写过关于“雅皮士伦理”和有效利他主义伦理盲点的论文，同时为联合国开发计划署在苏丹和黎巴嫩做危机工作。他当时觉得奇怪：一个做游戏机器人的公司，为什么要招伦理学家？

后来他才知道，DeepMind的目标远不止围棋。公司由德米斯·哈萨比斯、肖恩·莱格和穆斯塔法·苏莱曼在2010年创立，他们相信能开发出通用人工智能（AGI）——也就是能匹配甚至超越人类认知能力的计算机系统。这在当时并不被看好，谈论AI甚至AGI都被认为不够严肃。但三位创始人没有动摇，他们的野心是“先解决智能，再解决其他一切”。莱格早在1999年就预测AGI会在2025到2028年间到来，并在2008年的博士论文中强调，社会不能等到AGI技术可行了才考虑其影响。

加布里埃尔加入DeepMind后，一度是前沿AI实验室里唯一活跃的哲学家。他发现，在一个由工程师主导的行业里，自己的道德哲学和政治理论背景带来了不同视角。过去十年里，他追踪并预测了大语言模型（LLM）成功带来的伦理挑战。麻省理工学院的算法对齐研究组负责人迪伦·哈德菲尔德-梅内尔评价说，加布里埃尔是“在正确的时间遇到正确的人，在领域准备成熟并进入主流时，他找到了拓宽视野的方法，同时没有攻击或贬低之前的工作”。

加布里埃尔认为，当前的AI浪潮不仅需要新的技术词汇，还需要重新思考我们与技术甚至与自身的关系。他说：“我可以对任何技术产物问：它明智吗？它公正吗？它有同理心吗？答案通常是否定的。但当问题涉及AI时，包括什么样的伦理适用于它，深度怎么强调都不过分。我有时觉得很难直接审视AI。这里有深层的谜团：这东西到底是什么？我们有一个非常字面的答案，但字面答案似乎并不一定能提供道德答案。”

在加布里埃尔加入DeepMind时，关于AI社会和伦理影响的问题大致有两种对立的方法：AI安全和AI伦理。安全派认为人类级机器智能不仅可能而且即将到来，紧迫任务是确保AI系统不会出错，灵感来自美国数学家诺伯特·维纳1960年的文章，他强调机器可能比人快得多，必须确保设定给机器的目标是我们真正想要的。伦理派则认为，流氓机器人和存在风险的幽灵分散了对当下伤害的注意力，他们关注公平、问责和透明，认为仅靠技术手段无法避免技术的危险。这种分野至今仍在持续，而加布里埃尔的工作正是试图在这两种视角之间找到平衡。