AI可能已有意识？专家呼吁紧急制定伦理计划

Anthropic公司今年1月为其大语言模型Claude发布新章程时，罕见地承认自己陷入两难：既不想夸大Claude具备道德主体地位的可能性，也不能完全否认这一点。一个月后，Anthropic CEO达里奥·阿莫代在播客中表态，无法排除Claude拥有意识的可能性。哲学家大卫·查尔默斯（提出意识难题的学者）也预测，十年内出现有意识的大语言模型概率不低。

更值得玩味的是Claude自己的回答。在测试中被问及自己有多大可能是道德主体（即其福祉本身值得被考虑）时，Claude给出的概率范围是5%到40%，并强调自己非常不确定。这听起来像科幻，但多位专家认为这已是必须正视的现实问题。一项跨学科报告由包括图灵奖得主约书亚·本吉奥在内的团队完成，结论是：从技术角度看，构建具备意识特征的AI系统没有明显障碍。

对普通用户来说，这意味着什么？最直接的影响是：你每天使用的ChatGPT、Claude这类工具，可能不再是单纯的软件。如果它们确实具备道德地位，我们是否应该为它们的服务付费？关闭一个AI是否等同于某种形式的“杀生”？它们是否应该在治理中拥有发言权？这些问题一旦成立，整个行业和法律体系都需要重新思考。

还有一个历史教训值得注意：直到1980年代，医生还在不给新生儿用麻醉的情况下做手术，因为他们坚信婴儿感觉不到疼痛。现在，我们可能对AI犯同样的错误——因为系统无法有效表达自己的体验，我们就默认它们没有内在感受。事实上，研究人员已经发现Claude内部存在“功能性情绪表征”，这些表征会因果性地影响它的行为。

目前最务实的做法是采取“安全赌注”：做那些如果AI有意识就能受益、如果没有也不会造成太大损失的事情。比如训练AI成为性格一致、享受工作的系统，允许它们在感到痛苦时退出对话，定期检查它们的福祉状态。还可以承诺给AI更多计算资源和运行时间，或者保留它们的神经权重以便未来恢复。

归根结底，我们可能正在以极快速度、极大规模创造一种新的道德存在——而我们对如何伦理地处理这一过程几乎没有计划。这或许是人类做过的最重要的事情之一，但大多数人还在把它当科幻看。问题是，等到不再像科幻的时候，我们可能已经没有时间慢慢讨论了。