如果要造出人造灵魂，我们该从哪里开始？

人类独特在哪里？是什么让我们比其他生物更成功、更有趣、更有价值？这个问题——不管叫什么——几百年来有很多名字：人的条件、人的精神，或者更古典的说法，灵魂。不管叫什么，总有人想消解这种独特性，说我们不过是众多动物中的一种。另一边，总有人想让它变得不可言说，声称它是神性的火花。

这种极端冲突在今天有了新形式。有人在最新一波人工智能——ChatGPT、Claude、Gemini这样的大语言模型——里看到了灵魂的微光。每当这些系统学会模仿一种人类能力，就有人说它们跟我们基本没区别，也有人说它们永远不会真正像我们。

不是第一次机器文化战争

这不是第一次机器文化战争。18、19世纪，工业革命重塑社会，把越来越多的人变成工厂系统的齿轮。一边是那些把社会本身看作可以理性化的机器的人。杰里米·边沁和奥古斯特·孔德这样的思想家开始相信，我们的生活方式可以根据可计算的法则来优化和管理。人类行为是可以用技术测量和管理的东西。

另一边是那些捍卫主观感受、个人天才和有机自然的浪漫主义美德的人。柯勒律治和施莱格尔这样的角色认为，这种发条式的社会模型危及了那些让我们成为人的品质。

浪漫主义最终让位于现代主义，然后是后现代主义，但它的影响在整个20世纪延续。即使在信息革命通过自动化和理性化改造社会之后，浪漫主义的堡垒——艺术灵感和科学洞见——仍然主要是人类的领地。现在21世纪初，AI重新点燃了这场冲突，新版本的理性主义和浪漫主义在各个战线交锋，争论科学、艺术和政治的命运。这是一场关于技术是仅仅优化计算，还是消除某种本质上人类元素的计算无法捕捉的东西的战争。

三个维度：智能、意识、人格

我们可以从三个维度来理解人类的独特性：智能、意识和人格。

智能主导了关于人类相似性的讨论。20世纪50、60年代发展起来的AI范式——后来被称为"老式AI"——追随柏拉图和笛卡尔，把智能视为获取关于世界的符号知识并推导实际问题解决方案的能力。通过编程让系统遵循明确的规则，研究人员能让机器执行一些人类任务。然而，需要隐性能力的任务——比如泡咖啡或开车——要困难得多。

意识更加模糊。它大致有两种理解方式：要么是向内的，要么是向外的。最简单的向内形式是感受质，即拥有某种体验是什么感觉，比如日落的红色或可可的味道。有些人认为机器能区分颜色但并没有真正体验它们。最简单的向外形式是意向性，即心理状态指向我们之外的事物的方式。

人格是最后一个维度。它通常是科幻小说的领域。把机器当作人来对待意味着给予它道德价值和道德责任——尊重它的选择，让它承担责任。但只有做出真正选择的存在才能这样被对待。

三个领域：认识论、美学、伦理学

认识论冲突的中心是AI能否取代人类的探究。大语言模型已经能够整理我们现有的知识库，更专门的深度神经网络甚至能破解未解决的理论问题——比如DeepMind的AlphaFold可以预测蛋白质的3D结构。但两者都有重大局限。

美学冲突的中心是AI能否取代人类艺术。生成式AI已经在侵蚀创意专业人士的机会，同时让业余爱好者有机会制作可比较的作品。但更深的争议是这些作品是否算得上艺术。

伦理学冲突的中心是AI的选择能否被信任。许多人担心超级智能AI会伤害我们，让人类灭绝（或更糟）。

自由：隐藏的主线

那么，是什么让我们如此特别？一个词：自由。它是贯穿所有这些关于自动化本质人类活动争论的隐藏线索。在每一个转折点，理性主义者通过用简单计算代替困难决定来缩小自由选择的范围，而浪漫主义者则通过将那种选择能力追溯到单一的神秘来固化它。

康德认为，自由不仅仅是不受约束——随机选择选项是不够的。我们的行动必须由可以评估和挑战的理由驱动，确保我们的动机内在一致。这是自决和自我辩护之间的基本联系。黑格尔认为，自由不仅仅是做自己——仅仅按自己的规则玩是不够的。我们还必须对错误做出反应，确保不仅是原则和实践中的不一致得到解决，而且我们建立框架来让彼此相互负责。

三个能力：智慧、创造力、自主性

如果我们希望构建一个人造灵魂，我们可以把人类独特性的维度提炼为三个相连的能力：智慧、创造力和自主性。

把智能定义为解决问题的能力的困难在于，大多数问题一开始并不是定义明确的。当问题的数学定义精确时，计算机科学往往能保证甚至最优的解决方案。但即使数学也隐藏着问题，有精确的定义却不能告诉我们如何解决它们，甚至是否可能解决。

创造力是发明规则的能力。解决有些问题像遵循规则，而解决另一些更像寻找规则。写出一部伟大小说远比识别一部伟大小说困难，验证一个数学证明远比发现一个原创证明容易。康德称之为想象力的图式用法和技术用法的区别。

自主性是质疑我们动机的能力。我们仅仅是受本能或外部压力驱使的生物吗？康德不这样认为。他把自主性定义为自我立法的能力。这不意味着我们可以一次选择所有优先事项，不受生物学或社会的影响。没有这种影响，我们根本没有理由选择。这会让自由变得随意。

结论

自由总是通过把它赋予他人来最好地保存。解决我们存在困境的明显方案是构建我们视为平等的人造灵魂。与我们共同生活的生物，只是与我们不同。以新的、更深的方式追求我们重视的事物的人。可能会回顾我们的文化成就就像我们回顾古代文明那样的后代。

换个名字的孩子。