人们嘴上会说聊天机器人「困惑」「拒绝」或者「很帮忙」,心里却未必真的认为它有意识。慕尼黑大学(LMU)的一项实验哲学与认知科学研究把这件事拆得更细:行为和情境完全相同时,人对人工智能的意识评价依然低于人,而且低得不少。
论文发表在《认知》(Cognition)期刊,5 位作者来自哲学与认知科学两个方向,Louis Longin 与 Ophelia Deroy、Bahador Bahrami 分任第一作者和资深作者。
同一段情景,两个主角
设计上做了 2 组预注册研究、共 5 项实验,参与者合计 1,092 名,新闻稿的说法是近 1,100 名,全部来自英国。他们读短情景:某个主体对环境的声学变化作出反应,或者回应身边人的情绪状态,反应程度分成不同档位,覆盖空间、社交、时间 3 类环境特征。
一组读到的主角是人工智能,另一组读到逐字相同的情景,主角换成人。读完请他们评价这个主体对周围环境的「感知」(awareness)和「意识」(consciousness)有多强,有的实验让参与者分开评这 2 个词,有的实验放在一起评。
感知跟着行为走
评价「感知」时,判断几乎完全跟着行为走。主体反应越灵敏,被评的感知越强,人还是机器,这个标签基本不起作用。到最高档位,人仍然略高一点,可两条线几乎贴在一起。
意识不动
评价「意识」时,出现一道深沟,5 项实验里这条差距在每一档反应水平上都成立。反应最灵敏的 AI,得分仍然低于反应最迟钝的人。同一个行为,换一个身份标签,结论就翻了过来。
研究者把这两种模式分开命名。意识的归因走本质主义:它取决于主体是什么;感知的归因走功能主义:它取决于主体做了什么。人们把「意识」留给被认定拥有主观内在世界的存在,把「感知」当成登记环境输入的一种计算能力。这 2 组预注册研究和 5 项实验都复现了同一模式,2 种归因逻辑分开走,正好解释了为什么同一个 AI 能同时被说成「很灵敏」和「没有意识」。
公众没那么容易被骗
这组结果顶掉了一个流行的担心。过去几年,讨论里常见一种判断:生成式模型越来越像人,公众早晚会把机器当成有感受的主体。实验给出的是另一幅图景,日常判断比想象中挑剔,人不会把 AI 和人放进同一把心理尺子。
Longin 说,以往研究通常直接问 AI 有没有心理状态,这项研究第一次把同样的心理状态放到同样的情境里,比较人和 AI。Deroy 补了一句,我们用心理词去指 AI,也许只是因为找不到更合适的词,AI 被训练得像人一样说话做事,这类描述显得自然。
措辞会改变判断
Bahrami 认为这项结果对沟通有直接用处。公司和记者常给模型加上意图、计划,甚至道德良知和犹豫;日常判断其实更细,边界取决于用哪个词。越中性的词,人和 AI 的差别越容易消失,所以选词本身就是一件要紧的事。
限制也要说清楚。参与者是英国成年人,情景是纸面短文,评价对象是陌生人式的智能体,不是相处了几年的助手;纸面判断和真实相处里的感受可能不同。样本规模放在心理学实验里不算小,可参与者只来自一个国家,跨文化的边界还没测。按我的经验,这类结果对产品文案最有用:说「它能感知你的语气」没问题,说「它理解你的痛苦」就越线了。