认知

用AI核对建议伤感情

发表在《人类行为中的计算机》的一项新研究表明,咨询人工智能(AI)获取建议可能会无意中紧张与人类专业人士的关系。

AI工具正迅速成为日常决策的一部分,承诺快速答案、个性化指导和更低的成本。许多人将这些工具与人类专业人士一起使用,以复核信息或获得第二意见。

之前的研究已经表明,当客户咨询多位专家时,人类顾问有时会做出负面反应。在这些情况下,顾问可能会将寻求第二意见解读为缺乏信任。然而直到最近,很少有人关注当第二意见来自计算机算法而非另一个人时顾问的反应。

因此,研究人员Gerri Spassova(澳大利亚莫纳什大学)和Mauricio Palmeira(美国南佛罗里达大学)着手探索当客户在寻求专业建议之外还咨询AI时,人类顾问的反应。

为了调查,这对研究人员进行了四项实验,每项涉及约180至300名成年参与者。在第一项实验中,参与者有实际的现实世界咨询经验。在随后的三项研究中,参与者是被要求想象从事旅行规划、金融和营养等咨询角色的普通成年人。所有参与者都阅读了他们已经向客户提供专业建议的场景。

例如,在一项实验中,财务顾问被告知,在收到他们的投资建议后,客户还寻求了另一位人类财务顾问或人工智能系统的建议。然后顾问评估了他们对这种情况的动力感,以及这是否影响了他们继续与客户合作的意愿。

在所有四项研究中,出现了一个清晰的模式:顾问对那些也咨询了AI的客户明显缺乏动力。事实上,这种负面反应比客户咨询另一位人类顾问时更强烈。

研究人员认为,负面反应背后的动机在于职业身份。顾问通常认为AI系统的能力远不如受过培训的专业人士。因此,当客户将AI工具与人类专家并列为相当的建议来源时,这种比较可能会让人感到侮辱。

研究还揭示了另一个令人惊讶的效果:顾问倾向于更消极地评判使用AI的客户。参与者将这些客户评为不如寻求另一位人类专家建议的客户有能力且热情。

重要的是,即使AI系统仅用于初始背景信息(而非最终决定),或作为补充服务(而非取代人类专家的建议),负面反应仍然存在。换句话说,仅仅检查一个AI工具就可能足以改变顾问对客户的看法。

"我们的发现表明,了解到客户咨询AI可能会有意无意地改变顾问对客户的看法以及他们愿意在关系中投入多少努力。这种负面影响,即使是微妙的,从长远来看可能会破坏顾问与客户的关系,并可能导致失去机会,"Spassova和Palmeira总结道。

然而,该研究有几个局限性。研究严重依赖实验角色扮演场景而非现实世界的咨询关系,意味着实际反应可能在实践中有所不同。此外,目前尚不清楚这些负面反应是否会在长期顾问-客户关系中持续、减少或完全消失,特别是当顾问很了解客户时。

来源
psypost.org

评论 (0)

暂无评论,来发表第一条评论吧