编辑推荐:
人们普遍认为AI顾问在记忆和利用先前对话信息方面优于人类,挑战了AI缺乏上下文理解的常规认知。研究发现记忆连续性是评估顾问情境理解能力的重要维度。
克里斯托弗·R·迪普什(Christopher R. Dishop)
奥本大学(Auburn University)心理科学系(Department of Psychological Sciences)
摘要
算法和人工智能(AI)在工作场所越来越多地被用作顾问。相关研究表明,人们认为AI在提供建议时缺乏对情境的敏感度,即无法理解人们的独特情况。我们认为,这种观点仅反映了顾问或合作者理解情境的一部分能力。具体来说,它关注的是单一决策中可用数据的多样性,而忽略了顾问是否能够记住并利用之前的互动信息。在两项预先设计的研究中,我们探讨了这一被忽视的情境理解维度,我们将其称为“感知记忆”(perceived memory)。感知记忆指的是人们认为某个实体在多大程度上能够记住并运用之前的交流内容。在研究1和研究2中,参与者认为AI比人类顾问具有更强的感知记忆能力,认为AI更能够回忆和延续之前的对话。研究结果表明,人们认为AI更能够(而不是更不)保留与自己过去相关的信息。通过将记忆重新视为整体性的一个核心组成部分,这项工作对“人们认为AI缺乏情境敏感性”的普遍观点提出了质疑,并指出感知记忆在顾问与接收者关系中是一个重要的社会信号。
章节摘录
整体性与记忆
现有关于算法判断的文献往往以狭隘的方式对待情境。大多数研究将去情境化(decontextualization)定义为未能纳入足够类型的信息。例如,一个算法可能仅依赖于可量化的输入,而忽略关于个人情况的定性线索(Newman等人,2020年)。在这种观点中,整体性意味着同时考虑多种数据来源。
研究概述
我们进行了两项研究,以验证人们是否认为AI顾问比人类顾问更能记住之前的信息并将其用于当前的建议。研究1和研究2直接比较了人们对AI和人类顾问的看法。在研究1中,参与者阅读了多个与工作场所相关的场景,并判断AI或人类顾问谁更能够回忆和检索之前的对话信息。在研究2中,参与者对AI和人类顾问进行了评估。
样本
参与者来自美国一所大型大学的本科生。符合条件的人需要报告有使用基于AI的工具的经验。不符合注意力测试要求的人被排除在外(共10人),最终样本量为289人。样本中女性占83%,男性占17%。样本中白人占88%,亚裔占4%,黑人或非裔美国人占1.4%,美洲原住民或阿拉斯加原住民占0.3%,夏威夷原住民或太平洋岛民占0.3%,其他族裔占0.3%。
样本
参与者来自在线研究平台Prolific的成年人。不符合注意力测试要求或表示不熟悉AI的人被排除在外(共31人),最终样本量为205人。样本中男性占55%,女性占45%。参与者的平均年龄为34岁(年龄范围22-59岁),其中白人占72%,黑人/非裔美国人占13%,亚裔美国人占5%,混血占5%,其他族裔占2%。参与者每项研究的报酬为1.60美元,研究平均耗时6分45秒。
总体讨论
在这项研究中,我们探讨了人们如何看待顾问记住之前对话并将其信息融入后续建议的能力。在研究1中,参与者将更大的记忆能力归因于AI顾问,认为AI在回忆之前的交流方面表现更好。在研究2中,我们使用新的样本和不同的场景格式重复了这一发现,让参与者在不同的情境下评估AI和人类顾问。
结论
我们发现了一致的证据,表明人们认为AI相对于人类具有更强的感知记忆能力。这一发现与之前认为AI缺乏情境敏感性的观点相反,实际上表明人们认识到AI能够记住并运用之前的细节。在需要记忆的情况下,AI并不被视为冷漠或机械的,而是能够关注之前的信息。研究结果表明,记忆的连贯性是人们判断顾问是否理解他们情况的一个依据。
资金与/或利益冲突/竞争利益
作者声明没有利益冲突。
未引用的参考文献
Bailey和Schultz,2022年;Bigman等人,2021年;Bonaccio和Dalal,2006年;Crawford,2021年;DeSoto和Roediger,2014年;Eisenbruch和Krasnow,2022年;Eslami等人,2016年;Gruszka和N?cka,2017年;Li和Lu,2025年;Sniezek和Van Swol,2001年;Tong等人,2021年。
利益冲突声明
? 作者声明没有已知的财务利益或个人关系可能影响本文所述的工作。