综述:通过不断增长的数据库审视多模态超扫描的数字协作互动

《Frontiers in Neuroergonomics》:Reviewing digital collaborative interactions with multimodal hyperscanning through an ever-growing database

【字体: 时间:2026年02月11日 来源:Frontiers in Neuroergonomics 1.9

编辑推荐:

  本文系统综述了数字协作中的多模态超扫描研究,揭示了该领域在方法学上的异质性、模态使用的局限性以及分析策略的保守性。文章指出,当前研究主要依赖单模态神经成像(如脑电图EEG、功能性近红外光谱fNIRS),而多模态融合、有效连接性和机器学习方法应用不足。作者强调了未来发展的四个关键方向:多模态整合以全面捕捉神经、生理和行为动态;系统比较不同数字化程度的影响;建立能够模拟高维人际动态的生理信息分析框架;以及制定更清晰的报告标准以确保可重复性。为此,文章还推出了一个可动态更新的在线数据库InterBrainDB,旨在构建社区驱动的、基于生态学的数字中介协作模型,推动这一科学和社会相关性日益增强的领域的发展。

  
引言:数字时代的协作测量
协作,即两个或更多个体共享一个目标或意图并激励共同工作的活动,是超扫描研究中最普遍的主题之一。然而,当代社会中的协作越来越多地通过数字手段进行,包括基于屏幕的会议、共享的在线工作空间和沉浸式虚拟环境。这些发展引发了关于环境条件(虚拟与面对面)和特定任务工具或模态(例如,数字与模拟对象、言语与基于文本的通信)如何影响协作的大脑、身体和行为特征的关键问题。数字媒体引入了虚拟隔阂(例如,显示器),改变了注意力需求、对隐性社会线索的感知以及认知负荷。因此,不能假定面对面超扫描研究的结果可以推广到数字中介的环境中。
超扫描一词由Montague等人(2002年)提出,用于描述在竞争性欺骗任务中互动个体的同步功能性磁共振成像(fMRI)。如今,脑电图(EEG)和功能性近红外光谱(fNIRS)已成为最广泛使用的移动脑成像模态,具有互补优势:EEG提供毫秒级的高时间分辨率,而fNIRS则为皮层表面活动提供了更好的空间特异性。移动神经成像和生理传感技术的进步,加上日益普及的可穿戴传感器,已将超扫描扩展到功能性磁共振成像(fMRI)或脑磁图(MEG)等固定设置之外,使得能够在越来越多样化和应用化的环境中研究人际动态。
真实世界和数字中介的互动跨越多个感觉通道展开,涉及紧密耦合的认知、情感和行为过程。因此,越来越多的综述强调社会互动的多模态和基于生态的框架的价值。实证工作已开始将基于大脑的方法与身体测量(如视线对齐、心电图ECG、皮电活动EDA、通信信号和其他基于摄像机的生理指标)相结合。这种整合,被称为具身超扫描,促进了从受控的实验室范式向应用环境(如教室、工作场所和其他真实世界环境)的过渡。
方法与分析途径
irrespective of the signal measured, inter-brain synchrony (IBS) has been the most widely reported analysis approach for interpersonal dynamics in a variety of interactive scenarios. IBS has been linked to various processes central to social interaction, including shared attention, simultaneous movements, imitation, social closeness between partners, and the nature of their engagement (e.g., cooperation vs. competition). Given the pronounced sensitivity of IBS to contextual and situational factors, newly emerging digital collaboration formats warrant systematic investigation as they increasingly reflect naturalistic settings. Alongside synchrony-based metrics on the inter-brain level, multivariate modeling and machine learning have emerged in intra-brain research that could expand the analytical repertoire for hyperscanning, enabling improved decoding of interpersonal states and complementary use of EEG, fNIRS, and physiological signals.
Despite these methodological and analytic advances, synthesizing hyperscanning studies investigating digital social interaction remains challenging due to substantial heterogeneity. Heterogeneity is introduced by varying group size (dyads, triads, or larger collectives), pre-existing social relationships between partners, and the gender composition of paired participants. Furthermore, the degree of physical vs. virtual co-presence differs across paradigms with respect to how participants are situated (same or different rooms, physical or virtual co-presence), how information is exchanged, and to what extent interactions rely on digital vs. analog means.
结果:数字协作超扫描研究的现状
本综述共纳入45项符合标准的研究。分析显示,大多数研究依赖于单模态神经成像,主要是EEG(19项研究)或fNIRS(12项研究),仅有7项研究实施了多模态组合。研究设计倾向于采用对称角色的合作任务或自然情境,通常使用互不熟悉的同性别二人组。非言语互动的研究略多于言语互动。在分析方面,功能连接性分析占主导地位,而有效连接性、多模态融合和机器学习方法则很少使用。执行功能和社会认知是更常被研究的领域,而创造力、记忆和语言相关的研究相对较少。
在参与者方面,大多数研究调查了二人组环境中的主体间动态(39项研究),配对的参与者大多彼此不熟悉(23项研究)。大多数研究包括了同性别配对(31项研究)。范式分类显示,大多数研究代表了合作/竞争任务(22项研究),而一些范式则更具生态效度(16项研究)。任务对称性方面,33项研究涉及参与者之间的高任务对称性(即参与者扮演相似角色),而14项研究被归类为低对称性研究(即涉及预定义的、不同的角色)。
关于信息传递,由于研究的入选标准是关注协作中的数字方面,所有纳入的研究都使用了某种形式的数字信息传递,其中大多数(34项研究)检查了纯数字通信。互动场景分析表明,大多数研究发生在某种形式的虚拟场景中(29项研究)。互动媒介分析显示,大多数研究使用了独立的数字互动方式(例如,两个屏幕)而不允许言语交流(24项研究)。
分析方法和认知功能的关系图显示,功能连接性分析(例如,IBS测量)在所有超扫描模态中仍然占主导地位。有效连接性测量和机器学习方法都非常罕见。跨模态和分析方法,执行功能和社会认知一致地成为最常被研究的认知领域。
讨论:挑战与未来方向
对数字协作的超扫描研究正在增长,但进展受到方法学异质性、模态使用范围狭窄和分析保守主义的限制。未来的进展将需要:(1)多模态整合,以全面捕捉神经、生理和行为动态;(2)系统比较不同程度的数字化,以理解技术如何塑造互动;(3)能够模拟高维人际动态的生理信息分析框架;(4)更清晰的报告标准,以实现可重复性和大规模综合。像我们的InterBrainDB这样的资源可以构建一个社区驱动的进程,朝着基于生态的数字中介协作模型发展。
为了促进透明度、可重复性和跨研究的有意义比较,我们强烈鼓励作者报告直接影响脑间连接和同步性解释的具体方法学细节。我们概述了一套最低限度的报告指南,如果得到遵循,将极大地提高未来研究的可解释性和元分析效用。这些包括彻底报告参与者元数据、指定神经记录的时间设置、明确说明是否允许参与者之间进行言语交流、描述实验期间参与者的视觉和空间安排,以及清楚地说明分析是在个体内还是个体间水平进行的。
从单模态到多模态超扫描的转变至关重要。多模态采集可以提供对协作互动过程中神经、生理和行为动态如何系统互动的独特整体视图。未来的工作应超越简单的一对一模态-过程映射,利用不同模态的互补优势。
最后,分析方法和认知目标表明,功能连接性分析作为超扫描模态的分析框架仍然占主导地位。这些方法学限制直接影响了可研究的认知功能。尽管许多协作任务本质上涉及多个认知过程,但一个一致的模式出现了:执行功能和社会认知是主要的研究目标。鉴于机器学习在模拟非线性、高维和随时间演变的依赖关系方面的优势,它代表了一个未被充分利用但有前途的途径,可以推动超扫描研究超越简单的同步性指数,走向更丰富、情境感知的协作互动模型。
结论
本系统综述综合了关于数字中介协作的超扫描研究,揭示了一个范围正在扩大但仍受方法学保守主义约束的领域。为了加速进展,我们概述了旨在提高透明度、可重复性和跨研究可比性的报告实践,并介绍了InterBrainDB,一个用于组织跨模态、范式和
相关新闻
生物通微信公众号
微信
新浪微博

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号