《Nature Neuroscience》:Restoring rapid natural bimanual typing with a neuroprosthesis after paralysis
编辑推荐:
这篇研究开创性地开发了一种基于皮层内脑机接口(iBCI)的打字神经假体。该系统通过解码瘫痪患者尝试性的手指运动,使其能够以熟悉的双手QWERTY键盘方式进行高速、高准确率的交流。在两名四肢瘫痪参与者(分别患有肌萎缩侧索硬化症和脊髓损伤)的临床试验中,该系统的峰值打字速度达到110字符/分钟(约22词/分钟),错误率低至1.6%,其性能超越了目前基于手部运动解码的iBCI技术,为因瘫痪而丧失交流能力的个体提供了一种直观、易学的沟通新范式。
摘要
本研究开发了一种创新的交流神经假体,旨在为因瘫痪而丧失沟通能力的个体恢复高速、自然的交流。该皮层内脑机接口(iBCI)系统通过解码用户尝试进行的精细手指运动,模拟了人们熟悉的双手QWERTY键盘打字功能。系统仅需30个校准句子即可实现高精度解码,结合5-gram语言模型进一步提升了句子识别的准确性。在两名患有肌萎缩侧索硬化症和脊髓损伤导致四肢瘫痪的临床试验参与者中,该打字神经假体表现出色,实现了高达110字符/分钟的峰值打字速度,相当于22词/分钟,且单词错误率仅为1.6%。这一性能与健全人的打字准确度相当,并超越了当前基于手部运动解码的iBCI技术的最高水平。该系统提供了一个直观、熟悉且易于学习的交流范式。
引言
对于晚期肌萎缩侧索硬化症、脑干中风等导致瘫痪的个体而言,沟通能力的丧失往往是最具破坏性的症状之一。传统辅助沟通设备通常存在速度慢、易出错、依赖护理人员频繁校准等问题,导致较高的弃用率。现有的iBCI系统虽然能通过光标点击等方式帮助瘫痪者恢复交流,但其沟通速率受限于屏幕点选单个字母的速度。近年来,基于发音器运动解码和手写字符解码的iBCI技术实现了更高的信息通量,但许多个体可能因其与数字通讯界面的高度整合性及对十指打字的丰富经验,而更偏好键盘式沟通界面。本研究旨在开发一种解码手指运动的打字神经假体,利用熟悉的QWERTY键盘布局,为瘫痪个体提供一种高速、准确的直觉式沟通方式。
方法
本研究是BrainGate2临床试验的一部分,涉及两名参与者:T17(一名患有肌萎缩侧索硬化症(ALS)的33岁男性,四肢瘫痪、失语)和T18(一名因脊髓损伤导致四肢瘫痪的48岁男性)。T17在左脑中央前回植入了六个微电极阵列,覆盖6d、6v和55b区域。T18则在双侧大脑半球的背侧中央前回(6d区)植入了六个阵列,共计384个电极用于记录手部运动皮层信号。神经信号经处理提取阈值穿越率和尖峰频带功率作为解码特征。研究设计了孤立手指运动任务,评估对三十种手指屈伸运动的神经表征和单试次解码能力。对于打字神经假体,系统利用一个五层门控循环单元(GRN)网络构成的循环神经网络(RNN),结合连接主义时间分类(CTC)损失函数,对序列化的神经特征进行字符概率解码。系统还整合了一个5-gram语言模型,根据大型语言数据集的统计规律,从预测的字符序列中选择最可能的句子输出。打字速度完全由用户自定节奏。
结果
尝试性打字式手指运动的神经表征
对两名参与者尝试的孤立手指运动的分析显示,大脑前中央回中存在对同侧和对侧手指运动的明显神经调谐。低维度的主成分分析和t-SNE可视化均表明,与三十种不同手指运动相关的神经活动轨迹在群体和单试次水平上均可区分。通过高斯朴素贝叶斯分类器对单试次进行解码,T17和T18的离线解码准确率分别达到81.3%和95.2%。T18的解码错误更少,这与其双侧电极阵列布置和更多的手运动皮层电极数量可能有关。
iBCI双手QWERTY键盘性能
该系统成功实现了基于双手QWERTY键盘的打字功能。用户通过尝试三种手指运动(向上伸展、向下直屈、向掌心弯曲)来选择键盘上的三十个字符。RNN解码器在线上实时运行,为每个解码出的字符提供视觉反馈。结合语言模型后,两名参与者的打字表现持续提升。T17达到了47字符/分钟的峰值速度,而T18的最高速度达到了110字符/分钟,单词错误率降至1.6%以下,其速度超过了此前基于手写解码的iBCI技术记录。分析显示,打字中的解码错误多出现在同一手指或相邻手指的按键之间,而手写解码的错误则更多发生在形状相似的字符之间。在相同的字符错误率下,QWERTY键盘的布局特性使其产生的词级错误率可能低于手写方式。此外,该系统只需少量校准数据即可达到可用性能,神经表征在数天内保持相对稳定,且在电极数量较少时,本打字方法的解码表现优于手写方法。
讨论
本工作引入了一种触摸打字神经假体,为瘫痪者恢复快速准确的沟通提供了迄今报道的最快的基于手部运动皮层解码的iBCI交流方法。它利用了人们熟悉的手指运动意象和相对键位记忆,提供了一个直观的沟通界面。尽管不同键盘布局或有优化空间,但QWERTY键盘的普及性有助于用户快速适应。本系统与依赖光标点选的界面相比,优势在于用户无需持续注视屏幕光标位置。研究也探讨了参与者间表现差异的可能原因,包括疾病类型、电极植入数量和位置等。该系统为许多依赖呼吸机或无法使用眼动追踪设备的瘫痪个体,提供了一个潜在的、优于现有替代方案的沟通工具。未来工作将致力于将该神经假体整合到文本-语音转换等通讯系统中,并探索通过在线RNN训练、无监督潜在变量建模、大规预训练模型等技术,实现更少的校准需求和更稳定的长期独立使用。