《Advanced Science》：Automatically Defining Protein Words for Diverse Functional Predictions Based on Attention Analysis of a Protein Language Model
编辑推荐：
本综述系统介绍了Protein Wordwise和Word2Function工具包，通过分析蛋白质语言模型（PLM）的注意力矩阵，自动定义"蛋白质词汇"（protein words）作为新型功能单元。该方法在PWNet数据集上全面超越传统基序（motif）方法PROSITE，实现了从残基到全蛋白水平的功能注释突破，为后AlphaFold时代的蛋白质功能研究开辟了新范式。
基于注意力分析的蛋白质词汇定义方法
本研究创新性地提出了"蛋白质词汇"的概念，将其定义为包含5-20个氨基酸残基的序列单元，可作为传统"基序"的替代方案用于蛋白质功能预测。通过开发无监督工具Protein Wordwise，利用蛋白质语言模型ESM2生成的660个注意力矩阵，结合Louvain社区检测算法，实现了对蛋白质序列的自动解析。
功能预测性能的全面评估
研究团队构建了PWNet数据集，包含10类功能任务：蛋白质与DNA、RNA、小分子、肽段、ATP、金属离子结合，催化活性，离子通道功能等。实验结果表明，基于蛋白质词汇的方法在功能残基覆盖度上显著优于PROSITE，中位数覆盖度达到0.900，而PROSITE仅为0.045。在深度突变扫描（DMS）数据集上，蛋白质词汇成功覆盖了37,033个功能残基中的大部分。
词典构建与优化策略
研究构建了UniRef50词典和Pfam家族特异性词典，通过将20种氨基酸简并为12种退化类型，显著提升了计算效率。特别值得关注的是，该方法还能有效预测MHC-I和MHC-II肽段，在病原体疫苗设计方面展现出应用潜力。
Word2Function的功能映射创新
开发的监督学习模型Word2Function成功将蛋白质词汇映射到65个基因本体论（GO）术语，建立了"功能注释词汇表"WordTableGO65。在六个代表性蛋白的案例研究中，该方法达到了0.958的词汇准确度和0.661的功能残基覆盖度，显著提升了功能预测的精确性。
结构域未知功能蛋白的探索
该方法在结构域未知功能（DUF）蛋白研究中表现出色，成功预测了RLIG1_HUMAN和POD1_ARATH等蛋白的功能位点。WordTableGO65在外部测试集上的MCC值达到0.330，展示了良好的泛化能力。
方法学细节与参数优化
Protein Wordwise采用双阈值二值化策略处理注意力矩阵，固定阈值（Cutoff 1=0.1）用于保留高置信度边，比例阈值（Cutoff 2）剔除最低20%的注意力分数。词汇长度范围（5-20）和最大间隙数（2）经过系统优化，在覆盖度和效率间取得最佳平衡。
技术局限性与未来展望
当前方法仍存在一定局限性，包括ESM2模型的序列长度限制（最大1024氨基酸）和功能残基实验数据的不足。未来可整合ESM-3等新一代模型，进一步扩展应用范围。蛋白质词汇概念为研究蛋白质动力学、信号转导和蛋白质设计提供了新思路，有望在DNA、RNA等生物大语言模型中推广适用。
这项研究开创了从大型语言模型中提取生物语义单元的新范式，为后AlphaFold时代的蛋白质功能研究提供了强有力的工具，在基础研究和应用领域都具有重要意义。
