西湖大学等团队在 Nature 发表 Pinal：用自然语言设计功能蛋白质

大家好，今天给大家分享一篇近期发表在Nature上的文章，题为：Programmable design of functional proteins from natural language。该工作的通讯作者是来自西湖大学的原发杰、刘建明，香港科技大学（广州）的卢泓远，以及中国科学院深圳先进技术研究院的司同。

根据预期功能设计蛋白质，是生物催化与蛋白质工程的重要研究目标。然而，现有方法通常需要以天然蛋白为改造起点，或由研究者将功能要求转化为结构模板、关键位点等具体约束条件，而这需要较多的结构生物学与计算设计知识，增加了研究者开展蛋白质设计的技术门槛。因此，如何直接利用自然语言描述指导蛋白质生成，成为连接功能需求与分子设计的重要问题。

在本工作中，作者开发了具有约160亿参数的蛋白质生成模型Pinal，以自然语言描述作为输入，将设计任务分解为两个阶段：T2struct首先根据功能描述生成蛋白质结构表示，SaProt-T随后在结构与原始描述的共同约束下设计氨基酸序列（图1 c、d）。作者通过大规模蛋白质—文本配对数据进行训练，并通过绿色荧光蛋白、聚对苯二甲酸乙二醇酯（PET）水解酶、醇脱氢酶和H-protein的实验检验了生成候选的相应功能。

由于蛋白质结构相对于序列更为保守（图1 a），作者选择结构作为自然语言和序列的中间表示。在采用相同模型架构、并按30%序列一致性阈值划分训练集和验证集的对照实验中，以结构符号为预测目标的模型在验证集上取得了更高的下一符号预测准确率（图1 b），为采用结构作为中间表示提供了依据。

图1  Pinal的两阶段设计思路与数据覆盖（原文Fig. 1）

为使结构适合语言模型处理，模型采用Foldseek的3Di进行编码。它将每个残基与空间近邻的局部几何关系归入20种结构状态之一，以一个离散符号（token）表示，整条蛋白结构因而成为一维符号序列。模型可以像预测文字的下一个词一样预测下一个结构符号而无需生成三维坐标。

模型的第一阶段是根据文本功能描述生成蛋白质结构表示，由T2struct完成。T2struct采用编码器—解码器Transformer架构（图2 a），其中T5编码器使用已有预训练权重初始化，GPT-2式结构解码器由作者从头训练。T5编码器将输入描述转化为包含上下文信息的语义向量；结构解码器通过自注意力整合已有结构符号之间的信息，并通过交叉注意力引入文本的语义表示，预测下一个结构符号的概率分布。

在训练过程中，每个样本同时提供蛋白质的文本描述及其对应的参考3Di结构序列。模型以文本描述和参考结构序列的前一部分为条件，预测紧随其后的结构符号，再根据预测结果与目标符号之间的差异更新参数，使正确符号获得更高的预测概率。这一预测任务覆盖结构序列中的各个位置，使模型逐步学习功能描述与结构之间的对应关系。实际生成时，模型根据输入描述和自身已经生成的结构符号继续预测，直至形成完整的结构符号序列。

模型的第二阶段为从结构到序列的逆折叠设计，由SaProt-T完成。作者以经过预训练的SaProt为基础构建SaProt-T。原始SaProt通过氨基酸与3Di结构信息的联合表示，学习序列和局部结构之间的对应关系。由于相似结构可能承载不同功能，仅有结构信息不足以明确全部功能要求，作者引入预训练的生物医学文本编码器PubMedBERT，将其输出的文本向量经过可训练的线性投影调整维度，再作为一个额外位置添加到结构向量序列之前，使原始功能描述继续参与序列设计（图2 b）。随后，自注意力层在这一联合输入中整合文本条件和各结构位置的信息，为每个位置预测氨基酸。训练时，模型保留已知蛋白的结构与文本，遮蔽氨基酸信息，并学习恢复真实氨基酸；生成时，则依据输入结构和文本预测各位置的氨基酸。

Pinal利用两个阶段均能计算条件概率的特点，对结构与序列进行联合筛选。同一功能描述可能对应多种结构，而生成概率最高的结构不一定对应联合评分最高的结构—序列组合。因此，作者先采样多个结构，再为每个结构设计序列，将两个阶段的对数概率相加，并按序列长度归一化后进行排序。在标准计算评测中，每个提示生成50个结构—序列候选，保留排名前5个进行评价。

图2  T2struct与SaProt-T的详细架构（原文Extended Data Fig. 1）

模型训练需要大量文本描述及其对应的蛋白质序列和结构数据。作者以人工审阅的Swiss-Prot注释作为高质量文本来源，提取不同类型的功能信息，并通过大语言模型整合和改写描述，增加语言表达的多样性。对于规模更大的TrEMBL蛋白质序列库，作者先按50%序列一致性聚类并选取代表蛋白，再利用ProTrek从Swiss-Prot描述池中检索与各蛋白匹配程度最高的文本，建立大规模蛋白质—文本配对。

此外，作者还纳入了此前Evolla研究提供的大语言模型生成的蛋白质功能问答数据，将其中的回答作为文本描述，形成SwissProt-LLM和TrEMBL50-ProLLM数据集。结合InterPro的关键词—蛋白质配对及AlphaFold蛋白质结构数据库的结构信息，最终构建的训练数据包含约17亿组蛋白质—文本对，覆盖约1.35亿条不同蛋白序列（图1 e、图3 a），使模型能够同时接触关键词、短句及较完整的功能描述。

作者分别考察了训练数据量和模型规模对性能的影响。增加训练数据后，设计序列的文本匹配分数和相对于目标蛋白的结构相似度总体提高；扩大T2struct参数规模也改善了相应性能，最终Pinal的总参数量约为160亿（图3 b、c）。此外，作者在后续训练阶段筛选文本匹配程度更高的数据，并排除置信度较低的预测结构，以改善生成结构质量、减少过长的连续氨基酸重复。

在本文的计算评测设置下，Pinal生成候选的文本匹配分数、与目标蛋白的结构相似度及预测结构置信度，总体优于所比较的ProteinDT和Chroma模型（图3 d、e）。对于关键词条件生成，作者还通过InterProScan对生成序列进行注释，检查其能否恢复输入的功能关键词；Pinal在该测试中优于所比较的ESM3模型（图3 g）。

图3  训练数据、规模扩展与计算性能评价（原文Fig. 2）

为考察生成序列的多样性，作者针对辅酶A连接酶、葡萄糖激酶、醛脱氢酶和碳酸酐酶四个酶家族，将Pinal生成序列与Swiss-Prot中的天然同源序列进行多序列比对，并采用最大似然法构建系统发育树。生成序列分布于多个分支，部分还与天然同源序列交错分布，表明Pinal能够在不同酶家族中生成具有多样性的蛋白质序列（图4 a）。进一步与UniRef100序列数据库和蛋白质结构数据库（PDB）比较发现，部分候选在保持较高结构预测置信度（pLDDT）的同时，与已知蛋白的序列一致性或结构相似度较低，显示出一定的序列新颖性与预测结构新颖性（图4 b、c）。

图4  生成蛋白的序列多样性与预测结构新颖性（原文Fig. 3）

为进一步检验生成蛋白质能否实现预期功能，作者选择绿色荧光蛋白、PET水解酶、醇脱氢酶和H-protein作为四类设计任务，分别将对应的功能描述输入Pinal（图5）。随后，根据文本匹配程度和预测结构质量等指标优选候选序列，进行基因合成、重组表达及相应的功能检测，以考察该框架在不同功能任务中的适用性。

图5  四类功能蛋白的文字提示与设计候选（原文Fig. 4）

在绿色荧光蛋白（GFP）的设计中，作者结合结构质量、序列差异及已知发色团基序等条件，从5万条初始候选中选取29条进行实验，获得具有绿色荧光的pinalGFP。pinalGFP的预测结构呈GFP样β桶结构。将其发色团第73位色氨酸替换为甘氨酸（W73G）后，荧光明显降低，表明该发色团位点对荧光功能具有重要作用（图6 a–c）。

在PET水解酶的设计中，作者从20万条初始候选中优选94条，以对硝基苯基丁酸酯（pNPB）为底物进行酯酶活性筛选，得到表现突出的pinalPETase36（图6 d）。随后，作者用纯化酶在40 ℃、pH 8.0下处理预处理PET膜，通过高效液相色谱（HPLC）检测对苯二甲酸（TPA）及单（2-羟乙基）对苯二甲酸酯（MHET）的释放，并通过扫描电镜观察材料表面变化（图6 e、f）。产物检测与表面形貌变化共同支持该候选对预处理PET底物的水解作用。

在醇脱氢酶（ADH）的设计中，作者从2500条初始序列中优选8条，成功表达纯化5条，涵盖短链、中链及铁依赖长链类型（图6 g）。在所用检测条件下，HPLC分析确认五种纯化蛋白均具有催化乙醇生成乙醛的活性（图6 h）。这表明，模型能够针对同一类功能要求，生成属于不同结构与序列类型的活性候选。

作者设计了甘氨酸裂解系统中的载体蛋白H-protein。该蛋白通过硫辛酰基摆臂转运反应中间体，需要与体系内其他组分协同作用（图6 i）。作者将候选蛋白用于逆向运行的重构甘氨酸裂解体系，检测其支持甘氨酸合成的能力。20条优选候选中，14条可溶表达，5条表现出相应功能；使用pinalH02的体系在42 ℃下反应12 h后，甘氨酸浓度达到11.1 mM，为天然大肠杆菌H-protein对照体系的1.7倍（图6 j）。

图6  GFP、PETase、ADH与H-protein的实验验证（原文Fig. 5）

综上，本工作以结构表示作为连接自然语言与氨基酸序列的中介，通过大规模蛋白质—文本配对数据训练和结构—序列候选的联合筛选，建立了从功能描述出发生成蛋白质候选的设计流程，为降低研究者将功能需求转化为具体分子设计条件的技术门槛提供了新的方法。

作者：ZZZ

DOI: 10.1038/s41586-026-11205-z

Link: https://www.nature.com/articles/s41586-026-11205-z