Brief Bioinform｜深度学习在抗体设计中的应用

基于结构的深度学习模型专注于抗体的CDR可变区，特别是CDRH3。这些模型采用了两种不同的方法:

1、第一种方法，涉及生成3D坐标来设计CDR-H3的实际骨架。例如，Ig-VAE使用变分自编码器（VAE）来嵌入和重建新的抗体骨架结构。这种方法可以受到特定结构元素的约束。这个过程包括计算全原子骨架坐标的拉马钱德兰角和距离矩阵，通过编码器-解码器网络传递，并反向传播错误以细化生成的结构（上图A）。Ig-VAE还实现了旋转和平移不变性。

2、第二种方法，预测CDR区氨基酸替换带来的ΔG变化。Shan等人提供了预测ΔG变化的一个例子，作者研究了由氨基酸替换引起的结合亲和力变化。

基于抗体结构的设计模型对比见下表：

由于获取抗体结构可能具有挑战性，因此某些深度学习模型被设计，专门从它们的序列中捕获广泛的抗体特征，如上图B和下表所示。

为什么会有蛋白语言模型？

蛋白质氨基酸序列与人类语言存在相似之处，一个有含义的语句就类似于一条有功能的蛋白序列，这一发现促进了特定于蛋白质的NLP技术的发展。

Transformer模型因其捕捉序列长距离关系的能力而成为NLP的主要模型，蛋白语言模型主要也用此列模型。蛋白语言模型具体可分为掩码语言模型（MLM），和自回归语言模型（AR），感兴趣的读者可拓展阅读《语言模型设计蛋白》。

这些模型有什么区别，或性能谁更强？

ProtBERT：直接在蛋白质数据库（如Uniref100）上训练的模型。

ESM-1b和ESM-2：蛋白质语言模型（pLM），通过无监督学习在大量蛋白质序列上训练，能学会认识二级和三级结构信息。最近ESM3模型也已经开源，感兴趣的读者可拓展阅读《全新蛋白质大模型ESM3诞生》。

AntiBERTy和AntiBERTa：基于BERT的模型，专门在抗体序列上训练，可用于表位预测和分析。

AntiBERTa在表位预测方面表现优于ProtBERT，具有较高的马修相关系数（MCC）和接收者操作特征曲线下面积（ROC-AUC）。

NanoBERT：针对纳米抗体的变换器，能准确预测特定位置的氨基酸，提高了V区重建的准确性。

抗体领域特定的语言模型（如AbLang和IgLM）在填补抗体序列数据中缺失的残基方面显示出优势，提供了不依赖于抗体胚系先前知识的解决方案。

IgLM在区分人类和非人类抗体方面表现优于ProGen2-OAS和Progen2，尽管其参数数量较少。

除了文中归纳的模型，编者补充一个基于OAS训练，考虑抗体重链和轻链配对的语言模型BALM，感兴趣的读者可阅读《基于抗体配对数据改进的抗体语言模型》。

这些算法模型的比较和性能指标，而它们的优势、局限性和应用在论文表3中有详细列出。感兴趣的读者可仔细阅读原文。

融合结构和序列信息是抗体设计中的一个前沿领域（见上图CD或下表）。通过整合这些互补的信息源，AI模型能够解读序列变化与结构适应之间的复杂关系，提供对抗体形式与功能之间复杂相互作用的洞察。例如：

RefineGNN是一个基于自回归（AR）的抗体生成模型，它迭代地细化序列和预测的全局结构。推断出的结构通过氨基酸位置和主链结构角度的图表示引导后续残基的选择，然而现有模型缺乏对特定表位的考虑。这个模型已被用于针对SARS-CoV-1和SARS-CoV-2的抗体设计。

在蛋白质设计领域，DL的最新进展显示出了希望，特别是在适应成功的抗体设计任务方面，如幻觉和扩散模型。幻觉技术使用现有的机器学习模型从随机序列生成3D蛋白质结构，通过预测α-C距离，然后通过引入突变的蒙特卡洛模拟进行结构优化和细化。细化过程旨在使生成的结构更接近真实的蛋白质结构。

FvHallucinator是一种基于幻觉的序列设计方法，它蛋白设计扩展到抗体可变区设计，使用参考结构（固定骨架设计，见上图C）产生Fv序列库。没有野生型种子，该模型的性能显著下降，大约为15-50%（CDRH3的恢复率）。幻觉技术的局限性在实验中变得明显。使用这些方法生成的结构通常在实验室环境中无法产生正确折叠的蛋白质。这些技术在设计较大的分子时也面临困难，因为它们主要关注较小的蛋白质。

扩散涉及向蛋白表示中引入噪声，直到它们变成高斯噪声。之后，训练一个DL模型来逆转这一过程，将噪声转化为现实的蛋白质结构。对于蛋白质设计，最有趣的方法之一是RFdiffusion，它建立在RosettaFold的微调版本之上。利用扩散模型进行抗体结构和序列的共设计，这类算法有：

DiffAb，这是一个深度生成模型，结合了去噪扩散概率模型（DDPM）和等变神经网络，用于CDRs的序列和结构共同设计。然而，DiffAb需要一个相对于抗原的抗体框架的起始结构。

AbDiffuser可以独立地共同设计可变长度的序列和结构，消除了对起始结构的需求。然而，它没有考虑抗原或表位。

Cohen等人介绍了EAGLE，这是一种基于扩散的抗体序列设计新模型。EAGLE可以使用ESM嵌入生成各种长度的抗体序列，在不需要输入骨架结构的连续空间中操作。该模型通过CLIP模块在训练过程中纳入表位结构信息。

结构和序列的抗体设计模型的对比

虽然扩散模型在塑造具有简单功能的蛋白质方面表现出色，但它们在处理像抗体这样的复杂结构时面临挑战，并且在创造完全新颖的序列方面存在困难。这些算法归纳在下表或论文中的表4。

尽管抗体设计技术对于在各种任务中增强数据非常有价值，但它们通常依赖于AAR类型的度量标准，忽视了不同的抗体序列可以结合到同一抗原的可能性。因此，验证这些方法学需要费力且资源密集的体外测试。一个可能的解决方案是识别与抗体特性一致的设计度量标准，并探索DL方法来评估可开发性。

DL方法的进步在优化抗体开发工作流程和提高生物治疗药物的有效性和可扩展性方面显示出了前景。

--------- End ---------