RANEDDI：用于药物-药物相互作用预测的关系感知网络嵌入

原创 AI in Graph AI in Graph

欢迎向本公众号投稿文献解读类原创文章，投稿邮箱：1298332329@qq.com，请将稿件以附件形式发送。海内外招生、访学、招聘等稿件，请联系微信：17300921889。

作者 | 黄紫阳

审核 | 王宏准

今天介绍的是西北工业大学施建宇老师、于会老师发表在Information Sciences上的一篇文章“RANEDDI: Relation-aware network embedding for drug-drug interaction prediction”。本文提出了一种基于多关系网络的药物嵌入学习方法，用来预测药物-药物相互作用。

1.摘要

目前，针对药物相互作用的下游预测任务，提出了多种基于药物相互作用(DDI)网络的药物嵌入方法。最流行的方法之一是通过聚合邻近药物的特征或信息，从DDI网络中学习药物的表示。然而，现有的方法没有考虑药物间关系的具体类型，导致嵌入学习过程不完整。考虑到药物之间不同的关系对药物嵌入的影响可能不同，将药物的多关系嵌入与关系感知的网络结构嵌入相结合，有助于提高DDI的预测。因此，本文提出了一种预测药物-药物相互作用的关系感知网络嵌入模型(RANEDDI)。RANEDDI不仅考虑了药物间的多关系信息，而且将关系感知网络结构信息集成到多关系DDI网络的拓扑结构中，得到药物嵌入。

2.模型介绍

给定一个多关系DDI网络

，D是药物集合，R是药物相互作用类型集合。三元组

表示药物di和药物dj存在反应r。RANEDDI的主要任务是预测药物对之间是否存在相互作用（任务1）或特定的相互作用类型（任务2）。

RANEDDI的框架如上图所示。RANEDDI以网络

为输入，不同颜色的边表示不同的反应关系，

之间的虚线表示RANEDDI要预测的药物间相互作用。模型首先使用RotatE来学习每个药物实体di的多关系嵌入

。然后，利用关系感知的信息传播机制，从di的邻居中提取网络结构嵌入

。通过聚合

和

得到药物的最终嵌入，被用于任务1或任务2的预测，两个预测任务的总损失分别为

和

。

2.1 基于RotatE模型的多关系嵌入学习

RotatE模型是一种知识图谱嵌入方法，能够建模和推断多种关系模式：对称/反对称、逆关系和组合关系。相较于其他多关系嵌入方法，RotatE能更好的建模对称关系，DDI是一个无向网络，其边是对称的，因此，本文采用RotatE作为多关系网络嵌入方法。

在RotatE中，实体和关系被映射到一个复向量空间。对于每个实体或关系

，其嵌入表示为

，其中

表示一个维数为v的复向量空间。

的每一个元素

是一个复数。对于三元组

， RotatE将实体和关系映射到复向量空间，并将每个关系定义为从头实体到尾实体的旋转，每个三元组嵌入的打分为：

表示x的L2范数，为Hadamard积，分数越高，说明di在复向量空间中被关系r旋转后，距离dj越近，说明di和dj之间存在关系r的边的可能性越大。通过将每个关系定义为复向量空间中的旋转，RotatE可以建模并推断所有关系类型，以捕获多关系信息。

负采样已被证明是学习知识图嵌入的有效方法，在RANEDDI中，RotatE模型的负样本定义为

，通过随机替换正样本的尾实体得到。于是，多关系嵌入的损失函数定义为：

在RANEDDI中，RotatE通过迭代训练来学习实体的多关系嵌入，之后将其作为初始值用以提取网络结构信息。

2.2 关系感知的网络结构嵌入学习

为了获得药物的网络结构嵌入，本文提出了一种关系感知的信息传播机制。其主要思想是，从一个实体的不同关系的邻居处传播的信息应该是不同的。因此，在提取网络结构信息的过程中，考虑了不同的关系。关系感知网络结构嵌入学习的过程如下图所示：

对于药物di，使用

表示三元组的集合，其中di是头实体，dj是关系r下的尾实体的邻居。对于每个关系r，从dj中提取信息，定义为：

其中，，表示向量拼接，表示x的实数部分，表示x的虚数部分。是dj在关系r下的信息，，其中是与r有关的参数矩阵。考虑到从邻域传播的信息量可能不同，模型为每个实体分配了一个权值参数，该参数可以在训练过程中进行更新。

由于模型将一个参数矩阵Mr分配给每个关系r，这将导致嵌入学习中参数数量的增加，可能存在过拟合的风险。于是将Mr表示为

，

是一个由所有关系共享的参数矩阵，超参数B定义了的总数，

是r相对于

的偏置系数。

将药物dj的信息在r及其原始信息的关系下传播后，通过在每个关系下累加来自di邻居的信息，得到di的关系感知网络结构嵌入：

2.3 DDI预测

对于药物di，已得到了其多关系嵌入

和关系感知网络结构嵌入

。然后，作者使用GraphSage聚合的方法将它们组合起来，通过对

和

执行非线性转换来获得药物最终的嵌入：

其中是一个转换矩阵，

对于任务1，即二元DDI预测，直接使用药物最终嵌入的内积作为相互作用强度。也就是说，给予一对药物

，其相互作用强度为

该任务的损失函数为

对于任务2，即多关系DDI预测，需要预测药物对之间每一种相互作用类型的概率。作者使用一个深度神经网络(DNN)作为预测器。DNN可以发现输入和输出之间的线性或非线性关系，在分类和预测等任务中非常受欢迎。对于药物对

，以

作为DNN的初始输入，l层DNN的输出为：

DNN预测器的最终输出是每种药物对间相互作用类型的概率：

该任务的损失函数为

3.实验结果

为了评估RANEDDI，作者基于从DrugBank收集的数据集和DeepDDI数据集上在二元DDI预测（任务1）和多关系DDI预测（任务2）上进行了实验比较，结果如下：

从表1可以发现，在两个数据集上，RANEDDI都给出了更好的结果。DeepDDI性能始终优于DPDDI和SkipGNN。主要原因可能是DeepDDI使用了药物特征(分子指纹)，而在其他两种方法中，药物表示是随机初始化的。因此，当有足够的药物对特征信息时，DeepDDI可以很容易地进行泛化。值得注意的是，DPDDI、SkipGNN和RANEDDI的节点嵌入都依赖于网络结构，但RANEDDI优于其他两种模型，说明所提模型能有效地从DDI网络中提取出更多有用的结构信息，且其学习嵌入更具代表性。此外，我们发现，与我们收集的数据集相比，基于网络结构的模型(即DPDDI、SkipGNN、RANEDDI)在DeepDDI数据集上的性能略有下降，而DeepDDI的性能有所提高。主要原因可能是在DeepDDI数据集中，度小于10的节点有200多个。对于这些低度节点，基于网络结构的模型无法获得足够的结构信息，导致其性能下降。

从以上分析可以看出，网络的稀疏性可能会对基于网络结构的模型的性能产生影响。为了研究稀疏性对RANEDDI的影响，我们设计了两种数据集分割策略下的实验。首先，我们比较了所有模型在不同训练集比例下的性能。我们让每个模型在我们收集的数据集中的10%、30%、50%、70%和90%的边上进行训练，并对其余的边进行预测。如图3(a)、(b)、(c)所示，横轴为训练集所占的比例，可以看出，随着训练数据量的增加，AUC、AUPR和F1度量中所有模型的预测性能都将有所提高。结果表明，在不同的训练比例下，所提出的RANEDDI具有最佳的性能;即使在训练过程中只访问了10%的数据，它仍然具有良好的性能(AUC 95.32%， AUPR 95.52%， F1 85.69%)，这表明即使在数据稀缺的情况下，RANEDDI仍然能够从多关系网络中获取更多的信息。其次，用不同程度的阈值度量稀疏性对性能的影响。在这里，我们对DeepDDI数据集进行了实验，该数据集比我们收集的数据集更稀疏。具体来说，我们对数据集进行划分，保证训练集中每个节点的度不超过预设的度阈值，剩余的数据用于测试。然而，这可能会导致一些药物可能不存在于训练集的问题。为了解决这个问题，我们去掉了这些药物，在训练集和测试集中保留相同的药物集。图3(d)、(e)、(f)为不同药度阈值下各模型的比较结果。得到了与不同训练比例下相似的结论。综上所示，RANEDDI不仅适用于密集网络(如训练比例= 0.9或度阈值= 150)，也可以应用于稀疏网络(如训练比例= 0.1或度阈值= 30)，说明RANEDDI具有良好的鲁棒性。

在任务2中，我们预测药物对的特定相互作用类型。与任务1类似，我们使用90%的数据集进行训练，剩下的10%用于测试。对于DDIMDL，我们选择化学亚结构和药物相关蛋白作为特征来构建相似性矩阵，并使用每个特征或特征组合来进行预测。收集到的数据集上的平均结果如表2所示。在DeepDDI数据集中，由于很多药物的蛋白质特征都没有得到，所以我们在比较实验中只使用化学亚结构作为输入，平均结果如表3所示。从表2和表3中，对比结果表明，在多关系DDI预测中，RANEDDI在不同指标上都优于基线方法。

此外作者进行了消融实验，用以说明模型的性能，实验细节及结果，请参考原文。

4.总结

在本文中，作者提出了一种端到端的学习模型，称为RANEDDI，用于药物-药物相互作用(DDI)预测。不同于现有的方法，RANEDDI假定不同的关系对药物嵌入可能有不同的影响,通过结合DDI网络的多关系信息和关系感知的网络结构信息，RANEDDI可以学习更富有表现力的药物表示。这对DDI预测的下游任务有一定的帮助。利用两个真实数据集，将所提出的方法与几种最先进的基线方法进行了比较，结果表明，RANEDDI是一种有效的方法，可用于二元关系和多关系预测。案例研究也验证了RANEDDI的性能，消融研究表明关系感知网络结构嵌入学习可以有效提高DDI预测性能。此外，RANEDDI在二元DDI预测中具有良好的鲁棒性，即使在数据稀缺的情况下，也能表现出良好的性能。

参考文献

文章地址

https://www.sciencedirect.com/science/article/pii/S0020025521009294?via%3Dihub

代码地址

https://github.com/DongWenMin/RANEDDI

扫描二维码获取