Graph Transformers研究进展综述

• 全文链接
• 请求原文

作   者：

周诚辰;  于千城;  张丽丝;  胡智勇;  赵明智; 

作者机构：

北方民族大学计算机科学与工程学院; 

关键词：

图神经网络;  Graph Transformers(GTs);  异构图;  图表示学习; 

期刊名称：

计算机工程与应用

i s s n：

1002-8331

年卷期：

2024 年 014 期

页   码：

37-49

摘   要：

随着图结构数据在各种实际场景中的广泛应用，对其进行有效建模和处理的需求日益增加。Graph Transformers(GTs)作为一类使用Transformers处理图数据的模型，能够有效缓解传统图神经网络（GNN）中存在的过平滑和过挤压等问题，因此可以学习到更好的特征表示。根据对近年来GTs相关文献的研究，将现有的模型架构分为两类：第一类通过绝对编码和相对编码向Transformers中加入图的位置和结构信息，以增强Transformers对图结构数据的理解和处理能力；第二类根据不同的方式（串行、交替、并行）将GNN与Transformers进行结合，以充分利用两者的优势。介绍了GTs在信息安全、药物发现和知识图谱等领域的应用，对比总结了不同用途的模型及其优缺点。最后，从可扩展性、复杂图、更好的结合方式等方面分析了GTs未来研究面临的挑战。