论文介绍
论文是2019年定稿的,算是比较陈旧的论文,综述性质的论文。
论文发表于IEEE Transactions on Neural Networks and Learning Systems, 2021。质量挺高的。
论文主要工作
论文提出了一个新的图神经网络的分类方法,把图神经网络分为四类:循环图神经网络,卷积图神经网络,图自动编码器,时空图神经网络
概述了图神经网络领域的各个算法,数据集,基准数据集,最优算法,分析现有方法的局限性
GNN的比较
GNN和网络嵌入
GNN旨在以端到端的方式解决与图相关的任务,网络嵌入式在将网络节点表示为低维向量,主要区别是GNN是一组为各种任务设计的神经网络模型,而网络嵌入涵盖了针对同一个任务的各种方法
GNN和图核方法
图核方法可以通过映射函数将图或节点嵌入到向量空间,两者不同之处是映射函数是确定的而非学习得到。
GNN的分类
RecGNN旨在学习具有递归神经架构的节点表示,图中的节点不断与其邻居交换信息,最终达到平衡状态
ConvGNN的主要思想是聚合它自己的特征和邻居的特征来生成新的特征表示,堆叠多个图卷积层以提取高级节点表示
GAE为无监督学习框架,将节点或图编码到潜在向量空间并从编码信息中重新建图数据
STGNN的关键思想是同时考虑空间依赖性和时间依赖性,旨在从时空图中学习隐藏信息
GNN的训练方式
节点级别的半监督学习方法:给定一个部分节点被标记而其他节点未标记的单个网络,可以训练ConvGNN来识别未标记的节点
图级别的监督学习:目的是预测整个图的类标签,可以构建端到端的图分类架构,组合了图卷积层,图池化层和readout层
图嵌入的无监督学习:当图中没有可用的标签,可以在端到端框架中以完全无监督的方式学习图嵌入
循环神经网络
基于信息扩散机制,GNN通过循环交换邻域信息来更新节点的状态,直到平衡状态。
节点的隐藏状态由以下方式循环更新
门控图神经网络采用门控循环单元GRU作为循环函数
卷积图神经网络
使用固定数量的层在每一层中使用不同的权重来解决循环相互依赖的关系。分为两种,基于spectral和基于spatial两种,
spectral-based的通过从图信号处理的角度引入滤波
spatial-based的继承了RecGNN的思想,通过信息传播来定义图卷积
图自动编码
网络嵌入
图生成
时空图神经网络(SPATIAL-TEMPORAL GRAPH NEURAL NETWORKS)
该方法是捕捉图的动态性,基于连接节点之间的相互依赖关系这个假设条件,对动态节点输入进行建模。
同时捕获图的空间和时间依赖性,任务是可以预测未来的节点值或标签
数据集的应用和评估
节点分类
大多数方法都遵从基准数据集 cora,citeseer,pubmed,PPI的标准划分
图分类
实验设置比较模棱两可,通常采用10折交叉验证来进行模型评估。
选择的基准数据集如下
节点分类中最常见的数据集测试结果
总结
论文梳理了GNN领域,根据模型的差异区分了四种不同的子类。目前对无监督的还不是很熟悉,待定后面继续深入研究。