论文解读-Graph neural networks: A review of methods and applications

news/2024/12/12 19:56:58/文章来源:https://www.cnblogs.com/zhang-yd/p/18596370

 

论文介绍

这篇论文是图神经网络领域的综述性质的文章,从各个论文里面凝聚和提取了很多精炼的信息和观点,值得一读。

论文是2020年成稿投出去的,有点陈旧的。

 

GNN的介绍

在introduction里面对比了GNN和CNN,表示出CNN的关键是局部连接,共享权重,和多层的使用。其中CNN操作的是常规欧几里得空间内的数据

而CNN的卷积核很难针对非欧式空间的数据进行采集。

 从上面的例子可以看出,CNN的整个图像,自带空间信息, 卷积共享权重一方面可以降低参数量,另外一方面可以定义卷积操作的信息提取能力。

而GCN的关键是:通过领接矩阵A对节点特征进行聚合,用于更新某节点特征。而GCN的基于的假设是:节点的特征与其邻居特征节点有着密切的关系,并且距离越近的邻居关系越大

 而GCN的卷积算子定义为:

class GraphConvolution(nn.Module):def __init__(self, input_dim, output_dim, use_bias=True):super(GraphConvolution, self).__init__()self.input_dim = input_dimself.output_dim = output_dimself.use_bias = use_biasself.weights = nn.Parameter(torch.Tensor(input_dim, output_dim))if self.use_bias:self.bias = nn.Parameter(torch.Tensor(output_dim))else:self.register_parameter('bias', None)self.reset_parameters()def reset_parameters(self):init.kaiming_uniform_(self.weights)if self.use_bias:init.zeros_(self.bias)def forward(self, adjacency, input_feature):support = torch.mm(input_feature, self.weights)output = torch.sparse.mm(adjacency, support)if self.use_bias:output += self.biasreturn output

  

从上面的代码可以看出,每次乘以拉普拉斯矩阵,表示着聚合了本节点和领居节点的特征。其中两个GraphConvolutionLayer的结合,可以聚合了其邻居节点的邻居节点。

由此可以看出每次多一层layer,则提取的信息,可以多一跳的节点。

 

如何设计GNN

(1)从场景中确定图的结构,图的节点和边分别对应场景中的什么构件

(2)确定图的类型和规模,图是否有向,是否异构图(节点和边是否同一个类型)

(3)设计损失函数,损失函数在不同级别的,可以是节点级别,边级别和图的级别

(4)使用不同的计算模块搭建模型,传播模块,采样模块,池化模块都可以用来组合GNN。

 

无监督学习中训练GNN的方式

(1)图的自动编码 (Graph auto-encoders),可以用于节点聚类和链路预测的场景中

(2)对比学习(Contrastive learning),通过图级表示和不同级别的节点结构的互信息最大化来进行学习图信息

 

 

GNN的分析

(1)图信号处理
最早处理图卷积的是拉普拉斯平滑,对特征矩阵进行平滑,能够提取到附近节点的特征。拉普拉斯平滑的理论基础是同质性假设。

(2)泛化能力
GNN的稳定性取决于滤波器的最大特征值。
注意力机制有助于GNN泛化到最大且有噪声的图

(3)表达能力
GNN的无限层和单元的表达能力需要进一步研究

(4)不变性
因为图没有节点顺序,可以置换不变或者等变线性层来构建不变的GNN

(5)可转移性
GNN的一个确定性特征是参数和图无关,具有跨图转移能力。

(6)标记效率
对于半监督学习,选择高度节点和不确定节点等信息丰富的节点,可以提高半监督的标记效率

 

 

GNN的应用

结构化场景中的应用
(1)图挖掘,例如:子图挖掘,图匹配,图分类,图聚类
(2)物理,模型根据系统当前状态和物理原理来推理下一个状态
(3)化学和生物,编码分子结构中的应用,化学反应预测,蛋白质表面的相互关系预测
(4)知识图谱,现实世界实体的集合以及实体对之间的关系。
(5)生成模型
(6)组合优化
(7)交通网络
(8)推荐系统
(9)其他应用,如股票预测,软件的路由性能优化,


在非结构化场景中的应用
(1)图片,知识图谱可以作为额外信息来指导零样本识别分类
(2)文本,主要是翻译

 

总结

论文综合指出了如何设计和应用GNN,总结得比较精炼,适合初学者。引用的文章和链接都是高质量的。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/850785.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【虚拟机】Windows(x86)上部署Win11 on ARM虚拟机

参考链接: 1. https://blog.csdn.net/XiaoYuHaoAiMin/article/details/140701250 2. https://mbd.baidu.com/newspage/data/dtlandingsuper?nid=dt_4530491488179269409&sourceFrom=search_a 第一步:安装QEMU虚拟机 1. 下载链接:https://www.qemu.org/(这个链接找到的…

VsCode插件CnBlogs博客园客户端使用体验

VsCode插件CnBlogs博客园客户端使用体验 VsCode安装以及插件安装VsCode官网下载 VsCode插件CnBlog下载地址CnBlog插件功能 1.账户登陆2.工作空间3.随笔分类4.随笔列表5.编辑MarkDown博客

MCGS读取经纬度

1.将4G通讯状态调整为GetLocationFromGaoDe的触发条件 2.取消经纬度循环赋值,减少流量消耗 资料说明: 资料为4G屏获取经纬度的样例工程 注意事项: 1.此样例仅支持4G屏,WiFi屏获取经纬度无效 2.4G驱动仅支持V1.009及以上版本,定位失败优先检查驱动版本 操作步骤:添加mcgsI…

Windows 触控笔

平板以及二合一平板均是触控屏,Laptop现在也有很多屏幕带触控 触控屏,都会配置触控笔配件,目前市场上一般是电容屏+电容笔的技术方案。 触控笔分为主动笔和被动笔,主动笔占绝大部分。主动笔是通过内部电池或电源供电的,可以主动发送信号给设备,采用电磁感应原理,通过在屏…

启动终端判断SSH是否启动

启动终端判断SSH是否启动 原理:在Linux系统启动后,会运行shell(bash、zsh等)软件的配置文件~/.bashrc​,~/.zshrc​等 ‍ ‍ 以zsh​为例,在~/.zshrc​中添加如下内容 # ...# 检查 SSH 服务是否正在运行 ssh_status=$(service ssh status)if echo "$ssh_status"…

记一次与Rocketmq的进程异常行为修复过程

rocketmq部署在docker中。 前段时间,阿里云服务器发出安全告警看到curl和startfsrv.sh,下意识地认为这是下载了一个恶意脚本,接下来把恶意脚本找到,分析内容,修复的思路就有了。 但是找到脚本之后,创建时间是2019年,同时也只是rocketmq一个正常的启动脚本。这样思路就断…

LeetCode:2717、半有序队列

LeetCode算法做题记录题目: 给你一个下标从 0 开始、长度为 n 的整数排列 nums 。 如果排列的第一个数字等于 1 且最后一个数字等于 n ,则称其为 半有序排列 。你可以执行多次下述操作,直到将 nums 变成一个 半有序排列 : 选择 nums 中相邻的两个元素,然后交换它们。 返回…

一图解锁 | 运维管理到工具体系的建设逻辑

本文来自腾讯蓝鲸智云社区用户: CanWay在数字化转型的大潮中,运维作为企业IT架构的关键环节,正面临着前所未有的挑战与机遇。如何利用先进的技术手段,提升运维效率和质量,成为业界关注的焦点。 作为数字研运解决方案的引领者,嘉为蓝鲸在数字化运维方面做了大量探索和尝试,…

基于webGL的云层动画js插件

这是一款基于webGL的云层动画js插件。该插件使用HTML5 canvas 和 WebGL API,生成可控制的多层云彩动画特效。在线演示 下载NPM安装npm install klouds --save 使用方法 ES6语法:import * as klouds from klouds 在页面中引入下面的文件。…

LoadRunner——脚本优化(二)

脚本优化 回放脚本验证成功后,可以进行添加事务、参数化、运行时设置。 事务:根据项目需要,除了衡量整个脚本的性能外,还想获取到脚本中的某一段或几段操作,例如:想知道从单击"login"按钮到显示首页这一登录过程的性能数据,以便更详细的知道具体是用户的哪些动…

用人工智能模型预测股市和加密货币的K线图

前一篇:《从爱尔兰歌曲到莎士比亚:LSTM文本生成模型的优化之旅》 前言:加密货币市场昨日大幅下跌,一天内市值蒸发逾70亿 人民币。有人可能会问,如果使用人工智能模型预测市场的涨跌,是否能避免损失?作者在此指出,加密货币市场和股市具有高度的主观性,受人为因素、情绪…

RS1MF-ASEMI小家电专用快恢复二极管RS1MF

RS1MF-ASEMI小家电专用快恢复二极管RS1MF编辑:ll RS1MF-ASEMI小家电专用快恢复二极管RS1MF 型号:RS1MF 品牌:ASEMI 封装:SMAF 特性:快恢复二极管 正向电流:1A 反向耐压:1000V 恢复时间:35ns 引脚数量:2 芯片个数:1 芯片尺寸:MIL 浪涌电流:30A 漏电流:10ua 工作温度…