什么是图神经网络

当这两种技术融合在一起时,就可以创造出一些新颖、奇妙的东西——比如手机和浏览器融合在一起,产生了智能手机。

如今,科研人员正在将人工智能发现模式的能力应用于存储各种数据点之间关系信息的大型图数据库。与此同时,就产生了一种强大的新工具,称为图形神经网络。

什么是图神经网络?

图神经网络将深度学习的预测能力应用于丰富的数据结构上,这些数据结构将对象及对象之间的关系描述为图形中由线连接的点。

在GNN中,数据点被称为节点,连接这些点的线被称为边,将上述概念使用数学元素进行表达,机器学习算法就可以在节点、边或整个图的层次上做出有用的预测。

GNN能做什么?

越来越多的公司正在应用GNN来进行药物研发、欺诈检测和推荐系统。这些应用程序都需要查找数据点之间的关系模式。

研究人员正在探索GNN在计算机图形学、网络安全、基因组学和材料科学中的应用。最近的一篇论文报道了GNN如何使用交通地图作为图来改进对到达时间的预测。

许多科学和工业分支已经将有价值的数据存储在图数据库中。通过深度学习,他们可以训练预测模型,从图中挖掘出新的见解。

 

9cb7d7b4b7e5510fdb52f1872b2eb5b9.png

AWS高级首席科学家乔治·卡皮斯(George Karypis)在今年早些时候的一次演讲中表示:“GNN是深度学习研究中最热门的领域之一,我们看到越来越多的应用程序利用GNN来提高其性能。”。

其他人也同意。斯坦福大学副教授朱尔·莱斯科维奇(Jure Leskovec)在最近的一次演讲中表示,GNN“因其对复杂关系建模的灵活性而备受关注,这是传统神经网络无法做到的。”。

 

03e269844c2614d5c226ec0eab1c0fd4.png

谁在使用GNN?

亚马逊在2017年报告了其在欺诈检测中对于GNN的应用。2020年,它推出了一项公共GNN服务,其他人可以将其用于欺诈检测、推荐系统和其他应用。

为了保持客户的高度信任,亚马逊搜索使用GNN来检测恶意卖家、买家和产品。使用NVIDIA GPU,它能够探索具有数千万个节点和数亿条边的图形,同时将训练时间从24小时减少到5小时。

生物制药公司GSK工智能全球负责人金·布兰森(Kim Branson)在GNN研讨会的一个小组上表示,该公司维护着一个包含近5000亿个节点的知识图谱,这些节点用于其许多机器语言模型。

LinkedIn的高级软件工程师Jaewon Yang在研讨会上的另一个小组上表示,LinkedIn使用GNN进行社交推荐,并探索人们的技能与职位之间的关系。

GNN是如何工作的?

到目前为止,深度学习主要关注图像和文本,他们可以描述成词序列或像素网格的结构化数据。相比之下,图是非结构化的。它们可以采用任何形状或大小,并包含任何类型的数据,包括图像和文本。

GNN使用一个称为消息传递的过程来组织图,以便机器学习算法可以使用它们。

消息传递将有关其邻居的信息嵌入到每个节点中。人工智能模型利用嵌入的信息来发现潜在模式并做出预测。

 

a5d90b40e4dd876884d6fa912f94c667.png

 

例如,推荐系统使用一种节点嵌入的形式来匹配客户和产品。欺诈检测系统使用边缘嵌入来发现可疑交易,药物发现模型比较整个分子图以找出它们之间的反应。


GNN有两个独特的特性:它们使用稀疏数学,模型通常只有两到三层。其他人工智能模型通常使用密集数学,并具有数百个神经网络层。

 

99b575525dda3ead1367be876bb6b4eb.png

GNN的历史

一个意大利研究人员于2009年发表的一篇论文首次定义图神经网络。但阿姆斯特丹的两名研究人员花了八年时间才用一种称为图卷积网络(GCN)的变体展示了他们的能力,并成为当今最流行的GNN之一。

GCN的工作启发了莱斯科维奇和他的两名斯坦福研究生,以此创建了GraphSage,这是一个GNN,展示了消息传递功能的新工作方式。他于2017年夏天在Pinterest进行了测试,并担任首席科学家。

 

766cfbcbe0d847ddf469be44c905e0ec.png

他们的实现:PinSage是一个推荐系统,它包含了30亿个节点和180亿个边缘,性能超过当时的其他人工智能模型。

与此同时,出现了其他变体和混合体,包括图递归网络和图注意力网络。GAT借鉴了transformer模型中定义的注意力机制,帮助GNN专注于最感兴趣的数据集部分。

 

 

03bd896cfe577765f614940ec2d6df3e.png

Scaling Graph Neural Networks

展望未来,GNN需要在所有维度上进行扩展。

尚未维护图数据库的组织需要工具来简化创建这些复杂数据结构的工作。

使用图数据库的人知道,在某些情况下,他们正在迅速增长,在单个节点或边缘上嵌入了数千个特征。这带来了数据存储和传输的挑战。

伊顿表示:“我们提供的产品最大限度地提高了系统的内存、计算带宽和吞吐量,以解决数据加载和扩展问题。”。

作为这项工作的一部分,NVIDIA在GTC上宣布,除了深度图库(DGL)之外,它现在还支持PyTorch Geometric(PyG)。这是两个最流行的GNN软件框架。

 

0fec62e494b04e85a2cef2b1434aa3ab.png

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/205454.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

OCR是什么意思,有哪些好用的OCR识别软件?

1. 什么是OCR? OCR(Optical Character Recognition)是一种光学字符识别技术,它可以将印刷体文字转换为可编辑的电子文本。OCR技术通过扫描和分析图像中的文字,并将其转化为计算机可识别的文本格式,从而…

webGL技术开发的软件类型

WebGL 是一种在浏览器中渲染 2D 和 3D 图形的 JavaScript API。通过 WebGL,你可以创建各种类型的软件项目,特别是那些需要强大图形渲染能力的项目。以下是一些你可以使用 WebGL 实现的软件项目类型,希望对大家有所帮助。北京木奇移动技术有限…

微博头条文章开放接口报错 auth by Null spi

接口文档地址 https://open.weibo.com/wiki/Toutiao/api 接口说明 https://api.weibo.com/proxy/article/publish.json 请求方式 POST 请求参数 参数名称类型是否必需描述titlestring是文章标题,限定32个中英文字符以内contentstring是正文内容,限制9…

黑苹果新手指导:名词解释常用软件常见问题说明

黑苹果新手指导:名词解释&常用软件&常见问题说明 写在前面名词解释系统篇引导篇工具篇 常见问题安装篇如何安装黑苹果?安装过程中卡在一排号怎么办?AMD处理器可以安装黑苹果 macOS吗?我的笔记本电脑为什么不能驱动独立显卡…

重生奇迹mu格斗怎么加点

1.力量加点 力量是格斗家的主要属性之一,它可以增加你的攻击力和物理伤害。因此,对于格斗家来说,力量加点是非常重要的。建议在前期将大部分的加点放在力量上,这样可以让你更快地杀死怪物,提高升级速度。 2.敏捷加点…

Java 环境其他下载2

1 Eclipse Temurin Latest Releases | Adoptium Eclipse Temurin 是由基于 OpenJDK 的开源 Java SE 产生的构建版本。Temurin 适用于 广泛的平台 以及诸多 Java SE 版本。以下列出了推荐用于生产的最新版本,并且定期由 Adoptium 社区发布更新和支持。迁移帮助、容器…

python网络通信之基础知识填坑

文章目录 版权声明网络通信要素IP地址ifconfig和ping命令ifconfig (Interface Configuration)ping 端口和端口号的介绍端口号的分类socket介绍TCPTCP简介TCP的特点 UDPUDP简介UDP特点 版权声明 本博客的内容基于我个人学习黑马程序员课程的学习笔记整理而成。我特此声明&#…

ChatGPT 使用入门

背景 ChatGPT是一个强大的聊天机器人助手,内置了大量的互联网知识文档,且具有上下文记忆,可以帮我们快速地查找一些资料,了解一个知识,帮我们回答问题,编写代码等。此外,在使用ChatGPT时具有一…

AIGC 点亮创作之旅,「重内容」行业也能轻装出发

毋庸置疑,AIGC 的普及成为了内容产业的一束光。 不仅策划们可以从信息挖掘、素材调用、修改编辑等基础文案工作中解放出来,美术也成为 AIGC 的应用强项,基本的加文字、换背景、改尺寸、延展素材等,都能快速解决。 内容创作者们也因…

2014年3月13日 Go生态洞察:并发模式与管道取消技术

🌷🍁 博主猫头虎(🐅🐾)带您 Go to New World✨🍁 🦄 博客首页——🐅🐾猫头虎的博客🎐 🐳 《面试题大全专栏》 🦕 文章图文…

shell基础

一.Shell脚本编程概述 1.基本概念 将要执行的命令按顺序保存到一个文本文件; 给该文件可执行权限; 可结合各种Shell控制语句以完成更复杂的操作。 2.作用 Linux系统中的Shell是一个特殊的应用程序,它介于操作系统内核与用户之间&#x…

优化3种教学方法

在教育领域,教学方法对于学生的学习成果和兴趣至关重要。 第一种是项目式学习。这种方法鼓励学生通过完成实际的项目来获取知识,而不仅仅是在课堂上听讲。学生需要在实际操作中解决问题,这能培养他们的创新思维和实践能力。项目式学习还能提高…