论文《Link Prediction on Latent Heterogeneous Graphs》阅读

论文《Link Prediction on Latent Heterogeneous Graphs》阅读

  • 论文概况
  • Introduction
  • LHGNN
    • A.语义嵌入
      • a.节点级语义嵌入
      • b.路径级语义嵌入
    • B.潜在异构上下文聚合
      • a.上下文个性化
      • b.上下文聚合
    • C.链路预测
      • a.链路编码器
      • b.损失函数
  • 总结

论文概况

在这里插入图片描述

本文是2023年WWW上的一篇论文,假设异质图上没有给出类型信息,本文定义了潜在异构图(LHG),它携带潜在的异构语义,因为节点/边的类型不能被观察到。为了解决类型信息缺失的问题,提出了LHGNN的模型,基于节点和路径级语义嵌入的新思想,以捕获节点上和节点之间的潜在语义。

Introduction

在潜在异构图上进行链路预测有如下挑战:

  • 如何在没有任何类型信息的情况下捕获节点上和节点之间的潜在语义?
  • 由于目标节点的上下文节点携带潜在的异构语义,因此如何区分它们,实现更细粒度的上下文聚合?

对于上述挑战,作者提出了LHGNN模型:(1)学习节点级别和路径级别的潜在语义(2)聚合消息的潜在异构上下文

LHGNN

在这里插入图片描述
利用LHG作为输入,其中的LHGNN层可以进行多层堆叠,最后一层输出节点表示,进一步输入链路编码器,用于链路预测任务。LHGNN层是核心组件,它由两个子模块组成:一个是学习节点级别和路径级别潜在语义的语义嵌入模块,另一个是聚合消息的潜在异构上下文聚合模块

A.语义嵌入

语义嵌入的目标是同时建模节点级和路径级的潜在语义。

a.节点级语义嵌入

在这里插入图片描述

对于每个节点,有两个嵌入:主嵌入hv,语义嵌入Sv。hv捕获节点的总体内容和结构信息。Sv由语义编码器生成,用于捕获节点潜在的语义信息(例如,节点类型信息、节点之间单跳或多跳关系信息)。
在这里插入图片描述
(hv进行线性变换,能否捕获潜在信息还存疑)

b.路径级语义嵌入

在这里插入图片描述
在LHG上,由于节点之间的异构多跳关系,路径可能携带不同的潜在语义。
在HIN中,为了从不同的上下文节点捕获异构语义,元路径一直是一个流行的工具。但是,在LHG上,无法访问节点类型,因此无法定义或使用任何元路径。
因此,使用路径编码器与路径相关联的节点级语义嵌入融合到路径级嵌入中。路径级语义嵌入试图模拟元路径在HIN上的作用,以捕获节点之间潜在的异构语义
具体地说,首先执行随机游走采样一组路径。从每个目标节点开始,进行N次随机游走,每次采样获得的不同长度的路径可以捕获不同范围的潜在语义。接下来,对于每个路径 ,路径编码器对其进行编码,以生成路径级语义嵌入 。
“随机游走的思想可以借鉴”
在这里插入图片描述

B.潜在异构上下文聚合

在这里插入图片描述

a.上下文个性化

具体来说,使用可学习的转换函数个性化u到v的信息,它调制u的原始信息(即从前一层的主要嵌入)到个性化信息。
在这里插入图片描述
在这里插入图片描述

γ和β都是可学的向量,而且是对于每个路径p都是特定的
在这里插入图片描述

b.上下文聚合

在这里插入图片描述
𝐿(𝑝) 是路径的长度𝑝,指数作为一个加权方案,偏向于更短的路径。
最后得到第l层,节点v的主嵌入hv
在这里插入图片描述

C.链路预测

在这里插入图片描述

a.链路编码器

在这里插入图片描述
S𝑎,𝑏:节点a,b之间的潜在关系,W, U ,b都是可以学习的向量

b.损失函数

训练时的损失函数:受知识图中的翻译模型的启发,采用三元组损失函数
在这里插入图片描述
FiLM中的缩放和移位添加了约束:(FiLM:特征线性变换,见公式4)
在这里插入图片描述
在这里插入图片描述

总结

LHGNN的创新点是在未知网络节点和边类型的情况下获取节点级和边级潜在语义信息进行链路预测。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/129744.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

vue3+elementui实现表格样式可配置

后端接口传回的数据格式如下图 需要依靠后端传回的数据控制表格样式 实现代码 <!-- 可视化配置-表格 --> <template><div class"tabulation_main" ref"myDiv"><!-- 尝试过在mounted中使用this.$refs.myDiv.offsetHeight,获取父元素…

【技能树笔记】网络篇——练习题解析(五)

目录 前言 一、应用层的作用 1.1 应用层的作用 二、HTTP协议 2.1 HTTP协议 三、FTP协议 3.1 FTP协议 四、DNS协议 4.1 DNS协议 五、DHCP协议 5.1 DHCP协议 六、邮件协议 6.1 电子邮件协议 总结 前言 本篇文章给出了CSDN网络技能树中的部分练习题解析&#xff0c…

论文阅读--Cell-free massive MIMO versus small cells

无蜂窝大规模MIMO与小蜂窝网络 论文信息 Ngo H Q, Ashikhmin A, Yang H, et al. Cell-free massive MIMO versus small cells[J]. IEEE Transactions on Wireless Communications, 2017, 16(3): 1834-1850. 无蜂窝大规模MIMO中没有小区或者小区边界的界定&#xff0c;所有接入…

idea将jar包deploy到本地仓库

1、pom.xml文件引入配置&#xff0c;如下参考&#xff1a; <distributionManagement><snapshotRepository><id>maven-snapshots</id><url>http://nexus1.coralglobal.cn/repository/maven-snapshots/</url></snapshotRepository><…

Reactor网络模式

文章目录 1. 关于Reactor模式的了解2. 基于Reactor模式实现epoll ET服务器2.1 EventItem类的实现2.2 Reactor类的实现Dispatcher函数AddEvent函数DelEvent函数EnableReadWrite函数 2.3 四个回调函数的实现acceptor回调函数recver回调函数sender回调函数errorer回调函数 3. epol…

论文阅读笔记(Clover: 计算与存储被动分离的分布式键值存储系统)

关于Disaggregating Persistent Memory and Controlling Them Remotely: An Exploration of Passive Disaggregated Key-Value Stores这篇论文的笔记 原文链接 提出背景 传统的分布式存储系统中&#xff0c;每个节点都会包含计算和存储两个部分&#xff0c;一个节点既可以访…

自监督DINO论文笔记

论文名称&#xff1a;Emerging Properties in Self-Supervised Vision Transformers 发表时间&#xff1a;CVPR2021 作者及组织&#xff1a; Facebook AI Research GitHub&#xff1a;https://github.com/facebookresearch/dino/tree/main 问题与贡献 作者认为self-supervise…

数据结构———— 堆

(一)基础补充 满二叉树是每一层节点都放满的二叉树。 完全二叉树是只有最后一层节点右边不放满的二叉树。 满二叉树(Perfect Binary Tree) 如果二叉树中除了叶子结点,每个结点的度都为 2,则此二叉树称为满二叉树。另一种说法:一个深度为k(>=-1)且有2^(k+1) - 1个结…

智慧安防AI视频智能分析云平台EasyCVR加密机授权小tips

视频云存储/安防监控EasyCVR视频汇聚平台基于云边端智能协同&#xff0c;支持海量视频的轻量化接入与汇聚、转码与处理、全网智能分发、视频集中存储等。音视频流媒体视频平台EasyCVR拓展性强&#xff0c;视频能力丰富&#xff0c;具体可实现视频监控直播、视频轮播、视频录像、…

万万没想到,我用文心一言开发了一个儿童小玩具

最近关注到一年一度的百度世界大会今年将于10月17日在北京首钢园举办&#xff0c;本期大会的主题是“生成未来&#xff08;PROMPT THE WORLD&#xff09;”。会上&#xff0c;李彦宏会做主题为「手把手教你做AI原生应用」的演讲&#xff0c;比较期待 Robin 会怎么展示。据说&am…

回归算法全解析!一文读懂机器学习中的回归模型

目录 一、引言回归问题的重要性文章目的和结构概览 二、回归基础什么是回归问题例子&#xff1a; 回归与分类的区别例子&#xff1a; 回归问题的应用场景例子&#xff1a; 三、常见回归算法3.1 线性回归数学原理代码实现输出例子&#xff1a; 3.2 多项式回归数学原理代码实现输…

黑盒测试方法:原理+实战

目录 一、如何设计测试用例 二、黑盒测试常用方法 1、基于需求进行测试用例的设计 2、等价类 3、边界值 4、判定表分析法&#xff08;因果分析法&#xff09; 5、正交表 6、场景设计法 三、案例补充 1、使用Fiddler模拟弱网 2、针对一个接口该如何测试 一、如何设计测试…