看啥推荐读物
专栏名称: 将门创投
将门是一家专注于发掘及加速技术创新激活商业价值的创业公司的创投机构。将门旗下设有将门创新服务、将门技术社群以及将门投资基金。关注领域包括机器智能、物联网、自然人机交互、企业计算。
今天看啥  ›  专栏  ›  将门创投

WWW 2023 | 更少的内存,更快的速度,更高的准确度——GNN大图训练暨工具包发布

将门创投  · 公众号  · 科技创业  · 2023-10-11 08:22
近年来,图神经网络(Graph Neural Network,GNN)在图数据学习上表现出了优越的性能。然而,当面临现实世界中百万乃至亿级节点数量的大图时,现有的GNN仍面临着诸多局限性,主要包括:(1)消息传递模式中,邻居节点数量随着传播距离指数式增长,这将带来可拓展性问题和过平滑问题;(2)嵌入向量表的参数数量随着节点数量线性增长,当节点数量较多时,巨大的嵌入向量表将难以优化;(3)GNN卷积层和嵌入向量表有着不同的性质,同时优化它们可能导致次优的结果。为了克服这些问题,我们提出了xGCN——一种采用全新训练方式的GNN模型。xGCN将节点嵌入向量表视为“静态特征”,而不是需要梯度训练的参数,使用无监督的传播过程和一个DNN来更新嵌入向量,能够显著减少模型参数数量、加速模型训练,同时达到更好的预测准确率。文章在4个 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照