#一天一个AI知识点# 什么是图卷积网络?

频道:生活应用 日期: 浏览:22

图形卷积网络(简称GCN)已经存在了几年(出生于2016年),但在过去两年中一直很受欢迎。什么是图形卷积网络?有什么用?让我们了解它:

名词的解释

图形卷积网络(简称GCN),由Thomas KPIF在2017年与图形卷积网络的纸张半监督分类中提出,这是一个非常强大,并应用深度学习图像中通常使用的卷积神经网络来绘制数据。更正式的是,图形卷积网络(GCN)是在图形数据上运行的神经网络。

卷积应用_卷积在生活应用_卷积的应用实例

有什么用?

深度学习一直以几种经典模型为主,例如CNN,RNN等。他们在CV和NLP领域都取得了出色的成绩。那么这个GCN是如何出现的呢?这是因为我们发现了许多问题,CNN和RNN无法解决或效果差 - 图形结构数据。

回想一下,当我们进行图像识别时,对象是图片,它是二维结构,因此人们发明了像CNN这样的神奇模型来提取图片的特征。 CNN的核心在于其内核,这是一个小窗口,可以在图片上翻译并通过卷积提取特征。这里的钥匙在于图像结构的翻译不变性:无论小窗口何处移动到图像,其内部结构都是完全相同的,因此CNN可以实现参数共享。这是CNN的本质。

回顾RNN系列,其对象是序列信息,例如自然语言,这是一种一维结构。 RNN专为这些序列的结构而设计。通过各种门的操作,序列之前和之后的信息相互影响。 ,从而很好地捕获了序列的特征。

上面提到的图片或语言都是欧洲空间数据,因此有一个维度的概念。欧洲空间数据的特征是其结构非常规。但是在现实生活中,实际上存在许多不规则的数据结构,通常是图形结构或拓扑结构,例如社交网络,化学分子结构,知识图等。甚至语言实际上也很复杂。树结构也是图形结构。就像图片一样,当识别目标时,我们实际上是在二维图片上的一些关键点上kaiyun全站登录网页入口,这些点也形成了图形结构。

图的结构通常非常不规则,可以被视为无限维数据,因此没有转化不变。每个节点的周围结构可能是唯一的,并且该结构的数据将立即使传统的CNN和RNN失败。自上个世纪以来,许多学者一直在研究如何处理这种类型的数据。这里出现了许多方法,例如GNN,DeepWalk,Node2Vec等。GCN只是其中之一。在这里,我们只谈论GCN,如果您有时间,我们将在以后讨论其他人。

GCN,图形卷积神经网络实际上与CNN相同,是功能提取器,除了其对象是图形数据。 GCN具有精确设计的方法来从图形数据中提取特征开yun体育app官网网页登录入口,因此我们可以使用这些功能执行节点分类,图形分类,图形数据的边缘预测,并且您可以通过途中获得图形嵌入式表示(图形嵌入)。这表明它被广泛使用。

GCN是什么样的

GCN的核心部分如下:

假设我们手头有大量的图形数据,包括n个节点(节点),每个节点都有其自己的特征。让我们设置这些节点的特征以形成N×D矩阵X,然后每个节点之间的关系也形成一个×N维矩阵Akaiyun全站网页版登录,也称为邻接矩阵。 X和A是我们模型的输入。

GCN也是一个神经网络层,其层在层之间传播的是:

在此公式中:

awaw = a+i,我是单位矩阵

波D是波A的度矩阵,公式为

H是每一层的特征。对于输入层,H为x

σ是非线性激活函数

我们不必考虑为什么要设计这样的公式。我们现在只需要知道:可以预先计算此部分,因为D波是根据A计算的,而A是我们的输入之一。

因此,对于那些不需要了解数学原理而只想应用GCN来解决实际问题的人,您只需要知道:哦,此GCN设计了一个很棒的公式,并且使用此公式可以很好地提取图形。特征。这已经足够了。毕竟,并非一切都需要了解基于需求确定的内部原则。

为了直观的理解,我们使用论文中的图片:

卷积应用_卷积在生活应用_卷积的应用实例

上图中的GCN输入一个图,每个节点的特征从X变为Z,通过几层GCN变化。但是,无论中间有多少层,节点之间的连接关系,即a。

假设我们构建了两层GCN,并且激活函数分别使用Relu和SoftMax,整体正向传播的公式为:

最后,我们计算所有标记节点的交叉熵损失函数:

您可以训练节点分类模型。由于甚至很少有节点具有标签,因此作者将其方法称为半监督分类。

当然,您还可以使用此方法进行图形分类并链接预测,只需更改损失函数即可。

怎么样?阅读后,您对GCN有一点了解吗?

网友留言(0)

评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。