Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）

【Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）】的更多相关文章

Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）

今天,主要和大家分享一下最近研究的卷积网络和它的一些变种. 首先,介绍一下基础的卷积网络. 通过PPT上的这个经典的动态图片可以很好的理解卷积的过程.图中蓝色的大矩阵是我们的输入,黄色的小矩阵是卷积核(kernel,filter),旁边的小矩阵是卷积后的输入,通常称为feature map. 从动态图中,我们可以很明白的看出卷积实际上就是加权叠加. 同时,从这个动态图可以很明显的看出,输出的维度小于输入的维度.如果我们需要输出的维度和输入的维度相等,这就需要填充(padding). 现在我们来看…

图卷积神经网络(GCN)入门

图卷积网络Graph Convolutional Nueral Network,简称GCN,最近两年大热,取得不少进展.不得不专门为GCN开一个新篇章,表示其重要程度.本文结合大量参考文献,从理论到实践,从由来到数学推导,讲述GCN的发展和应用. 综述在扎进GCN的汪洋大海前,我们先搞清楚GCN是做什么的,有什么用.深度学习一直都是被几大经典模型给统治着,如CNN.RNN等等,它们无论再CV还是NLP领域都取得了优异的效果,而GCN主要是针对图结构的.社交网络.信息网络中有很多类似的结构.实际…

Graph Neural Networks：谱域图卷积

以下学习内容参考了:1,2, 0.首先回忆CNN,卷积神经网络的结构和特点处理的数据特征:具有规则的空间结构(Euclidean domains),都可以采用一维或者二维的矩阵描述.(Convolutional neural network (CNN) gains great success on Euclidean data, e.g., image, text, audio, and video). 什么是卷积:卷积即固定数量邻域结点排序后,与相同数量的卷积核参数相乘求和. 离散卷积本质就…

译：Local Spectral Graph Convolution for Point Set Feature Learning-用于点集特征学习的局部谱图卷积

标题:Local Spectral Graph Convolution for Point Set Feature Learning 作者:Chu Wang, Babak Samari, Kaleem Siddiqi 译者:Elliott Zheng 来源:ECCV 2018 Abstract 点云的特征学习已经显示出巨大的希望,引入了有效且可推广的深度学习框架,例如pointnet ++. 然而,到目前为止,点特征已经以独立和孤立的方式被抽象,忽略了相邻点的相对布局及其特征.在本文中,我们建议…

最全面的图卷积网络GCN的理解和详细推导，都在这里了!

目录目录 1. 为什么会出现图卷积神经网络? 2. 图卷积网络的两种理解方式 2.1 vertex domain(spatial domain):顶点域(空间域) 2.2 spectral domain:频域方法(谱方法) 3. 什么是拉普拉斯矩阵? 3.1 常用的几种拉普拉斯矩阵普通形式的拉普拉斯矩阵对称归一化的拉普拉斯矩阵(Symmetric normalized Laplacian) 随机游走归一化拉普拉斯矩阵(Random walk normalized Laplacian) 泛化…

CNN中各类卷积总结：残差、shuffle、空洞卷积、变形卷积核、可分离卷积等

CNN从2012年的AlexNet发展至今,科学家们发明出各种各样的CNN模型,一个比一个深,一个比一个准确,一个比一个轻量.我下面会对近几年一些具有变革性的工作进行简单盘点,从这些充满革新性的工作中探讨日后的CNN变革方向. 注:水平所限,下面的见解或许有偏差,望大牛指正.另外只介绍其中具有代表性的模型,一些著名的模型由于原理相同将不作介绍,若有遗漏也欢迎指出. 一.卷积只能在同一组进行吗?-- Group convolution Group convolution 分组卷积,最早在AlexN…