作者：Michaël Defferrard year：2016
CNN 通过揭示跨数据域共享的局部特征来提取输入数据或信号的局部平稳性，这些类似的特征可以用从数据中学习到的滤波器或内核进行识别。虽然 CNN 能够有效地提取空间特征，但是这些空间往往是排列整齐的矩阵（eg：图像，视频数据中的像素点等），也就是欧几里得空间数据（Euclidean Structure）。
但是，在面对非欧几里得空间（Non Euclidean Structure）数据（eg：社交网络，信息网络等）时，CNN 却无法有效地进行处理，因为该空间中的数据无法保持平稳不变性。
解决该问题的方式是在谱图理论（spectral graph theory）的背景下，提出 CNNs 的公式，它提供有用的数学背景和有效的数值方案，以在图上设计快速局部卷积滤波器。这种技术与经典 CNN 具有相似的线性计算复杂度和恒定学习复杂度，同时，对任何图结构适用。
CNN 推广到图中所需步骤，如图所示：
- 图上的局部卷积滤波器设计；
- 将图中相似的顶点组合在一起的图粗化操作；
- 将空间分辨率转化为更高滤波分辨率的图池化操作。
图上的CNN框架和（图）卷积层的四个步骤
定义卷积滤波器的两种方法：
-
空间方法（spatial approach）
思路：提取拓扑图上的空间特征，就是把每个顶点相邻的邻居找出来。但是该方法存在以下问题：
- 该方法需要按照什么条件去找中心顶点的邻居，也就是如何确定 receptive field？
- 确定receptive field之后，需要按照什么方式处理包含不同数目邻居的特征？
针对这两个问题，论文 [Learning Convolutional Neural Networks for Graphs]提出了一下思路，如下图所示：
Learning Convolutional Neural Networks for Graphs 方法介绍
- 节点序列选择：为了对图中所有的节点进行标号排序，本文引入了图标号函数，将图中的节点集合根据向心性（节点的度、中心度等）映射为有序的节点序列。从该序列中根据一定的间隔
$s$ 隔段选取$w$ 个节点构成最终的节点序列； - 邻居节点收集：对于上一步获得的节点序列中的每一个节点，利用广度优化搜索扩展邻居节点，和源节点一起构成一个
$k$ 大小的邻域集合； - 子图规范化：对于一个邻域集合的规划化过程如下图所示。对邻域集合中的每个节点按照标号函数
$k$ 进行排序，得到接受域。那么，对于节点的属性，$k$ 个节点属性值构成了一个输入通道，对于边的属性，$k2$ 个属性值也构成了一个输入通道。我们可以分别用一维的卷积层来处理这两种输入通道（对于节点属性卷积层长度为$k$ ，对于边属性卷积层长度为$k2$ ）。
局限性：虽然图卷积在空间领域是可以想象的，但是如[Bruna at.el.]所说，他存在如下问题：
- 每个顶点提取出来的neighbors不同，使得计算处理必须针对每个顶点；
- 提取特征的效果可能没有卷积好。
因此，从空间角度来说，图上的变换没有独特的数学定义。
-
频谱方法（spectral approach）
思路：通过在频谱领域中，实现带有 Kronecker delta的卷积，在图上提供一个定义明确的局部化算子。卷积定理将卷积定义为傅里叶基（Fourier basis）中对角化的线性算子。
局限性：在频谱领域定义的滤波器不是自然局部化的，并且由于$\mathcal{O}\left(n^2\right)$乘以图傅里叶基，所以平移成本很高
这些问题可以通过特殊的滤波器参数化选择解决。
在无向和连接的图$\mathcal{G}=(\mathcal{V}, \mathcal{E}, W)$上定义处理信号，其中，$\mathcal{V}$是一个
由于无法在顶点域中表达有意义的转换操作，所以图$*{\mathcal{G}}$上的卷积操作在傅里叶域中被定义为 $x *{\mathcal{G}} y=U\left(\left(U^{T} x\right) \odot\left(U^{T} y\right)\right)$，其中
非参数滤波器，即参数全部自由的滤波器，定义如下：
其中，参数$\theta \in \mathbb{R}^{n}$是一个傅里叶系数的向量。
非参数滤波器的两个局限性：
- 在顶点域中非局域化；
- 学习复杂度为$\mathcal{O}(n)$；
针对非参数滤波器所存在的问题可以利用多项式滤波器可以解决：
其中，参数$\theta \in \mathbb{R}^{K}$是一个多项式系数向量。以顶点$i$为中心的滤波器$g_{\theta}$的顶点$j$处的值由$\left(g_{\theta}(L) \delta_{i}\right){j}=\left(g{\theta}(L)\right){i, j}=\sum{k} \theta_{k}\left(L^{k}\right){i, j}$给出，其中通过带有 Kronecker delta 的函数$\delta{i} \in \mathbb{R}^{n}$的卷积来定义核。根据[Lemma]，$d_{\mathcal{G}}(i, j)>K$ implies $\left(L^{K}\right){i, j}=0$，其中$d{\mathcal{G}}$为最短路径距离。
局部滤波器的多项式参数化的优点：
- 拉普拉斯的$K$阶多项式表示的频谱滤波器刚好是$K$局部化；
- 学习复杂度为$\mathcal{O}(K)$，滤波器的支持大小，因此与传统的CNN具有相同的复杂度。
局部滤波器的多项式参数化的局限性： 对于学习带有K个参数的局部滤波器，因为需要乘以傅里叶基$U$，所以信号$x$ 计算$y=U g_{\theta}(\Lambda) U^{T} x$的计算复杂度为$\mathcal{O}\left(n^{2}\right)$。
局部滤波器的多项式参数化所存在的问题的解决方法是将$g_{\theta}(L)$参数化为可以从$L$递归计算的多项式函数，因为用 K 乘以一个稀疏$L$的成本为$\mathcal{O}(K|\mathcal{E}|) \ll \mathcal{O}\left(n^{2}\right)$。传统上采用 GSP 以近似核的多项式称为 切比雪夫（Chebyshev）扩展。
另一种方式是采用 Lanczos 算法构建一个Krylov子空间$K$的标准正交基，由于系数的独立性，该方法更具吸引力，但是该方法比较复杂。
对于$k$阶 切比雪夫多项式（Chebyshev polynomial）$T_{k}(x)$可以利用固定的递归关系$T_{k}(x)=2 x T_{k-1}(x)-T_{k-2}(x)$，其中，$T_{0}=1$和$T_{1}=x$进行计算。这些多项式形成$L^{2}\left([-1,1], d y / \sqrt{1-y^{2}}\right)$的正交基（orthogonal basis），关于度量$d y / \sqrt{1-y^{2}}$的平方可积函数的Hilbert空间。因此，可以将滤波器参数化为截断的扩展： $$ g_{\theta}(\Lambda)=\sum_{k=0}^{K-1} \theta_{k} T_{k}(\tilde{\Lambda}) $$
其中，参数$\theta \in \mathbb{R}^{K}$是切比雪夫系数（Chebyshev coefficients）的向量，$T_{k}(\tilde{\Lambda}) \in \mathbb{R}^{n \times n}$ 为
用于快速滤波的递归公式的优点：
- 拉普拉斯的$K$阶多项式表示的频谱滤波器刚好是$K$局部化；
- 学习复杂度为$\mathcal{O}(K|\mathcal{E}|) \ll \mathcal{O}\left(n^{2}\right)$；
- 时间复杂度为$\mathcal{O}(K|\mathcal{E}|)$；
样本s的第$j$个输出特征映射由下式给定： $$ y_{s, j}=\sum_{i=1}^{F_{i n}} g_{\theta_{i, j}}(L) x_{s, i} \in \mathbb{R}^{n} $$
其中，$x_{s, i}$ 为输入特征映射，切比雪夫系数$\theta_{i, j} \in \mathbb{R}^{K}$ 的$F_{i n} \times F_{o u t}$向量是层可训练参数。带有负向传播算法的训练多层卷积层，需要两个梯度： $$ \frac{\partial E}{\partial \theta_{i, j}}=\sum_{s=1}^{S}\left[\overline{x}{s, i, 0}, \ldots, \overline{x}{s, i, K-1}\right]^{T} \frac{\partial E}{\partial y_{s, j}} \qquad \text { and } \quad \frac{\partial E}{\partial x_{s, i}}=\sum_{j=1}^{F_{o u t}} g_{\theta_{i, j}}(L) \frac{\partial E}{\partial y_{s, j}} $$
其中，$E$为一小批样本$S$的损失能量。上述三种计算中的每一种归结为
池化操作思路：要求图上有意义的邻域，其中类似的顶点聚集在一起。对多个层执行此操作相当于保留局部几何结构的图的多尺度聚类。
池化操作的局限性：
- 图聚类是一个NP难问题；
- 必须使用近似值。
本文采用 Graclus 多级聚类算法（Graclus multilevel clustering algorithm）的粗化阶段[Dhillon 2007]。
Graclus思路：采用贪心算法来计算给定图的连续较粗糙版本，并且能够最小化几个流行的频谱聚类目标，并从中选择归一化切割。
Graclus的贪婪规则：在每个粗化级别中，选择未标记的顶点i，将其与其未标记的邻居
这是一种非常快速的粗化方案，它将节点数量从一个级别划分为下一个较粗级别的大约两个（可能存在一些单例，非匹配节点）。
Graclus的优点：
- 本质上是组合问题；
- 可以作为预处理完成;
- 贪婪节点与Graclus / Metis合并（非常快）。
在粗化之后，输入图的顶点和他们的粗化版本在一些有意义的方法中进行排序。因此，池化从中的一个直接应用需要一个表格来存储所有匹配的顶点。这种方法会导致内存效率低下，速度慢且难以并行化等问题。然而，可以布置顶点使得图形池化操作变得与1D池化一样有效。 我们进行以下两个步骤：
- 常规节点（和单例）要么有两个常规节点（例如图2中的1级顶点0）
- 一个单例和一个假节点作为子节点（例如2级顶点0）
- 假节点总是有两个假节点作为子节点（例如1级顶点1）
输入信号在假节点处用中性值初始化，例如， 使用最大池的ReLU激活时为0。 由于这些节点已断开连接，因此滤波不会影响初始中性值。虽然那些假节点人为地增加了维度，从而增加了计算成本，但我们发现，在实践中，Graclus留下的单身人数非常少。任意地对最粗略级别的节点进行排序，然后将该排序传播到最精细的级别，即节点k具有作为子节点的节点2k和2k + 1，产生最精细级别的常规排序。在相邻节点以较粗糙的级别分层合并的意义上是规则的。 汇集这样的重新排列的图形信号类似于汇集常规的1D信号。这种规则的安排使得操作非常有效并且满足诸如GPU的并行架构，因为存储器访问是本地的，即不必获取匹配的节点。
图粗化和池化的例子.在 以最好的图作为输入的$G_0$上生成的信号$x \in \mathbb{R}^{8}$ 上执行大小为4的最大池化（或者两个大小为2的最大池化）。注意到其最初拥有$n_{0}=\mathcal{V}{0} |=8$个顶点的任意排序。对于大小为4的池化操作，需要两个大小为2的粗化操作：让Graclus 给出尺寸为 $n{1}=\left|\mathcal{V}{1}\right|=5$d的$\mathcal{G}{1}$，然后大小为$n_{2}=\left|\mathcal{V}{2}\right|=3$的$\mathcal{G}{2}$的最粗糙的图。因此将尺寸设置为$n_{2}=3, n_{1}=6, n_{0}=12$并且假节点（蓝色）被添加到$\mathcal{V}{1}$（1个节点）和$\mathcal{V}{0}$（4个节点）以与singeltons（橙色）配对，使得每个 节点只有两个孩子。 然后任意排序$\mathcal{V}{2}$中的节点，因此对$\mathcal{V}{1}$和$\mathcal{V}{0}$中的节点进行排序。 此时，$\mathcal{V}{0}$中顶点的排列允许在$x \in \mathbb{R}^{12}$上进行常规1D汇集，使得$z=\left[\max \left(x_{0}, x_{1}\right), \max \left(x_{4}, x_{5}, x_{6}\right), \max \left(x_{8}, x_{9}, x_{10}\right)\right] \in \mathbb{R}^{3}$，其中信号分量$x_{2}, x_{3}, x_{7}, x_{11}$被设置为中性值