论文笔记(Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration)

这是CVPR 2019的一篇oral。

预备知识点：Geometric median 几何中位数

\begin{equation}
\underset{y \in \mathbb{R}^{n}}{\arg \min } \sum_{i=1}^{m}\left\|x_{i}-y\right\|
\end{equation}

可以理解为距离给定点集欧式距离之和最近的点。这篇博客中有关于几何中位数的介绍：https://www.cnblogs.com/ybiln/p/4175695.html。

文中指出之前的剪枝算法应用的前提条件有两个：

1、权重间隔要大

2、最小值应该更靠近0

(PS: 这个地方文中还画出了图表分析数据的分布情况，但是数据的来源是没有经过稀疏化处理的权重数据，我觉得没有那么具有代表性)

文中最关键的点是利用了中位数这个概念，应该剪去的是中位数，作者知道中位数的数学表达形式，这是一个很关键的预备知识。

后面作者在求取中位数卷积核的一系列近似，得到了数学上能够讲得通的结果。有点诡辩的意思，有的地方不是很严谨。