这是见过的最有意思的一个分类器的解释。

在线性分类器的Weights权重(参数 Parameters)到底是什么,怎么去理解?平时我们常见的就是说一条直线,将某一类和其他类别分开了,就和一次函数一样,如下图。

Line separate interpreting

对于f(x,W) = Wx + b,W是什么?

  • 可以是一个从图像空间到label空间的变换
  • 可以一个template,f(x,W)是一个模板对应(Template matching)的过程

所以,如果我们使用CIFAR-10训练的时候,把W绘制出来会是什么样子的呢?其实是模板的样子,如下图的第二张Presentation。

Template matching

其中非常有意思的(因为10个classes中最明显),Horse class的W画出来的是有两只马头的。这是结合所有的训练集的🐴得出来的,所以,两只马头意思是,有朝向左的,有朝向右的马,最后得到的W权值,其实就是一个通用性模板,看上去就和两只马头一样。

14 March 2016 00:45 Update