该节课中提到了一种叫作softmax的函数,因为之前对这个概念不了解,所以本篇就这个函数进行整理,如下: 维基给出的解释:softmax函数,也称指数归一化函数,它是一种logistic函数的归一化形式,可以将K维实数向量压缩成范围[0-1]的新的K维实数向量.函数形式为: (1) 其中,分母部分起到归一化的作用.至于取指数的原因,第一是要模拟max的行为,即使得大的数值更大:第二是方便求导运算. 在概率论中,softmax函数输出可以代表一个类别分布--有k个可能结果的概率分布. 从定义中也可…