Softmax Regression是Logistic Regression的拓展,主要用于多分类问题。Softmax Regression一般与交叉熵损失函数结合使用,但是关于交叉熵损失函数的求导和参数更新资料比较少,讲的也不是让我很满意,所以决定自己写一篇,就当是总结一下自己的认识,和大家一起交流进步。
首先是假设函数:
假设有3个目标类别,直接使用Softmax Regression进行分类,注意这里和神经网络中对Softmax Regression的应用有所不同,相当于一个没有隐层的神经网络,则对于输入向量