作者：張欣
鏈接：https://www.zhihu.com/question/23765351/answer/98897364
來源：知乎
著作權歸作者所有，轉載請聯系作者獲得授權。

softmax 回歸(Softmax Regression) 這里解釋的很詳細，簡單總結下：

softmax模型是logistic模型在多分類問題上的推廣， logistic 回歸是針對二分類問題的，類標記為{0， 1}。
假設函數為：。
代價函數為：<img src="https://pic1.zhimg.com/980d1a1ab6da9a277ee7fe5e2e5b6c1c_b.png" data-rawwidth="514" data-rawheight="61" class="origin_image zh-lightbox-thumb" width="514" data-original="https://pic1.zhimg.com/980d1a1ab6da9a277ee7fe5e2e5b6c1c_r.png">


在softmax模型中，label可以為k個不同的值。
對于給定的測試輸入 ，我們想用假設函數針對每一個類別j估算出概率值。
假設函數將輸出一個k維的向量
<img src="https://pic4.zhimg.com/242501fa80f9a1d463fb4b5d10d446b7_b.png" data-rawwidth="453" data-rawheight="111" class="origin_image zh-lightbox-thumb" width="453" data-original="https://pic4.zhimg.com/242501fa80f9a1d463fb4b5d10d446b7_r.png">
請注意 這一項對概率分布進行歸一化，使得所有概率之和為 1 。
代價函數為：<img src="https://pic1.zhimg.com/558819625cec5f8b7cda33c4f7ea3acc_b.png" data-rawwidth="417" data-rawheight="61" class="content_image" width="417">其中：1{值為真的表達式}=1 為示性函數。其中：1{值為真的表達式}=1 為示性函數。
如果類別之間是互斥的，適合用softmax；如果類別之間允許重疊，應該選擇k個logistic分類器。

轉載于:https://www.cnblogs.com/zhizhan/p/5822052.html

總結

以上是生活随笔為你收集整理的Softmax 函数的特点和作用是什么？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。