交叉熵?fù)p失函數(shù)

torch.nn.CrossEntropyLoss(weight=None, size_average=None, ignore_index=- 100, reduce=None, reduction='elementwise_mean')

weight為每個(gè)類(lèi)別的loss設(shè)置權(quán)重，常用于類(lèi)別不均衡的問(wèn)題，weight的數(shù)據(jù)類(lèi)型必須是float的tensor,其個(gè)數(shù)要與分類(lèi)的類(lèi)別個(gè)數(shù)一致（其他參數(shù)不介紹）

weight的計(jì)算方法經(jīng)常使用median frequency balancing，假設(shè)有五個(gè)類(lèi)別的分類(lèi)。那么每個(gè)類(lèi)別都要計(jì)算一個(gè)頻率，以第一類(lèi)別為例，其計(jì)算公式為?

上面式子中的a表示第一個(gè)類(lèi)別的像素個(gè)數(shù)，b代表所有包含第一類(lèi)的照片中的像素個(gè)數(shù)

（例如100張圖片中有80張包含第一類(lèi)，那么a就是這80張里面屬于第一個(gè)類(lèi)別的像素總數(shù)，b就是80張圖片的像素總數(shù)）

按照上面的說(shuō)法五個(gè)類(lèi)別可以計(jì)算出五個(gè)數(shù)字，然后排成一列，找到這5個(gè)數(shù)字的中值median_freq，然后使用這個(gè)中值依次除以上述五個(gè)數(shù)，得到的新的五個(gè)數(shù)字就是五個(gè)權(quán)重。

總結(jié)

以上是生活随笔為你收集整理的交叉熵损失函数权重计算的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。