logo
Loading...

Cross Entropy 跟 MSE & Maximum Likelihood的關係? - Cupoy

Cross Entropy 跟 MSE 的關係 MSE 適用於 Regression 問題的 lo...

Cross Entropy 跟 MSE & Maximum Likelihood的關係?

2022/04/26 下午 08:31
機器學習共學討論版
沼澤莉莉
觀看數:6
回答數:0
收藏數:1

1. Cross Entropy 跟 MSE 的關係 * MSE 適用於 Regression 問題的 loss,Cross Entropy 適用於 Classification 問題的 loss * 都是最小化機率分布之間的距離,讓預測結果更加準 2. Cross Entropy 跟 Maximum Likelihood 的關係 Maximun Likelihood Estimation = Minimize KL Divergence / Cross Entropy 找一組 θ ,讓 P d a t a ( x ) 與 P G ( x ; θ ) 間的距離愈近(說明兩者越相像),因此需要最小化兩者間的 Divergence、最大化兩者的 Likelihood/Cross Entropy --- 在網路上試著找尋 Cross Entropy 跟MSE & Maximum Likelihood 的關係 網路上很多文章都長篇大論,好多數學式子,看完似懂卻又連接不起來 想請問老師們可以用更好理解的方式解釋嗎,或是在面試時被問到此類問題,有什麼解釋方式可以快速又讓人理解,謝謝!

回答列表