Cross Entropy 跟 MSE & Maximum Likelihood的關係? - Cupoy

Cross Entropy 跟 MSE & Maximum Likelihood的關係?

1. Cross Entropy 跟 MSE 的關係 * MSE 適用於 Regression 問題的 loss，Cross Entropy 適用於 Classification 問題的 loss * 都是最小化機率分布之間的距離，讓預測結果更加準 2. Cross Entropy 跟 Maximum Likelihood 的關係 Maximun Likelihood Estimation = Minimize KL Divergence / Cross Entropy 找一組 θ ，讓 P d a t a ( x ) 與 P G ( x ; θ ) 間的距離愈近（說明兩者越相像），因此需要最小化兩者間的 Divergence、最大化兩者的 Likelihood／Cross Entropy --- 在網路上試著找尋 Cross Entropy 跟MSE & Maximum Likelihood 的關係 網路上很多文章都長篇大論，好多數學式子，看完似懂卻又連接不起來 想請問老師們可以用更好理解的方式解釋嗎，或是在面試時被問到此類問題，有什麼解釋方式可以快速又讓人理解，謝謝！