logo
Loading...

啟動函數中非線性一定比線性好嗎? 為什麼說啟動函數輸出值有限的時候,梯度優化方式會更加穩定? 為什麼說輸出無限的時候模型會更加高效? 輸出無限的啟動函數長什麼樣? - Cupoy

感覺啟動函數要選擇甚麼是個很深的學問,小白我就想問問幾個比較大方向的問題,1.非線性一定比線性好嗎?...

ml100-2,ml100-2-d72

啟動函數中非線性一定比線性好嗎? 為什麼說啟動函數輸出值有限的時候,梯度優化方式會更加穩定? 為什麼說輸出無限的時候模型會更加高效? 輸出無限的啟動函數長什麼樣?

2019/07/13 03:59 AM
機器學習新手論壇
YU Xiu Chen
觀看數:0
回答數:2
收藏數:0
ml100-2
ml100-2-d72

感覺啟動函數要選擇甚麼是個很深的學問,小白我就想問問幾個比較大方向的問題,


1.非線性一定比線性好嗎? 所以神經網路一定是非線性,還是說有線性的神經網路


2.為什麼說啟動函數輸出值有限的時候,梯度優化方式會更加穩定? 為什麼說輸出無限的時候模型會更加高效? 輸出無限的啟動函數長什麼樣?