momentum的問題
2019/07/14 下午 11:32
機器學習共學討論版
JJLai
觀看數:79
回答數:1
收藏數:0
ml100-2-d74
ml100-2
請問教材和練習的說明都有提到動量
公式是v = ß ∗ v − α ∗ d w
但好像沒說明ß是從那裡來的
而動量說明的練習,卻是下圖,它跟動量的關係是??程式中好像也沒寫到和公式相關的計算
回答列表
-
2019/07/15 上午 03:04Jeffrey贊同數:0不贊同數:1留言數:3
同學,你好。
動量init value 的設定跟learning rate一樣,都可以自行設定。一般,我們在使用keras 會使用其自帶的設定值。因為,這些值都有經過一些論文驗証。
附件圖檔想表示learning 通過動量之後的一些變化。
謝謝。