logo
Loading...

momentum的問題 - Cupoy

請問教材和練習的說明都有提到動量公式是v =  ß ∗ v − α  ∗ d w但好像沒說明ß是從那...

ml100-2-d74,ml100-2

momentum的問題

2019/07/14 下午 11:32
機器學習共學討論版
JJLai
觀看數:79
回答數:1
收藏數:0
ml100-2-d74
ml100-2

請問教材和練習的說明都有提到動量

公式是v =  ß ∗ v − α  ∗ d w

但好像沒說明ß是從那裡來的

而動量說明的練習,卻是下圖,它跟動量的關係是??程式中好像也沒寫到和公式相關的計算

回答列表

  • 2019/07/15 上午 03:04
    Jeffrey
    贊同數:0
    不贊同數:1
    留言數:3

    同學,你好。

    動量init value 的設定跟learning rate一樣,都可以自行設定。一般,我們在使用keras 會使用其自帶的設定值。因為,這些值都有經過一些論文驗証。

    附件圖檔想表示learning 通過動量之後的一些變化。

    謝謝。