logo
Loading...

使用SGD跟Adam參數fit 模型 accuracy都是隨著時間漸漸變大,但是RMSprop反而越變越小?這個是正常的嗎? - Cupoy

Hi 各位專家:今天的作業要我們比較SGD,Adam,RMSprop這三種optimizer的fit...

ml100-3

使用SGD跟Adam參數fit 模型 accuracy都是隨著時間漸漸變大,但是RMSprop反而越變越小?這個是正常的嗎?

2019/12/01 下午 04:41
機器學習共學討論版
Yu Chen Lin
觀看數:4
回答數:1
收藏數:0
ml100-3

Hi 各位專家:

今天的作業要我們比較SGD,Adam,RMSprop這三種optimizer的fitting結果,但是有一個很奇怪的地方在於,我用SGD跟Adam這兩個去fit的時候accuracy都是隨著時間漸漸變大,但是RMSprop反而越變越小?這個是正常的嗎?

我的條件都設一樣的只有換optimizer而已,再請各位專家幫我解惑一下謝謝~

回答列表

  • 2019/12/03 上午 00:09
    Jeffrey
    贊同數:0
    不贊同數:0
    留言數:0

    Yes, DATASET 的範例設定會有比較明顯的差異來表示optimizer的適用性的重要.

    您也可以透過 parameter 調整來獲取相對好的結果.