logo
Loading...

overfitting問題 - Cupoy

這2天的作業看圖好像都是overfitting,下圖是day077的例子可是這2天的練習,練習更改模...

ml100-2,ml100-2-d77,ml100-2-d78

overfitting問題

2019/07/17 03:42 PM
機器學習新手論壇
JJLai
觀看數:0
回答數:1
收藏數:0
ml100-2
ml100-2-d77
ml100-2-d78

這2天的作業看圖好像都是overfitting,下圖是day077的例子

可是這2天的練習,練習更改模式和參數,例如optimizer改為SGD,或者加深網路,都沒辦法改善overfitting

有3個問題請教

(1) 這2天的範例,有辦法避免overfitting嗎?

(2) 即使overfitting,但正確率不管是訓練或驗證資料,看起來都有提升,如下圖,那這樣子訓練出來的模式和參數,可以直接拿來應用嗎?還是說一定要很完美地訓練出loss的曲線圖看起來沒有overfitting的模式,才能拿來應用。

(3) 一般深度學習的網路,要訓練到收斂,可是這2個圖看起來好像曲線還在振動,若一直訓練下去,仍一直有在振動,是否就是沒有收斂,無法拿來應用??