overfitting問題
2019/07/17 11:42 下午
機器學習共學討論版
JJLai
觀看數：72
回答數：1
收藏數：0
ml100-2
ml100-2-d77
ml100-2-d78
這2天的作業看圖好像都是overfitting，下圖是day077的例子
可是這2天的練習，練習更改模式和參數，例如optimizer改為SGD，或者加深網路，都沒辦法改善overfitting
有3個問題請教
(1) 這2天的範例，有辦法避免overfitting嗎?
(2) 即使overfitting，但正確率不管是訓練或驗證資料，看起來都有提升，如下圖，那這樣子訓練出來的模式和參數，可以直接拿來應用嗎?還是說一定要很完美地訓練出loss的曲線圖看起來沒有overfitting的模式，才能拿來應用。
(3) 一般深度學習的網路，要訓練到收斂，可是這2個圖看起來好像曲線還在振動，若一直訓練下去，仍一直有在振動，是否就是沒有收斂，無法拿來應用??