關於Day47:用最佳的超參數Accuracy卻下降

2020/10/27 上午 04:47

超參數調整與優化

抹茶粉

觀看數：24

回答數：3

收藏數：0

請問這是為甚麼呢?

回答列表

2020/10/28 下午 02:40

Paul

贊同數：1

不贊同數：0

留言數：0

一般對Overfitting理解是，對Training Set 優化找最佳參數，不一定能對Test Set有更好的表現，所以參數經常要探索實驗，找最佳解。
2020/10/29 上午 02:03

張維元 (WeiYuan)

贊同數：0

不贊同數：0

留言數：0

嗨，影響結果的可能很多，並有沒有用什麼手法或是模型就一定可以達到最好的解。超參數也是在當下利用數學的特性幫你找出最好的一組參數，不過接著應用到真實的資料也有可能受到其他的變因所影響。

所以老話一句，資料分析的過程只有不斷嘗試跟優化。

很高興可以在這次問答進行討論，如果還有不懂或是模糊的部分也歡迎持續追問。期待你的互動與鼓勵創造出不同更深度的討論。歡迎加入我自己經營的Line 群組社群，會有不定時舉辦的分享活動，一起來玩玩吧！
2020/11/10 下午 04:21

李柏霆

贊同數：0

不贊同數：0

留言數：0

你原本搜尋的超參數範圍太小而且設定的範圍會讓模型變得太過簡單，你在這所使用的grid search 找到的最好參數主要是在你給定的範圍內的最好參數。一般來說，在使用屬於樹的機器學習模型時，我們的深度並不會設定的那麼潛，可以大膽設定大一點的深度(發現有Overfitting在來減少深度)，另外n_estimator 也可以大膽地設定多一點，這個參數就算設定很大，通常也不會有Overfitting的問題