今天的內容會帶大家了解
1. regularization 的原理
2. 如何在 keras 中加入 regularization
背景:模型訓練過程中,若樣本數少、模型過於複雜或訓練次數過多
容易有 overfitting 或是模型測試效果不佳,表示模型本身對訓練集資料以外的資料沒有預測能力
而導致無法「泛化」,為了讓模型效能不會過於受到訓練資料影響
勢必要刻意將模型的出錯率增加,因而有 regularization 的概念。
目的:刻意增加 Loss 值讓模型的泛化程度增加
Regularizer 的效果:讓模型參數的數值較小
使得 Inputs 的改變不會讓 Outputs 有大幅的改變
有了大概的理解之後,我們開始今天的學習吧!!!