今天的內容會帶大家了解
1. 透過互動式網頁了解卷積網路
2. 卷積網路超參數對於訓練與預測率的影響
3. 特徵圖 (feature map) 視覺化的效果
L2_weight decay:在設置上,Weight Decay 是一個 L2 penalty,是對參數取值平方和的懲罰
取值可以量子化,即存在大量可壓縮空間,因為 Relu 的存在使得其有界。
weight decay :最終目的是防止過擬合,所以 weight decay 的作用是調節模型複雜度對損失函數的影響
若 weight decay 很大,則複雜的模型損失函數的值也就大。
Momentum :梯度下降法中一種常用的加速技術
有了大概的理解之後,我們開始今天的學習吧!!!