logo
Loading...

史丹佛線上 ConvNetJS 簡介 - 機器學習百日 - Cupoy

今天的內容會帶大家了解 1. 透過互動式網頁了解卷積網路 2. 卷積網路超參數對於訓練與預測率的影響 3. 特徵圖 (feature map) 視覺化的效果 L2_weight decay...

今天的內容會帶大家了解 1. 透過互動式網頁了解卷積網路 2. 卷積網路超參數對於訓練與預測率的影響 3. 特徵圖 (feature map) 視覺化的效果 L2_weight decay:在設置上,Weight Decay 是一個 L2 penalty,是對參數取值平方和的懲罰 取值可以量子化,即存在大量可壓縮空間,因為 Relu 的存在使得其有界。 weight decay :最終目的是防止過擬合,所以 weight decay 的作用是調節模型複雜度對損失函數的影響 若 weight decay 很大,則複雜的模型損失函數的值也就大。 Momentum :梯度下降法中一種常用的加速技術 有了大概的理解之後,我們開始今天的學習吧!!!