logo
Loading...

Weight Decay Regularization - Cupoy

現在,針對 H(c),即加上限定條件,問題變成:目的是計算 Ein(w) 的最小值,限定條件是 ∣∣w^2∣∣≤C 。這個限定條件從幾何角度上的意思是,權重 w 被限定在半徑為sqrt C的圓內,而球外的 w 都不符合要求,即便它是靠近 Ein(w) 梯度為零的 w。 影片內容 pdf:https://www.csie.ntu.edu.tw/~htlin/course/mlfound18fall/doc/14_handout.pdf

現在,針對 H(c),即加上限定條件,問題變成:目的是計算 Ein(w) 的最小值,限定條件是 ∣∣w^2∣∣≤C 。這個限定條件從幾何角度上的意思是,權重 w 被限定在半徑為sqrt C的圓內,而球外的 w 都不符合要求,即便它是靠近 Ein(w) 梯度為零的 w。 影片內容 pdf:https://www.csie.ntu.edu.tw/~htlin/course/mlfound18fall/doc/14_handout.pdf