logo
Loading...

Adaptive Boosting in Action - Cupoy

本節課主要介紹了Adaptive Boosting。首先通過講一個老師教小學生識別蘋果的例子,來引入Boosting的思想,即把許多“弱弱”的hypotheses合併起來,變成很強的預測模型。然後重點介紹這種算法如何實現,關鍵在於每次迭代時,給予樣本不同的係數u,宗旨是放大錯誤樣本,縮小正確樣本,得到不同的小矩g。並且在每次迭代時根據錯誤ϵ值的大小,給予不同gt不同的權重。最終由不同的gt進行組合得到整體的預測模型G。實際證明,Adaptive Boosting能夠得到有效的預測模型。 影片內容 pdf:https://www.csie.ntu.edu.tw/~htlin/course/mltech18spring/doc/208_handout.pdf extended reading: A short introduction to boosting (Freund and Schapire) 1.http://cseweb.ucsd.edu/~yfreund/papers/IntroToBoosting.pdf

本節課主要介紹了Adaptive Boosting。首先通過講一個老師教小學生識別蘋果的例子,來引入Boosting的思想,即把許多“弱弱”的hypotheses合併起來,變成很強的預測模型。然後重點介紹這種算法如何實現,關鍵在於每次迭代時,給予樣本不同的係數u,宗旨是放大錯誤樣本,縮小正確樣本,得到不同的小矩g。並且在每次迭代時根據錯誤ϵ值的大小,給予不同gt不同的權重。最終由不同的gt進行組合得到整體的預測模型G。實際證明,Adaptive Boosting能夠得到有效的預測模型。 影片內容 pdf:https://www.csie.ntu.edu.tw/~htlin/course/mltech18spring/doc/208_handout.pdf extended reading: A short introduction to boosting (Freund and Schapire) 1.http://cseweb.ucsd.edu/~yfreund/papers/IntroToBoosting.pdf