使用Stacking Model反而分數下降?
2019/09/25 上午 07:19
機器學習共學討論版
redcard
觀看數：19
回答數：1
收藏數：0
ml100-2
ml100-2-d51
我在期中考題的model選用GDBT時，分數是0.71
可是後來嘗試使用Stacking Model
分數反而掉到0.48
這是為什麼？
回答列表
-
2019/09/26 下午 05:29陳明佑 (Ming You Chen)贊同數：1不贊同數：0留言數：0
實際上情況常常就是這樣 (請參考堆疊泛化後面的問答)
尤其在你混合的模型當中, 有正確率極差的模型時特別如此 (比如這邊的logistic)
所以實際上使用時要相當小心,
混合的模型之間精確度不能相差太多 (因此有時候被迫要集成幾個不同的 GBDT)
而且 stacking 的優點在於更高的泛化能力(與模型外的結果拉近的能力)
對已經拿來訓練的模型內資料, 未必會拉近距離