logo
Loading...

使用Stacking Model反而分數下降? - Cupoy

我在期中考題的model選用GDBT時,分數是0.71可是後來嘗試使用Stacking Model分...

ml100-2,ml100-2-d51

使用Stacking Model反而分數下降?

2019/09/25 上午 07:19
機器學習共學討論版
redcard
觀看數:19
回答數:1
收藏數:0
ml100-2
ml100-2-d51

我在期中考題的model選用GDBT時,分數是0.71

可是後來嘗試使用Stacking Model

分數反而掉到0.48

這是為什麼?

回答列表

  • 2019/09/26 下午 05:29
    陳明佑 (Ming You Chen)
    贊同數:1
    不贊同數:0
    留言數:0

    實際上情況常常就是這樣  (請參考堆疊泛化後面的問答)

    尤其在你混合的模型當中, 有正確率極差的模型時特別如此 (比如這邊的logistic)


    所以實際上使用時要相當小心, 

    混合的模型之間精確度不能相差太多 (因此有時候被迫要集成幾個不同的 GBDT)

    而且 stacking 的優點在於更高的泛化能力(與模型外的結果拉近的能力)

    對已經拿來訓練的模型內資料, 未必會拉近距離