logo
Loading...

在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 training loss 完全降成 0 嗎? - Cupoy

看了範例解答後對其中的描述不太了解Q: 在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 tra...

ml100-3,ml100-3-d41

在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 training loss 完全降成 0 嗎?

2019/11/16 上午 00:51
機器學習共學討論版
Ma Chao Ting
觀看數:21
回答數:2
收藏數:0
ml100-3
ml100-3-d41

看了範例解答後對其中的描述不太了解

Q: 在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 training loss 完全降成 0 嗎?


A: 若資料是符合函數的假設,亦即沒有一對多的情形,這時候如果不對決策樹進行限制,決策樹是可以為每一個訓練樣本找到其對應的規則,就能夠把訓練 loss 降為 0


請問 "一對多的情形"是什麼樣的情況?

回答列表

  • 2019/11/16 上午 05:14
    Jeffrey
    贊同數:0
    不贊同數:0
    留言數:0

    1. training loss = 0, 是有可能的;

    2. "一對多的情形" : 取決於 dataset 與想找尋的問題


        """判斷邏輯
       測試資料對應位置的特徵值與key一致,就在這個分支上找下去
       此特徵屬性值對應的分支不是葉節點,就遞迴呼叫自己,繼續探尋  
       """

  • 2019/11/19 下午 10:05
    張維元 (WeiYuan)
    贊同數:0
    不贊同數:0
    留言數:0

    這邊補充一下,通常也不建議追求「training loss = 0」,這樣會有 Overfitting 的狀況出現。