在分類問題中，若沒有任何限制，決策樹有辦法在訓練時將 training loss 完全降成 0 嗎？ - Cupoy

2019/11/16 上午 00:51

機器學習共學討論版

Ma Chao Ting

觀看數：21

回答數：2

收藏數：0

ml100-3

ml100-3-d41

看了範例解答後對其中的描述不太了解

Q: 在分類問題中，若沒有任何限制，決策樹有辦法在訓練時將 training loss 完全降成 0 嗎？

A: 若資料是符合函數的假設，亦即沒有一對多的情形，這時候如果不對決策樹進行限制，決策樹是可以為每一個訓練樣本找到其對應的規則，就能夠把訓練 loss 降為 ０

請問 "一對多的情形"是什麼樣的情況?

回答列表

• 2019/11/16 上午 05:14
  Jeffrey
  贊同數：0
  不贊同數：0
  留言數：0

  1. training loss = 0, 是有可能的;

  2. "一對多的情形" : 取決於 dataset 與想找尋的問題

  
  

      """判斷邏輯
   測試資料對應位置的特徵值與key一致，就在這個分支上找下去
   此特徵屬性值對應的分支不是葉節點，就遞迴呼叫自己，繼續探尋  
   """

• 2019/11/19 下午 10:05
  張維元 (WeiYuan)
  贊同數：0
  不贊同數：0
  留言數：0

  這邊補充一下，通常也不建議追求「training loss = 0」，這樣會有 Overfitting 的狀況出現。