在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 training loss 完全降成 0 嗎?
2019/11/16 上午 00:51
機器學習共學討論版
Ma Chao Ting
觀看數:21
回答數:2
收藏數:0
ml100-3
ml100-3-d41
看了範例解答後對其中的描述不太了解
Q: 在分類問題中,若沒有任何限制,決策樹有辦法在訓練時將 training loss 完全降成 0 嗎?
A: 若資料是符合函數的假設,亦即沒有一對多的情形,這時候如果不對決策樹進行限制,決策樹是可以為每一個訓練樣本找到其對應的規則,就能夠把訓練 loss 降為 0
請問 "一對多的情形"是什麼樣的情況?
回答列表
-
2019/11/16 上午 05:14Jeffrey贊同數:0不贊同數:0留言數:0
1. training loss = 0, 是有可能的;
2. "一對多的情形" : 取決於 dataset 與想找尋的問題
"""判斷邏輯
測試資料對應位置的特徵值與key一致,就在這個分支上找下去
此特徵屬性值對應的分支不是葉節點,就遞迴呼叫自己,繼續探尋
""" -
2019/11/19 下午 10:05張維元 (WeiYuan)贊同數:0不贊同數:0留言數:0
這邊補充一下,通常也不建議追求「training loss = 0」,這樣會有 Overfitting 的狀況出現。