類別型特徵處理方式 - Cupoy

2019/05/07 上午 11:59

機器學習共學討論版

蔡汶修

觀看數：5

回答數：2

收藏數：0

ml100-2

ml100-2-d22

類別型特徵

您好，講義中提到以下兩個原則:

1. 類別型特徵建議預設採⽤用標籤編碼。

2. 除非該特徵重要性高，且可能值較少(獨熱編碼時負擔較低) 時，才應考慮使⽤用獨熱編碼。

如講義所說，名目型的類別資料在「標籤編碼」下是沒有太大意義的，理論上應不存在 台北市>新竹市 or 新竹市>台北市...等隱含意義。

類別資料大致可區分為:名目型資料、次序型資料。

因此，該原則是否建議改為不論重要性高低，「名目型資料」使用「獨熱編碼」; 「次序型資料」使用「標籤編碼」?

以上思考不確定是否有誤解的部分，還請參考，謝謝。

BR,

Kam

回答列表

• 2019/05/07 下午 02:08
  Jimmy
  贊同數：1
  不贊同數：0
  留言數：1

  Hi 汶修！

  
  

  你的理解是正確的喔！名目型資料多使用 one-hot encoding，實務上我們會觀察資料中名目資料的實際意義，但不是所有名目資料都適合做 one-hot 當作特徵，例如名字，如果使用名字當作特徵則每個名字都會有獨立的編碼，因此使用前要特別注意喔！

  
  

  另外名目型資料有時也可能存在次序性，像是台北、新竹，其實也存在緯度的次序，因此資料的形式會要依據你的專案目標而定 。

• 2019/05/07 下午 02:54
  張維元 (WeiYuan)
  贊同數：2
  不贊同數：0
  留言數：1

  先說結論：

  
  

  • 原始資料是有序離散值的話 => Label Encoding
  • 原始資料是無序離散值的話 => One Hot Encoding (Dummies)

  
  

  以下分為兩點說明：

  
  

  為什麼要將離散轉數值？

  
  

  => 因為大部分的模型都是基於數學運算，所以字串資料是無法運算的

  
  

  為什麼要將無序轉 One-Hot？

  
  

  => 所謂數學運算一般泛指用距離代表相似（幾何觀點），意思是會用轉換後的兩個值的差距作為其相似程度。

  
  

  舉個例子：

  
  

  * 如果將性別欄位的男/女轉換成 0, 1 ，二元的沒問題。

  * 如果講水果這個無序欄位中的頻果、香蕉、西瓜，Label 成 0, 1, 2 會隱含著「香蕉跟蘋果」比「西瓜跟蘋果」還要相似的意義，但這樣是錯誤的。

  * 如果是年齡這個有序欄位的老年、中年、少年，Label 成 0, 1, 2 就很恰當，到如果硬轉成 One-Hot 反而將這個差距關係給拿掉。