先前學習的regression or classification 特徵因子x 與 Y 的關係可由R2 or f1 score 等評估標準大致了解x 是否為重要的特徵因子，在NN的網路裡是否也可得知特徵因子的權重呢? - Cupoy

請問一下先前學習的regression or classification 特徵因子x 與 Y 的關係可由R2 or f1 score 等評估標準大致了解x 是否為重要的特徵因子，在NN的網路裡是否也可得知特徵因子的權重呢?謝謝

回答列表

• 2019/07/09 下午 08:51
  Seanyu.TW
  贊同數：1
  不贊同數：0
  留言數：0

  Hi,

  就我所知，DNN 目前沒有像是 tree-based model 可以看到 importance 的方法；在 CNN 中，倒是可以使用 class-activation-map 的方法來知道模型是依靠圖像中的哪個部分來判斷它的類別。

• 2019/07/12 下午 06:28
  張維元 (WeiYuan)
  贊同數：1
  不贊同數：0
  留言數：0

  補充幾篇深度學習的科普，原則上是無法知道，所以現在正在努力發展的「Explainable AI 」就顯得很重要。

  
  

  * https://www.appier.com/zh-hant/blog/far-explainable-artificial-intelligence/

  * https://medium.com/trustableai/%E5%AE%83%E6%98%AF%E6%80%8E%E9%BA%BC%E7%9F%A5%E9%81%93%E7%9A%84-%E8%A7%A3%E9%87%8B%E6%B7%B1%E5%BA%A6%E5%AD%B8%E7%BF%92%E6%A8%A1%E5%9E%8B-f18f57d18d4f

• 2019/07/13 上午 11:05
  Jeffrey
  贊同數：0
  不贊同數：0
  留言數：0