Model summary參數值問題
2019/07/07 上午 09:47
機器學習共學討論版
鄧志偉
觀看數：110
回答數：1
收藏數：0
ml100-2
ml100-2-d69
請教D69 HW model summary裡的lstm_1 layer的參數如何推得?
回答列表
-
2019/07/12 下午 00:44陳明佑 (Ming You Chen)贊同數：1不贊同數：0留言數：0
同學您好 :
有關LSTM的結構, 因為較為複雜 (屬於RNN的一種)
有關結構與教學可能要另開一個 Part 解釋
因此這邊只針對您的問題 : "如何計算" 做答覆, 謝謝
有關參數值的計算, 請對照參考這一篇連結
https://zhuanlan.zhihu.com/p/39262960
對照範例來說, 輸入的 x 有 512 組, 橫向傳遞的 h 維度 = c 維度 = 32
每個 LSTM 結構中 W 的神經元都有 512+32 個外部傳進的連結 (X過來512, 前一個來32)
因此 W 的權重個數總共是 (512+32)*32, 加上常數 b 有 32 個
而這樣的 W 共有 4 組, 因此最後是
4 * (32 * (512 + 32) + 32) = 69760