logo
Loading...

啟動函數 - 機器學習百日 - Cupoy

今天的內容會帶大家了解 1. 啟動函數 2. 針對不同的問題使用合適的啟動函數 啟動函數:定義了每個節點(神經元)的輸出和輸入關係的函數 為神經元提供...

今天的內容會帶大家了解 1. 啟動函數 2. 針對不同的問題使用合適的啟動函數 啟動函數:定義了每個節點(神經元)的輸出和輸入關係的函數 為神經元提供規模化非線性化能力,讓神經網路具備強大的擬合能力 根據各個函數的優缺點來配置:如果使用 ReLU,要小心設置 learning rate,注意不要讓網路出現很多「dead」 神經元 如果不好解決,可以試試 Leaky ReLU、PReLU 或者Maxout 根據問題的性質:用於分類器時,Sigmoid 函數及其組合通常效果更好 有了大概的理解之後,我們開始今天的學習吧!!!