logo
Loading...

Review:Basic Structures for Deep Learning Models (Part I) - Cupoy

deep learning 就是三個 step: 1.要構造一個 network,這個 network 就是 model,也就是一個 function set,那這個 function set 裡面的 function 是什麼樣子的呢? function set 都是由一些簡單的 function 所組合起來的,這些簡單的 function 其實就是 neural。 那通常需要決定這個 structure 長什麼樣子,這節課主要要關注的就是有哪些常見的 structure。 2.要定義一個 cost function,然後根據 training data 來告訴 machine 什麼樣子的 function 才是最好的,什麼樣的 function 不好。 其實由於 function是由參數所決定的,所以其實定義 cost function 就是看什麼樣子的 neural network 的參數是好的,什麼樣的 neural network 參數是不好的。 那要怎麼去定義 cost function 呢? case by case(具體問題具體分析)這就需要看看你的問題是什麼,你手上有什麼樣的 training data。 3.有了 step1 以及 step2,用 gradient descen 找出一個最好的 function。 影片內容 pdf:http://speech.ee.ntu.edu.tw/~tlkagk/courses/MLDS_2017/Lecture/Basic%20Structure%20(v8).pdf

deep learning 就是三個 step: 1.要構造一個 network,這個 network 就是 model,也就是一個 function set,那這個 function set 裡面的 function 是什麼樣子的呢? function set 都是由一些簡單的 function 所組合起來的,這些簡單的 function 其實就是 neural。 那通常需要決定這個 structure 長什麼樣子,這節課主要要關注的就是有哪些常見的 structure。 2.要定義一個 cost function,然後根據 training data 來告訴 machine 什麼樣子的 function 才是最好的,什麼樣的 function 不好。 其實由於 function是由參數所決定的,所以其實定義 cost function 就是看什麼樣子的 neural network 的參數是好的,什麼樣的 neural network 參數是不好的。 那要怎麼去定義 cost function 呢? case by case(具體問題具體分析)這就需要看看你的問題是什麼,你手上有什麼樣的 training data。 3.有了 step1 以及 step2,用 gradient descen 找出一個最好的 function。 影片內容 pdf:http://speech.ee.ntu.edu.tw/~tlkagk/courses/MLDS_2017/Lecture/Basic%20Structure%20(v8).pdf