logo
Loading...

【QA】在圖像分類任務中,訓練資料量不足會帶來什麼問題?如何緩解資料量不足帶來的問題? - 【教材專區】學習AI有困難? 讓Cupoy助教來幫你! - Cupoy

前述 訓練時會有各種不同應用,而不同的應用中不會是所有數據都很好取得,以要談的圖像分類任務為例,要訓練一個動物分類器需要很多種類的動物,常見的貓咪和狗狗等等的很好蒐集,但如果是獅子、大象等等的相比貓...

前述 訓練時會有各種不同應用,而不同的應用中不會是所有數據都很好取得,以要談的圖像分類任務為例,要訓練一個動物分類器需要很多種類的動物,常見的貓咪和狗狗等等的很好蒐集,但如果是獅子、大象等等的相比貓狗而言非常難獲取。 如果這些難取得的動物類別只有少量數據,拿這些少量數據肯定無法讓分類器好的效果,此時需要有補充數據量的方法,藉此緩解資料量不足的問題。 Part 1 訓練資料量不足會帶來甚麼問題? 1、機器和人相似,對一個東西要學習足夠才有相當的能力做分類,因此資料量不足會帶來的最直接問題是模型缺乏訓練,分類效果不佳。 2、假如模型要訓練兩個類別,類別比為1000:1,當模型訓練這兩類後會發現後續對少數的類別分類效能較差,因為模型訓練時會不斷更新權重,而訓練時的損失函數或優化函數都偏向於多數類,等同多數類會將少數類蓋過。 如何緩解資料量不足帶來的問題? 1、第一個問題提到CNN可以有效訓練圖像並分類,因此這裡都用CNN來說明,在圖像分類中無非是要獲得更好的圖像辨識器,第一個解決方法就是「Data Augmentation」,藉由對原始圖像旋轉、裁切、增加噪點、白化等技術,將原本的圖片做了一些「變化」,就能獲得和原先圖像不同的資料。  圖片來源:https://chtseng.files.wordpress.com/2017/11/4674_hxh_mbr4kq.png 2、對圖像進行採樣,這裡介紹SMOTE,是一種採樣方式,透過對需平衡的樣本計算離其最近的數據,並利用自身和最近數據得到新增的數據點。此方法可以得到近似於自身的數據,但又不完全相同,和Data Augmentation生成的也不太相同。  3、抓取原始數據特徵並生成,前面都是利用原始數據本身來生成,但可以利用每個類別都有不同特徵的觀點出發,例如貓跟狗一定有不同特徵,就可以利用抓取特徵的方式來生成,VAE就是一個很好的方法,利用原始數據訓練編碼/解碼器,編碼器能抓取特徵,而解碼器就根據此特徵就能生成想要數量的資料。  Part 2 介紹了三種不同的方法,分別是Data Augmentation、SMOTE和VAE,整理三者的優缺點 Data Augmentation 優點: 透過對原始圖像做翻轉、裁切等等的簡單操作可以很快速的獲得資料量。 缺點: 經由圖像處理後的圖片有可能失去本身擁有的特性,例如模型訓練翻轉後的圖像後,變得無法分類原始圖像。 SMOTE 優點: 能夠生成跟自身較相近的圖像。 缺點: 需大量計算時間、假如周圍鄰居相隔較遠則無法有效生成相近數據。 VAE 優點: 抓取特徵後,透過VAE中的解碼器(生成器),能快速生成所需數量的數據,且一定包含原始圖像所擁有的特徵。 缺點: 假如原始數據量過少,會發生訓練編碼/解碼器時缺乏訓練,後果是編碼或解碼時不會是預想中的數據。