Random Search問題 - Cupoy

2020/05/17 10:41 下午

機器學習共學討論版

陳志堅

觀看數：10

回答數：3

收藏數：0

隨機搜尋

各位教練晚安,  有些Random Search疑問想請教:

1. 在D47 的講義中,有提到:

隨機搜尋 (Random Search)：指定超參參數的"範圍"，用均勻分布進行參數抽樣，用抽到的參數進行訓練，再根據驗證集的結果選擇最佳參參數

2. 而在D50的範例中,有提到"參數使用 Random Search 尋找",但乍看並無指定超參參數的範圍,請問,從哪一段code可得知這是Random Search?

3. D47 的 範例是用grid search : GridSearchCV 函式

    為何 D50 的 random search 不是用 : RandomizedSearchCV 函式, 而是用以下寫法.想請問哪裡有random search 一般寫法的範本.

ps:

D50 範例:

# 使用三種模型 : 線性迴歸 / 梯度提升機 / 隨機森林, 參數使用 Random Search 尋找

from sklearn.linear_model import LinearRegression

from sklearn.ensemble import GradientBoostingRegressor, RandomForestRegressor

linear = LinearRegression(normalize=False, fit_intercept=True, copy_X=True)

gdbt = GradientBoostingRegressor(tol=0.1, subsample=0.37, n_estimators=200, max_features=20, 

                                 max_depth=6, learning_rate=0.03)

rf = RandomForestRegressor(n_estimators=300, min_samples_split=9, min_samples_leaf=10, 

                           max_features='sqrt', max_depth=8, bootstrap=False)