Hyperband 調整器

[來源]

Hyperband 類別

keras_tuner.Hyperband(
    hypermodel=None,
    objective=None,
    max_epochs=100,
    factor=3,
    hyperband_iterations=1,
    seed=None,
    hyperparameters=None,
    tune_new_entries=True,
    allow_new_entries=True,
    max_retries_per_trial=0,
    max_consecutive_failed_trials=3,
    **kwargs
)

HyperBand 演算法的變形。

參考

Li, Lisha, and Kevin Jamieson. "Hyperband: A Novel Bandit-Based Approach to Hyperparameter Optimization." Journal of Machine Learning Research 18 (2018): 1-52。

參數

• hypermodel：HyperModel 類別的實例（或接收超參數並返回 Model 實例的可呼叫物件）。當覆寫 Tuner.run_trial() 且未使用 self.hypermodel 時，此參數為選用。
• objective：字串、keras_tuner.Objective 實例，或 keras_tuner.Objectives 和字串的清單。如果是字串，將推斷最佳化的方向（最小化或最大化）。如果是 keras_tuner.Objective 的清單，我們將最小化所有目標的總和以進行最小化，並減去所有目標的總和以進行最大化。當 Tuner.run_trial() 或 HyperModel.fit() 返回單一浮點數作為最小化的目標時，objective 參數為選用。
• max_epochs：整數，訓練單一模型的最大訓練回合數。建議將此值設定為略高於最大模型預期收斂回合數的值，並在訓練期間使用提前停止（例如，透過 tf.keras.callbacks.EarlyStopping）。預設值為 100。
• factor：整數，每個括號的回合數和模型數的減少因子。預設值為 3。
• hyperband_iterations：整數，至少為 1，迭代完整 Hyperband 演算法的次數。一次迭代將在所有試驗中執行大約 max_epochs * (math.log(max_epochs, factor) ** 2) 個累積回合數。建議將此值設定為資源預算允許的最大值。預設值為 1。
• seed：選用整數，隨機種子。
• 超參數：選用的 HyperParameters 實例。可用於覆寫（或預先註冊）搜索空間中的超參數。
• 調整新項目：布林值，表示是否應將超模型請求但未在 hyperparameters 中指定的超參數項目添加到搜索空間中。如果為否，則將使用這些參數的默認值。默認為 True。
• 允許新項目：布林值，表示是否允許超模型請求未在 hyperparameters 中列出的超參數項目。默認為 True。
• 每次試驗的最大重試次數：整數。默認為 0。如果 Trial 崩潰或結果無效，則重試 Trial 的最大次數。
• 最大連續失敗試驗次數：整數。默認為 3。連續失敗的 Trial 的最大次數。達到此數字時，搜索將停止。當所有重試均失敗時，Trial 將標記為失敗。
• **kwargs：與所有 Tuner 子類別相關的關鍵字引數。請參閱 Tuner 的說明文件。