3. 最適化アルゴリズム: 違いと使用例

3.1. さまざまなアルゴリズムについて学ぶ理由

パラメータ空間と計算コストは​​大きく異なります。グリッド検索は狭い空間では信頼性がありますが、組み合わせによって爆発的に増加します。ヒューリスティックまたはベイジアン手法は、限られた評価予算の下で精度と速度を引き換えにします。アルゴリズムは、連続パラメータ、離散パラメータ、または混合パラメータのサポートにおいても異なります。

3.2. 最適化アルゴリズムの比較 (相違点も含めてリスト)

アルゴリズム

簡単な原則

長所と制限

代表的なパラメータスケール

連続/離散/混合

一般的なコンピューティングコスト

grid

グリッド点の徹底的な検索または走査

シンプルで再現可能。高次元では非現実的

小 (2 ~ 3 次元)

ほとんどがディスクリート

グリッド サイズに応じて直線的に増加します

montecarlo

パラメータの組み合わせのランダムサンプリング

シンプルで並列化が簡単。安定性を得るには多くのサンプルが必要です

中~大

すべてサポートされています

sample_count によって決定されます

GA

選択、交叉、突然変異

非凸のマルチモーダル問題に適しています。ハイパーパラメータに敏感

中~大

すべてサポートされています

世代と人口規模によって決まる

SA

模擬アニーリング。確率的により悪い解決策を受け入れる

局所最適化を回避できる。収束が遅い

中くらい

すべてサポートされています

反復回数によって決定される

PSO

粒子群の位置と速度の更新

連続した空間に強い。個別のパラメータにはエンコードが必要です

中~大

ほとんど継続的

粒子数と反復によって決定される

bayesian

サロゲートモデル+取得関数

少ないサンプルで効率的。高次元ではコストがかかる

小規模から中規模

ほとんど継続的

反復とモデルフィッティングによって決定される

3.3. 使用例と選択のアドバイス

  • 離散パラメータはほとんどありません: grid or small-scale montecarlo を推奨します。

  • パラメータが多く、評価手順が少ない: bayesian or GA/PSO を検討してください。

  • 連続的なマルチモーダル空間: PSO, GA, or SA

  • opti_sample_count and parameter count: With too few samples or iterations, heuristics may stop early; increase opti_sample_count または必要に応じてパラメーターの次元を減らします。

3.4. 早見表

上の表を参照してください。実際には、現在の qteasy リリースとそのドキュメントでサポートされている opti_method 値に従ってください。各アルゴリズムの一般的な設定 (GA の母集団サイズや突然変異率など) とその構成名とデフォルトに注意してください。