3. 最適化アルゴリズム: 違いと使用例
3.1. さまざまなアルゴリズムについて学ぶ理由
パラメータ空間と計算コストは大きく異なります。グリッド検索は狭い空間では信頼性がありますが、組み合わせによって爆発的に増加します。ヒューリスティックまたはベイジアン手法は、限られた評価予算の下で精度と速度を引き換えにします。アルゴリズムは、連続パラメータ、離散パラメータ、または混合パラメータのサポートにおいても異なります。
3.2. 最適化アルゴリズムの比較 (相違点も含めてリスト)
アルゴリズム |
簡単な原則 |
長所と制限 |
代表的なパラメータスケール |
連続/離散/混合 |
一般的なコンピューティングコスト |
|---|---|---|---|---|---|
grid |
グリッド点の徹底的な検索または走査 |
シンプルで再現可能。高次元では非現実的 |
小 (2 ~ 3 次元) |
ほとんどがディスクリート |
グリッド サイズに応じて直線的に増加します |
montecarlo |
パラメータの組み合わせのランダムサンプリング |
シンプルで並列化が簡単。安定性を得るには多くのサンプルが必要です |
中~大 |
すべてサポートされています |
|
GA |
選択、交叉、突然変異 |
非凸のマルチモーダル問題に適しています。ハイパーパラメータに敏感 |
中~大 |
すべてサポートされています |
世代と人口規模によって決まる |
SA |
模擬アニーリング。確率的により悪い解決策を受け入れる |
局所最適化を回避できる。収束が遅い |
中くらい |
すべてサポートされています |
反復回数によって決定される |
PSO |
粒子群の位置と速度の更新 |
連続した空間に強い。個別のパラメータにはエンコードが必要です |
中~大 |
ほとんど継続的 |
粒子数と反復によって決定される |
bayesian |
サロゲートモデル+取得関数 |
少ないサンプルで効率的。高次元ではコストがかかる |
小規模から中規模 |
ほとんど継続的 |
反復とモデルフィッティングによって決定される |
3.3. 使用例と選択のアドバイス
離散パラメータはほとんどありません:
gridor small-scalemontecarloを推奨します。パラメータが多く、評価手順が少ない:
bayesianorGA/PSOを検討してください。連続的なマルチモーダル空間:
PSO,GA, orSA。opti_sample_countand parameter count: With too few samples or iterations, heuristics may stop early; increaseopti_sample_countまたは必要に応じてパラメーターの次元を減らします。
3.4. 早見表
上の表を参照してください。実際には、現在の qteasy リリースとそのドキュメントでサポートされている opti_method 値に従ってください。各アルゴリズムの一般的な設定 (GA の母集団サイズや突然変異率など) とその構成名とデフォルトに注意してください。