3. 优化算法的区别与使用情境

3.1. 为何需要了解不同算法

参数空间与计算成本差异大:网格搜索在小空间上可靠但组合爆炸;启发式或贝叶斯在有限评估次数下权衡精度与速度;不同算法对连续/离散/混合参数的支持也不同。

3.2. 各优化算法对比(罗列并说明区别)

算法

原理简述

优点与局限

适用参数规模

连续/离散/混合

典型计算成本

grid

在网格点上穷举或遍历

实现简单、结果可复现;维数高时不可行

小(2~3 维)

离散为主

随点数线性增长

montecarlo

随机采样参数组合

实现简单、易并行;需较多样本才稳定

中、大

均可

由 sample_count 决定

GA

遗传、交叉、变异

适合非凸、多峰;调参敏感

中、大

均可

由代数与种群规模决定

SA

模拟退火、概率接受劣解

可跳出局部最优;收敛较慢

均可

由迭代次数决定

PSO

粒子群位置与速度更新

连续空间表现好;离散需编码

中、大

连续为主

由粒子数与迭代决定

bayesian

代理模型+采集函数

样本少时效率高;高维成本高

小、中

连续为主

由迭代与模型拟合决定

3.3. 使用情境与选择建议

  • 参数少、离散:优先 grid 或小规模 montecarlo。

  • 参数多、需少步数:考虑 bayesian 或 GA/PSO。

  • 连续空间、多峰:PSO、GA 或 SA。

  • opti_sample_count、参数个数:样本或迭代不足时,启发式可能早停;可适当增大 opti_sample_count 或降低参数维度。

3.4. 简要对比表

见上表;实施时以当前 qteasy 支持的 opti_method 及文档为准,注意各算法的典型参数(如 GA 的种群大小、变异率等)在配置中的名称与默认值。