3. 优化算法的区别与使用情境
3.1. 为何需要了解不同算法
参数空间与计算成本差异大:网格搜索在小空间上可靠但组合爆炸;启发式或贝叶斯在有限评估次数下权衡精度与速度;不同算法对连续/离散/混合参数的支持也不同。
3.2. 各优化算法对比(罗列并说明区别)
算法 |
原理简述 |
优点与局限 |
适用参数规模 |
连续/离散/混合 |
典型计算成本 |
|---|---|---|---|---|---|
grid |
在网格点上穷举或遍历 |
实现简单、结果可复现;维数高时不可行 |
小(2~3 维) |
离散为主 |
随点数线性增长 |
montecarlo |
随机采样参数组合 |
实现简单、易并行;需较多样本才稳定 |
中、大 |
均可 |
由 sample_count 决定 |
GA |
遗传、交叉、变异 |
适合非凸、多峰;调参敏感 |
中、大 |
均可 |
由代数与种群规模决定 |
SA |
模拟退火、概率接受劣解 |
可跳出局部最优;收敛较慢 |
中 |
均可 |
由迭代次数决定 |
PSO |
粒子群位置与速度更新 |
连续空间表现好;离散需编码 |
中、大 |
连续为主 |
由粒子数与迭代决定 |
bayesian |
代理模型+采集函数 |
样本少时效率高;高维成本高 |
小、中 |
连续为主 |
由迭代与模型拟合决定 |
3.3. 使用情境与选择建议
参数少、离散:优先 grid 或小规模 montecarlo。
参数多、需少步数:考虑 bayesian 或 GA/PSO。
连续空间、多峰:PSO、GA 或 SA。
opti_sample_count、参数个数:样本或迭代不足时,启发式可能早停;可适当增大 opti_sample_count 或降低参数维度。
3.4. 简要对比表
见上表;实施时以当前 qteasy 支持的 opti_method 及文档为准,注意各算法的典型参数(如 GA 的种群大小、变异率等)在配置中的名称与默认值。