| 摘要 | 第3-5页 |
| abstract | 第5-6页 |
| 主要符号对照表 | 第13-14页 |
| 第一章 绪论 | 第14-24页 |
| 1.1 背景和动机 | 第14-15页 |
| 1.2 文献综述 | 第15-17页 |
| 1.3 主要贡献 | 第17-18页 |
| 1.4 基础算法简介 | 第18-24页 |
| 1.4.1 信赖域算法简介 | 第18-19页 |
| 1.4.2 经典Levenberg-Marquardt算法简介 | 第19-22页 |
| 1.4.3 有限内存BFGS方法简介 | 第22-24页 |
| 第二章 自适应Levenberg-Marquardt算法 | 第24-44页 |
| 2.1 自适应Levenberg-Marquardt算法及其全局收敛性 | 第25-30页 |
| 2.2 局部收敛性 | 第30-39页 |
| 2.2.1 试探步的性质 | 第31-34页 |
| 2.2.2 LM参数的有界性 | 第34-35页 |
| 2.2.3 算法的收敛速度 | 第35-39页 |
| 2.3 数值实验 | 第39-43页 |
| 2.4 总结 | 第43-44页 |
| 第三章 Levenberg-Marquardt方法在复合函数问题上的推广 | 第44-84页 |
| 3.1 噪声问题的极大似然解 | 第44-47页 |
| 3.2 ELM方法 | 第47-55页 |
| 3.2.1 算法框架 | 第47-49页 |
| 3.2.2 带截断的共轭梯度法 | 第49-53页 |
| 3.2.3 参数的更新 | 第53-54页 |
| 3.2.4 非精确算法 | 第54-55页 |
| 3.2.5 与现有方法的关系 | 第55页 |
| 3.3 全局收敛性 | 第55-57页 |
| 3.4 局部收敛性 | 第57-60页 |
| 3.5 收敛速度的精细分析 | 第60-71页 |
| 3.5.1 最小二乘问题的转化 | 第60-61页 |
| 3.5.2 ELM的收敛定理 | 第61-67页 |
| 3.5.3 非精确ELM方法的收敛速度 | 第67-71页 |
| 3.6 数值实验 | 第71-78页 |
| 3.6.1 CUTEst可行性问题 | 第71-72页 |
| 3.6.2 MGH问题集 | 第72-74页 |
| 3.6.3 Logistic回归 | 第74-78页 |
| 3.7 总结 | 第78-84页 |
| 第四章 随机Levenberg-Marquardt方法在大规模问题上的应用 | 第84-102页 |
| 4.1 算法 | 第85-92页 |
| 4.1.1 低秩海森矩阵逼近 | 第85-87页 |
| 4.1.2 可快速求解的正则化子问题 | 第87-88页 |
| 4.1.3 减少海森矩阵的抽样需求 | 第88-89页 |
| 4.1.4 使用有限内存BFGS框架校正近似 | 第89-91页 |
| 4.1.5 与其他方法的比较 | 第91-92页 |
| 4.2 收敛性分析 | 第92-94页 |
| 4.3 数值实验 | 第94-99页 |
| 4.3.1 不同的海森矩阵更新方案的比较 | 第95-96页 |
| 4.3.2 样本数量对算法的影响 | 第96-99页 |
| 4.3.3 与其他随机方法的比较 | 第99页 |
| 4.4 总结 | 第99-102页 |
| 全文总结及展望 | 第102-104页 |
| 附录A 常用公式 | 第104-106页 |
| A.1 Sherman–Morrison–Woodbury 公式 | 第104页 |
| A.2 向量函数的导数 | 第104-106页 |
| 附录B 部分翻译对照表 | 第106-108页 |
| 参考文献 | 第108-118页 |
| 致谢 | 第118-120页 |
| 攻读学位期间发表的学术论文 | 第120-122页 |
