摘要:最优化不足是在有限或无限种决策中挑选最好决策的不足,在经济计划、工程设计、生产管理、交通运输和国防等重要领域中具有广泛的运用.拟牛顿法是近几十年来最优化领域的探讨热点,但是在处理大型不足时,需要的存储量和计算量相当大.对角修正算法的提出使计算搜索方向的存储量和工作量显著减少,有较快的收敛速度.本论文对近年来倍受关注的对角修正算法进行了探讨,主要探讨结果归纳如下:第一章主要介绍了优化不足的基本算法,对角修正算法的一些基本知识以及本论文的主要工作.第二章在Zhang-Xu的三阶拟牛顿方程的基础上,结合Zhang H.C.的非单调线搜索规则提出了求解无约束优化不足的对角三阶拟牛顿算法.三阶拟牛顿方程由于利用更多的函数值信息,可以得到目标函数的更精确的曲率近似.该算法采取新的非单调线搜索规则,在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使计算搜索方向的存储量和计算量显著减少,同时保证了算法的全局收敛性和超线性收敛性.数值试验表明该算法是有效的.第三章在Barzilai and Borwein(BB)策略的基础上,结合Zhang and Xu提出的三阶拟牛顿方程,将其适当变形,通过引入一种简单的单调对策提出了一种新的梯度类型的算法—对角三阶拟柯西法.BB策略用数量矩阵来近似Hessen矩阵,并要求其近似满足拟牛顿条件;对角稀疏拟牛顿法用对角矩阵逼近Hessen阵同样要求其近似满足拟牛顿条件,而新算法基于三阶拟柯西方程,考虑Hessen阵的另一种近似,新算法在每次迭代中具有下降性.本论文证明了算法的线性收敛性.数值试验表明该算法是有效的.关键词:三阶拟牛顿方程论文三阶拟柯西方程论文非单调线搜索论文收敛性论文
摘要3-4
ABSTRACT4-6
第1章 绪论6-18
1.1 最优化策略概述6
1.2 几种常用的导数类下降算法6-9
1.3 线性搜索对策9-11
1.3.1 精确线性搜索9
1.3.2 非精确线性搜索9-10
1.3.3 非单调线性搜索10-11
1.4 两种形式的拟牛顿方程11-13
1.4.1 二阶拟牛顿方程11-13
1.4.2 三阶拟牛顿方程13
1.5 对角稀疏拟牛顿法介绍13-15
1.6 对角二阶拟牛顿法介绍15-16
1.7 对角拟柯西算法介绍16
1.8 本论文的主要工作16-18
第2章 基于三阶拟牛顿方程的对角三阶拟牛顿法18-28
2.1 引言18-19
2.2 对角稀疏拟牛顿法19-21
2.3 全局收敛性21-23
2.4 超线性收敛性23-25
2.5 数值试验25-28
第3章 一种基于三阶拟柯西方程的对角三阶拟柯西法28-36
3.1 引言28-29
3.2 对角三阶拟柯西法29-32
3.3 收敛性浅析32-34
3.4 数值试验34-36
第4章 总结36-38