基于锥模型的子空间极小化共轭梯度法研究

基于锥模型的子空间极小化共轭梯度法研究

论文摘要

共轭梯度法是求解无约束优化问题的一类主要方法,由于其迭代格式简单,存储量需求小,有较快的收敛速度,因而能有效地解决大规模优化问题,受到很多研究者的关注.随着越来越多大规模问题的出现,子空间技术变得尤为重要并且被广泛应用于最优化领域,它避免了在每次迭代求解大规模问题,可以减少计算量和降低存储空间,其中关键的因素是选择迭代方向所属的子空间.最近,有很多学者研究了子空间极小化共轭梯度法,其迭代方向一般通过极小化特定子空间上目标函数的二次近似模型得到.但对于一些非二次性态较强的函数,二次模型逼近的效果不一定好.考虑到锥模型比二次模型拥有更多的自由度,可以插值较多的信息,能够充分利用以前迭代点的函数和梯度信息.于是,本文基于锥模型,根据不同的子空间,提出两种新的子空间极小化共轭梯度法.具体工作如下:首先,针对无约束优化问题,通过在二维子空间上极小化模型,提出一种新的子空间极小化共轭梯度法.在每一次迭代动态地选择合适的模型,即,当迭代点靠近极小点时,目标函数的性态接近于二次,可用二次模型很好地近似.当迭代点远离极小点或者目标函数的非二次性态较强时,考虑用锥模型来逼近原函数.本章首先给出模型选择的判别准则,在二维子空间上极小化所选择的模型获得搜索方向,进一步验证搜索方向具有充分下降性质.在改进的非单调线搜索条件下,建立所提出方法的全局收敛性和R-线性收敛性.两个不同测试问题集的数值实验表明,该方法是相当有效的,并且可以和经典的CGOPT方法、CG DESCENT方法相媲美.其次,将二维子空间推广到三维子空间,利用当前迭代点的梯度信息和前两次的方向来构造当前迭代点的搜索方向.每一次迭代均通过模型判别准则来选择使用二次模型或者锥模型,并且在选定模型下给出子空间的三种选取方式,进一步给出不同子空间下搜索方向的选择标准,提出基于锥模型的三维子空间极小化共轭梯度法.在一定条件下,证明搜索方向的两个重要性质.基于改进的非单调线搜索,建立新算法的收敛性质.通过两个不同测试集的数值实验表明新算法是有效的,尤其针对大规模无约束优化问题.

论文目录

  • 摘要
  • ABSTRACT
  • 符号对照表
  • 缩略语对照表
  • 第一章 绪论
  •   1.1 提出问题
  •   1.2 线搜索
  •   1.3 共轭梯度法
  •   1.4 子空间技术
  •   1.5 锥模型方法
  •   1.6 本文研究内容
  • 第二章 基于锥模型的二维子空间极小化共轭梯度法
  •   2.1 模型的选择和搜索方向的推导
  •     2.1.1 模型选择的判别准则
  •     2.1.2 搜索方向的推导
  •   2.2 选取步长的策略和新的算法
  •     2.2.1 选取步长的策略
  •     2.2.2 SMCG Conic算法
  •   2.3 搜索方向的性质
  •   2.4 收敛性分析
  •   2.5 数值实验
  •   2.6 本章小结
  • 第三章 基于锥模型的三维子空间极小化共轭梯度法
  •   3.1 模型的选择和搜索方向的推导
  •   3.2 CONIC CG3算法及其重要性质
  •   3.3 数值试验
  •   3.4 本章小结
  • 第四章 总结与展望
  •   4.1 总结
  •   4.2 展望
  • 参考文献
  • 致谢
  • 作者简介
  • 文章来源

    类型: 硕士论文

    作者: 李宇飞

    导师: 刘红卫

    关键词: 共轭梯度法,锥模型,子空间极小化,全局收敛,线性收敛

    来源: 西安电子科技大学

    年度: 2019

    分类: 基础科学

    专业: 数学

    单位: 西安电子科技大学

    分类号: O224

    DOI: 10.27389/d.cnki.gxadu.2019.001611

    总页数: 71

    文件大小: 1775K

    下载量: 31

    相关论文文献

    • [1].一个具有充分下降性的混合共轭梯度法[J]. 应用数学学报 2020(03)
    • [2].一类具有充分下降性的混合型谱共轭梯度法[J]. 西南大学学报(自然科学版) 2017(05)
    • [3].求解一类特殊极大值函数方程的光滑谱共轭梯度法[J]. 上海工程技术大学学报 2017(02)
    • [4].一个充分下降的杂交共轭梯度法[J]. 玉林师范学院学报 2015(05)
    • [5].解无约束优化的一个谱共轭梯度法[J]. 玉林师范学院学报 2016(02)
    • [6].基于混合快速共轭梯度法的有限差分对比源反演[J]. 石油地球物理勘探 2020(02)
    • [7].一个自调节Polak-Ribiere-Polyak型共轭梯度法[J]. 应用数学学报 2017(03)
    • [8].一个新的谱共轭梯度法[J]. 工程数学学报 2014(06)
    • [9].一类下降的谱共轭梯度法[J]. 广西民族师范学院学报 2013(03)
    • [10].非精确线搜索下一类新的混合共轭梯度法研究[J]. 河池学院学报 2011(02)
    • [11].无约束优化问题新的谱共轭梯度法(英文)[J]. 内蒙古大学学报(自然科学版) 2011(06)
    • [12].基于共轭梯度法迭代优化的图像分类算法[J]. 桂林电子科技大学学报 2019(06)
    • [13].求解线性方程组的一般共轭梯度法(英文)[J]. 数学理论与应用 2019(02)
    • [14].一种具有充分下降性的三项共轭梯度法[J]. 数学的实践与认识 2018(23)
    • [15].求解线性反问题的修正谱共轭梯度法[J]. 桂林电子科技大学学报 2018(03)
    • [16].一类充分下降的谱共轭梯度法[J]. 重庆师范大学学报(自然科学版) 2013(04)
    • [17].复共轭梯度法的结构[J]. 哈尔滨理工大学学报 2012(04)
    • [18].一种无约束优化问题的谱共轭梯度法[J]. 太原科技大学学报 2010(03)
    • [19].不完全左共轭梯度法及其数值表现[J]. 南京大学学报数学半年刊 2009(01)
    • [20].一个具有充分下降性质的共轭梯度法[J]. 湖北民族学院学报(自然科学版) 2019(02)
    • [21].共轭梯度法在最优化问题求解中的应用[J]. 中华少年 2015(22)
    • [22].求解大规模优化的混合共轭梯度法[J]. 工程数学学报 2013(01)
    • [23].共轭梯度法在信号处理中的应用思考[J]. 移动通信 2012(16)
    • [24].解线性方程组的共轭梯度法[J]. 新乡学院学报(自然科学版) 2011(04)
    • [25].一类共轭梯度法的全局收敛性[J]. 山东大学学报(理学版) 2010(05)
    • [26].精确线搜索下一种新的混合共轭梯度法[J]. 数学杂志 2018(03)
    • [27].一类求解无约束问题的混合参数共轭梯度法及全局收敛性[J]. 北华大学学报(自然科学版) 2016(01)
    • [28].强迫下降的三项共轭梯度法[J]. 数值计算与计算机应用 2012(03)
    • [29].基于共轭梯度法的混沌系统参数辨识和同步[J]. 仪器仪表学报 2008(04)
    • [30].求解线性逆问题的谱共轭梯度法[J]. 广西科学 2016(05)

    标签:;  ;  ;  ;  ;  

    基于锥模型的子空间极小化共轭梯度法研究
    下载Doc文档

    猜你喜欢