非线性半参数模型最小二乘估计理论及应用研究

非线性半参数模型最小二乘估计理论及应用研究

张松林[1]2003年在《非线性半参数模型最小二乘估计理论及应用研究》文中研究表明非参数和半参数模型的研究在近30年取得了较大的发展,这主要归因于计算机技术的发展。半参数模型含有一参数分量和一非参数分量,它弥补了非参数模型的不足,对许多实际问题,半参数模型往往较参数模型具有更强的解释能力。半参数模型的主要研究成果集中在统计领域,包括线性半参数模型中参数分量和非参数分量的估计的构造、估计结果的大样本性质等。目前对非线性模型的研究已有了相当进展,在非线性模型的非线性强度度量、非线性模型参数估计的各种算法以及非线性模型参数估计的统计性质方面都有了较完善的理论基础。 将非线性模型估计理论中的参数估计扩展到半参数估计以及将线性半参数模型估计理论推广到非线性半参数模型,初步建立非线性半参数模型最小二乘估计理论是本文所做的主要工作。由于在半参数模型中引入了非参数分量,而非参数分量可以用来表达参数模型表达不完善的部分,因此,半参数模型可以克服参数模型在表达客观模型方面的局限性,一方面使数学模型与客观实际更接近,另一方面能从误差中分离出系统误差和偶然误差,提供更丰富的解算结果。本文的研究具有理论意义和实用价值。 本文在第二章主要讨论了非线性模型参数估计的理论和方法,包括非线性模型参数的估计准则和解算方法。具体而言,非线性模型参数的估计准则主要有最小二乘估计准则、极大似然估计准则、稳健估计准则及Bayes准则等,其中应用最广泛的准则是最小二乘准则。在研究非线性模型的非线性强度及其度量的基础上,讨论了非线性模型参数估计的解算方法,包括最小二乘类近似解法、迭代解法、直接解法及单纯形法、模拟退火算法和遗传算法等随机搜索法。 在第叁章主要研究了非参数模型的估计问题,主要讨论了非参数模型的核权函数估计、近邻权函数估计、Fourier级数估计、多项式估计、分块多项式估计、样条估计和小波估计的构造。由于非参数模型的各种估计方法都存在光滑参数的确定问题,本章讨论了非参数估计中最常用的几种光滑参数的选择方法:CV或GCV法、L-曲线法和Iterative Plug-in法。对主要的估计方法,本章用模拟数据进行了计算,验证了各种估计方法的效果,并对估计结果进行了比较分析。 在第四章研究了最小二乘准则下线性半参数模型估计理论,给出了线性半参数模型的最小二乘核估计、近邻估计、样条估计、分块多项式估计、叁角级数估计、小波估计

张松林, 张昆[2]2006年在《非线性半参数模型最小二乘核估计的直接解法》文中研究说明基于非线性半参数模型最小二乘核估计,给出了其参数分量和非参数分量估计的构造式,导出了参数分量和非参数分量顾及二次项直接解法的计算公式。用实测数据进行计算,证明了对于非线性半参数模型最小二乘核估计,可采用顾及二次项的直接解法。

赵德勇[3]2007年在《卫星联合定轨的参数化信息融合技术及应用》文中研究说明以卫星轨道动力学信息的稀疏参数建模和测量信息的参数化建模为基础的参数化信息融合数据处理技术是实现天地基综合信息网中卫星联合定轨需要突破的关键技术之一。本文以系统科学理论和系统工程技术为指导,以轨道动力学信息的稀疏参数建模和测量信息的参数化建模为突破口,研究联合定轨参数化信息融合的理论、模型与方法,并在基于双星定位系统的近地卫星联合定轨涉及的几个典型研究层次中获得应用。本文的主要工作和创新点如下:1)联合定轨的需求分析及定轨原理建模。通过对联合定轨系统的功能需求和数据需求分析,建立了以定轨系统结构和测量系统特征分析、轨道动力学信息的稀疏参数建模和测量信息的参数化建模、非线性半参数联合估计算法设计、联合定轨精度综合评估为内涵的通用联合定轨数据处理流程,拓展和完善了传统联合定轨的概念内涵和研究外延,在此基础上建立了基于双星距离和观测数据的联合定轨基本模型及其数值融合算法。2)动力学模型稀疏参数建模及高精度表示。针对卫星轨道动力学模型建模误差的存在,改进了传统的卫星轨道动力学模型误差补偿方法,提出了一种物理模型和基于稀疏参数表示和时间序列分析的数学模型相结合的卫星轨道动力学模型高精度表示方法,在分别建立轨道摄动偏差信号的基于小波分解的加权迭代稀疏参数估计算法和轨道摄动残差信号的时间序列参数估计方法的基础上,建立了轨道动力学高精度表示模型的改进的Gauss—Newton迭代求解算法。理论分析和实验结果表明,该建模方法是对物理参数模型建模误差的一种有效补偿,卫星联合定轨精度得到较大程度的改善。3)测量模型误差的非线性半参数建模及精度评估。在建立多测元观测数据的联合定轨多源融合测量模型及其多结构非线性融合处理算法的基础上,针对联合定轨数据处理中的非线性影响因素导致的测量模型误差,提出了一种参数化建模和非参数分量表示相结合的非线性半参数联合定轨模型建模方法,在此基础上建立了参数估值的偏差修正算法和基于数据融合处理的联合定轨精度综合评估方法。理论分析和实验结果表明,考虑测量模型误差的基于正则矩阵补偿的半参数估计方法及其偏差修正算法能够有效改善卫星的联合定轨精度。4)联合定轨应用技术的分层次研究方法。以基于双星定位系统的近地卫星联合定轨作为工程应用背景,提出了联合定轨应用技术的基于观测数据层、模型结构层、策略融合层的分层次研究方法,分别建立了同质观测数据的二步系统误差消除的方差分量估计加权算法以及异质观测数据的方差分量估计和模型结构分析相结合的综合加权算法、基于加权因子的多结构非线性联合定轨模型及其最优加权算法、基于动力学和运动学定轨策略融合的一体化联合定轨模型及其加权融合估计算法,叁个层次的最优加权估计算法能够进一步抑制轨道动力学建模误差、测量模型误差等非线性影响因素对联合定轨精度的影响,最终的卫星轨道参数估计精度得到了进一步的改善。

张昆, 张松林, 王新洲[4]2006年在《非线性半参数模型最小二乘核估计法方程系数阵的非奇异性质》文中认为本文基于非线性半参数模型最小二乘核估计的迭代解法,证明了非线性半参数模型最小二乘类估计法方程系数阵在一定条件下的非奇异性。这种性质可类推到非线性半参数模型的其他最小二乘类估计方法和其他非线性解算方法,这是对非线性半参数模型估计理论的初步推导。

张松林, 张昆, 王新洲[5]2007年在《非线性半参数模型最小二乘近邻估计》文中研究表明目前对非线性半参数模型的研究尚处于初级阶段,关于非线性半参数模型的计算理论还未见实质性报道.基于非线性半参数模型最小二乘近邻估计,给出了其参数分量和非参数分量估计的构造式,导出了参数分量和非参数分量顾及二次项直接解法的非线性直接解法.基于工程实际中的非线性模型用模拟数据进行计算,证明对于非线性半参数模型最小二乘近邻估计,可采用顾及二次项的直接解法.

张松林, 张昆, 王新洲[6]2009年在《非线性半参数模型最小二乘核估计的迭代算法》文中研究指明基于非线性半参数模型最小二乘核估计,给出了核估计参数分量和非参数分量估计的构造式,导出了利用高斯-牛顿迭代法的计算公式.实测数据的模拟表示该算法具有较好的拟合精度.

郭兴翠[7]2007年在《半参数回归模型的估计方法和模拟分析》文中研究说明半参数回归模型,又称为部分线性回归模型,是由Engle etal(1986)在研究天气变化与供电需求之间的关系时引入的,是20世纪80年代以来发展起来的一种重要的统计模型。在实际的回归分析中,由于存在不可避免的系统误差,独立变量便不能被直接观测到,而是由带有误差的值所代替。由于系统误差的问题,普通最小二乘便不再有效,所以研究半参数回归模型比一般回归模型更具有挑战性和实际意义。本文首先介绍了半参数回归模型的两种不同类型的回归模型:线性半参数回归模型和非线性半参数回归模型;研究了目前半参数回归模型常见的估计方法(补偿最小二乘估计、核光滑估计、拟似然估计、虚拟观测法)并得到了一些满意的结果,我们在这里将本文的工作大致介绍如下:本文的主要结果之一是首先把拟似然估计方法引入到半参数模型的估计中来,研究了线性半参数模型和非线性半参数模型的参数估计。拟似然估计方法克服了使用极大似然估计法以随机误差的分布必须服从正态分布为前提条件的缺点,此法不是从误差分布出发而是从误差矩出发,更具有一般性,而且估计的结果一般也优于最小二乘估计法的结果。主要结果之二是把半参数模型的解法与传统的测量数据处理方法有机的结合了起来,即将对问题的先验信息转换成对问题的虚拟观测。采用虚拟观测法对半参数模型进行参数估计,并将此方法推广到了非线性半参数模型的求解中,值得指出的是虚拟观测法克服了传统半参数解算方法的相对抽象性问题,与实际问题关系密切。主要结果之叁是将半参数模型的各种解法归结到一起对各种解法的步骤以及优劣性进行了比较说明。

胡宏昌[8]2004年在《半参数模型的估计方法及其应用》文中研究表明随着测绘科学技术的发展,测绘科学本身及其它相关科学都对现代测量数据处理提出了更高的要求,而现有的数据处理理论已经无法解决在测量实践中遇到的一些新问题,限制和束缚了测绘技术的发展与应用。因此必须进一步研究、改进数据处理理论,并提出和发展新的理论与方法。 在测量数据处理中,人们常常采用参数模型,是因为其结构简单、易于处理,而且在火多数情形下(如常规大地测量的各种静态问题),由于大部分系统误差可在数据处理前补偿、消除或在参数模型中表达,故所建立的参数模型与客观实际是比较一致的,能满足实际需要。但在有些情形下(如大地测量的一些动态问题),观测值中存在既不能消除又无法参数化的系统误差,从而导致了参数模型与客观实际存在不可忽视的偏差。 另一方面,系统误差总是作为有害成分设法予以消除或补偿,这并不一定是很科学的处理方法。实际上,系统误差中含有影响观测值的各种因素的信息,如能正确的识别、提取,则不仅能够提高参数估计精度,而且能为其它学科的研究提供资料。 另外,如果影响观测值的因素可分为两个部分:主要部分是线性关系,另一部分是某种干扰因素,它同观测量的关系是完全未知的,也没有理由将其归入误差项。此时,如用非参数模型(尽管它有较大的适应性)加以处理,则会失去太多的信息,如采用线性模型加以处理,则拟合效果很差。 鉴于以上问题,需要考虑其它的数据处理模型——半参数模型 l_i=A_i~TX+s(t_i)+△_i (i=1,2,…,n),它是八十年代发展起来的一种重要的统计模型。由于它既含有参数分量(描述了观测量中函数关系已知的成分),又含有非参数分量(专门表示函数关系未知的模型偏差),可以概括和描述众多实际问题,更接近于真实,因而引起广泛重视,其研究日益成熟。 一般来说,测量数据处理问题最终归结为参数或非参数估计问题。迄今为止,对半参数模型的研究已存在大量的估计方法,如:早期将非参数分量参数化的思想;两步估计,包括近邻估计、权估计、核估计、小波估计等;两阶段估计;抗差或稳健估计;补偿最小二乘估计法等等。但在数学等理论领域,其研究几乎是理论估计及其大样本性质,很难将它们转化为应用;而在测绘等应用领域,对半参数模型的研究大多数结果存在理论研究不透彻及方法单一等不足。笔者试图在二者之间建起一座桥梁,以便弥补二者的不足。 本论文将结合数学界的理论研究工作与测绘界的实际需要,系统地研究了半参数模型的各种估计方法(补偿最小二乘法、小波估计法、泛最小二乘法、累积法、稳健估计法、迭代法、两阶段估计法等等)及其在测量数据处理中的应用。具体地说,主要研究了如下内容: 在第二章里,阐明了半参数模型的补偿最小二乘估计方法,基于使最小二乘极值问题可以求解及对非参数估计曲线起平滑作用的原因,而提出的补偿最小二乘准则为 V~TPV+aS~TRS=min在该准则下,得到了参数、非参数分量的估计值及观测值改正值的表达式,并用叁次样条函数插值法得到了非参数分量的推估表达式。研究了估计量的有偏性、分布、误差大小等统计特性。较为系统地讨论了平滑因子a及正规矩阵R的选取。通过模拟的算例及坐标变换、GPS定位、重力测量等实际应用,说明了该法的成功性及实用性。并从理论上,将流行的自然样条估计方法归结为补偿最小二乘方法,从而把前者作为后者的特例来研究。 在第叁章里,以小波估计为例研究两步估计。两步估计的思想是:先基于假设参数已知,

李朝奎[9]2001年在《非线性模型空间测量数据处理理论及其应用》文中研究表明随着测绘科学技术发展,线性模型空间测量平差与数据处理已成为制约测量数据处理精度进一步提高的瓶颈。二十多年来,非线性平差、变点分析、神经网络方法、非线性回归分析等方面的研究取得很大进展,但仍有很多问题需要进一步研究。本文围绕非线性模型空间测量平差与变形数据分析的有关问题,用综合的、联系的、系统的方式进行研究,得出了一些阶段性或层次性结论,无疑对于现有非线性测量数据处理的发展起到积极的促进作用。 本论文首先对误差和精度的定义与分类进行研究,其特点是把粗差归入随机误差类,同时提出以广义精度作为参数质量的评价标准:其次研究了非线性模型的数学特征,从理论上提出了基于Cook距离的强、弱非线性模型的可区分性推断新标准;提出基于真误差定义的SMSE=minE(X-X)~2融合抗差参数估计准则,采用AR(1)部分延续模型对真误差进行描述,对SMSE准则约束下的平差模型,借助迭代技术在非线性模型空间进行解算,运用Monte-Carlo方法对非线性模型空间函数方差的进行估计:以MLE为背景,推导了基于非线性方差分量模型的随机参数估计方法,给出了融合抗差理论背景下测量平差(广义)精度的评定公式:给出了非线性时序分析中因素、指标、模型的分解与综合的多种方法、对非参数型非线性时序模型的估计方法作了详细推证,给出了非线性时序分析中高维数据的降维方法。 将上述部分理论与方法运用于非线性GPS基线解算、GPS水准高程的非线性高斯函数拟合及桥塔位移的非线性时序分析等应用问题,得出许多有意义的结论和满意结果。这从实践上对本文提出的理论与方法进行验证。

潘雄[10]2005年在《半参数模型的估计理论及其应用》文中提出半参数模型是二十世纪八十年代发展起来的一种重要的统计模型,它引入了表示模型误差或其它系统误差的非参数分量,从而使这种模型既含有参数分量,又含有非参数分量,兼顾了参数模型和非参数模型的优点,较单纯的参数模型或非参数模型有更大的适应性,并具有更强的解释能力。 在许多实际问题中,我们遇到的系数是非随机设计点列,即固定设计点列的情况。因而本论文主要研究在固定设计情况下,半参数模型中参数分量和非参数分量的估计量的构造、估计结果的大样本性质及其应用。 将参数模型和非参数模型估计理论中的参数估计扩展到半参数模型,初步建立半参数模型最小二乘估计理论是本文所做的主要工作。将测量数据处理中影响观测值的因素分为两个部分:一部分为线性部分,另一部分为某种干扰因素,它同观测量的关系是完全未知的,没有理由将其归入误差项,可以将其看成半参数模型中的非参数分量,即用非参数分量表达参数模型表达不完善的部分。因此,半参数模型可以克服参数模型在表达客观模型方面的局限性。一方面使数学模型与客观实际更接近,另一方面能从误差中分离出系统误差和偶然误差,提供更丰富的解算结果。从而,半参数模型可以概括和描述众多实际问题,更接近于真实,因而引起了广泛的重视,研究日益成熟,本文的研究具有理论意义和实用价值。 本论文将结合数学界的理论研究工作与测绘界的实际需要,系统地研究半参数模型的各种估计方法(补偿最小二乘法、两步估计法、二阶段估计法、小波估计法、迭代法等)及其在测量数据处理中的应用,具体地说,主要研究了如下内容: 在第二章,基于最小二乘极值问题的求解,提出了补偿最小二乘准则。在该准则下,得到了正规化矩阵正定、半正定情况下模型中参数分量、非参数分量的估计值及其观测值的改正值的表达式。较为系统地讨论了平滑因子及正规化矩阵的选取方法。利用补偿最小二乘原理构造加权补偿平方和,得到了半参数模型中正规化矩阵正定时参数和非参数的估计量。从偶然误差的统计特征出发,详细讨论了这种平差方法得到的参数估计值的有偏性、误差大小等统计性质,并对半参数平差与最小二乘法的参数估计值进行了比较。理论分析表明,通过选取合适的平滑因子,半参数平差方法优于最小二乘法。另外从数理统计的角度对平滑因子的选取进行了分析,得到了平滑因子的取值范围。在均方误差准则下,对半参数模型和参数模型的估计的准确度进行了比较,给出了参数分量为O的T统计检验的实用统计量的构造公式和检验方法。这对于上述估计方法的应用有实际意义。 采用模拟数据对补偿最小二乘法进行了算例验证,与忽略系统误差采用参数模型在最小二乘准则下的估计结果进行了比较,证明采用半参数模型,可以估计出系

参考文献:

[1]. 非线性半参数模型最小二乘估计理论及应用研究[D]. 张松林. 武汉大学. 2003

[2]. 非线性半参数模型最小二乘核估计的直接解法[J]. 张松林, 张昆. 大地测量与地球动力学. 2006

[3]. 卫星联合定轨的参数化信息融合技术及应用[D]. 赵德勇. 国防科学技术大学. 2007

[4]. 非线性半参数模型最小二乘核估计法方程系数阵的非奇异性质[J]. 张昆, 张松林, 王新洲. 测绘科学. 2006

[5]. 非线性半参数模型最小二乘近邻估计[J]. 张松林, 张昆, 王新洲. 华中师范大学学报(自然科学版). 2007

[6]. 非线性半参数模型最小二乘核估计的迭代算法[J]. 张松林, 张昆, 王新洲. 华中师范大学学报(自然科学版). 2009

[7]. 半参数回归模型的估计方法和模拟分析[D]. 郭兴翠. 中南大学. 2007

[8]. 半参数模型的估计方法及其应用[D]. 胡宏昌. 武汉大学. 2004

[9]. 非线性模型空间测量数据处理理论及其应用[D]. 李朝奎. 中南大学. 2001

[10]. 半参数模型的估计理论及其应用[D]. 潘雄. 武汉大学. 2005

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

非线性半参数模型最小二乘估计理论及应用研究
下载Doc文档

猜你喜欢