第九节曲线拟合的最小二乘法.ppt

第九节 曲线拟合的最小二乘法,最小二乘法,最小二乘解的求法,加权最小二乘法,主要内容,问题的提出,第一部分 引言,一、问题的提法,怎样从给定的一组数据出发，在某个函数类中寻找一个“最好”的函数来拟合这组数据。,二、目 的,在科学实验和生产实践中，经常要从一组实验数据出发，寻找函数y=f(x)的一个近似公式（称为经验公式）。已有的多项式插值法解决这类问题有明显的缺陷：实验数据有误差；实验数据量大等。,三、方 法,曲线拟合方法.,第二部分 最小二乘法,一、基本概念：残差,二、残差的选取方法（原则）,1、选取 ，使偏差绝对值之和最小，即,拟合的目的：使得残差最小，其中 为所要找的函数。,3、选取 ，使偏差平方之和最小，即,2、选取 ，使偏差最大绝对值最小，即,三、最小二乘原则（方法）,1、定义：使“偏差平方和最小”的原则称为最小二乘原则。,2、定义：按照最小二乘原则选取拟合曲线的方法，称为最小二乘法。,3、线性最小二乘问题的提法,式中， 是函数类 中任一函数。,满足上述关系式的函数 ，称为上述最小二乘问题的最小二乘解。,如何求解最小二乘问题？,1、确定函数类 原则：根据实际问题与所给数据点的变化规律；,有两个基本环节,2、求解如下方程：,第三部分 最小二乘解的求法,一、求解的基本原理：极小值原理,点 是多元函数 的极小值点，从而有 满足方程组,二、正则（法）方程组,如果定义:对任意函数 和 ，引入记号,三、定理（最小二乘解的存在唯一性定理）,对于给定的一组实验数据 ( 互异， ）, 在函数类 （ 且 线性无关）中，存在唯一的函数 使得关系式（*）成立，并且其系数 可以通过解法方程组（*）得到。,作为一种应用，拟合曲线假设为代数曲线，即取:,则有：,四、应用分析,于是正则（法）方程组为：,五、应用举例,说明最小二乘法解决实际问题的具体步骤和某些技巧。,例1(补充) 某种铝合金的含铝量为x(),其熔解温度为y（0C），由实验测得x与y的数据如下表左边的三列。试用最小二乘法建立x与y的经验公式。,解：1、将数据进行描图观察； 2、确定拟合曲线的形式。这里根据所描图形分析，拟合曲线接近于一直线，故可用线性函数进行拟合这组数据； 3、建立法方程组； 4、解法方程组； 5、检验拟合值与实测值之间的偏差（均方误差和最大误差）：,法方程组,对应的代数方程组：,在以多项式作为拟合函数（曲线）时，最小二乘法的计算机实现步骤为右框图。,六、程序化,1、实际问题的解决中测得的数据并不都是等精度、等地位的。显然，对于精度高、地位重的数据应该以足够的重视，在计算时，给以足够的、更大的权重，在这种情况下，求给定的数据的拟合曲线，就要用加权最小二乘法。 2、利用最小二乘法原则上解决了最小二乘法意义下的曲线拟合问题，但在实际问题的解决时，n往往很大，法方程组往往是病态的，因而给求解带来了一定的困难，为了解决这一问题，近年来，产生了一些新方法来克服这一困难，利用正交函数（正交多项式）作多项式的拟合。,小结,曲线拟合的最小二乘法的基本原理、具体的操作技巧； 利用最小二乘法作代数曲线（多项式函数：线性和抛物型）的基本方法； 均方误差和最大偏差的计算； 了解加权最小二乘法和正交最小二乘法。,作业：P57 37,