当前位置：首页 > news >正文

插值、拟合和回归分析的相关知识

news 文章来源：https://blog.csdn.net/qq_58675332/article/details/144143801 2024/12/27 9:11:26

0 序言

1 分段线性插值

2 多项式插值

3 样条插值

4 最小二乘拟合

5 多元线性回归

0 序言

在生产实践和科学研究中，常常有这些问题:

插值问题：由实验或测量得到变量间的一批离散样点，要求得到变量之间的函数关系或得到样点之外的数据值。即给定一组离散的数据点 $(x_{i},y_{i})$ ，其中 $i=1,2,...,n$ ，目标是找到一个函数 $f(x_{i})=y_{i}$ ，使得该函数在给定的数据点处的函数值，并且可以用这个函数来估计在数据点之间的x值对应的y值。
拟合问题：指找到一条曲线（通常是某种函数形式） $f(x_{i})=y_{i}+\xi _{i}$ 来近似地表示一组数据点的分布规律。与插值不同的是，拟合并不要求曲线一定通过所有的数据点，而是要在整体上能够最好地描述数据的趋势。且 $\sum_{i=1}^{n}\xi _{i}^{2}$ 最小。
回归分析：要关注一个因变量（通常用 $y$ 表示）和一个或多个自变量（通常用 $x_{1},x_{2},...,x_{p}$ 表示）之间的关系，并且建立一个数学模型来描述这种关系，同时还可以对模型的参数进行估计和检验。

拟合和回归分析都关注数据的整体趋势和模型构建，拟合更侧重于曲线的近似，回归分析更强调变量之间关系的统计推断。插值主要关注数据点之间的函数值估计，在一定程度上也可以看作是一种特殊的数据拟合方式（要求通过所有已知数据点）。

1 分段线性插值

这是最通俗的一种插值方法，直观上就是将各数据点用折线连接起来。如果

$a=x_{0}<x_{1}<...<x_{n}=b$

那么，分段线性插值公式为

$\varphi (x)=\frac{x-x_{i}}{x_{i-1}-x_{i}}y_{i-1}+\frac{x-x_{i-1}}{x_{i}-x_{i-1}}y_{i},\; \; x_{i-1}<x\leq x_{i},\; \; i=0,1,...,n$

(由 $\varphi (x)=y_{i-1}+\frac{y_{i}-y_{i-1}}{x_{i}-x_{i-1}}(x-x_{i-1})$ 整理而来，其中 $k_{i-1}=\frac{y_{i}-y_{i-1}}{x_{i}-x_{i-1}}$ 为斜率)

可以证明，当分点足够多，分段线性插值是收敛的。其缺点是不能形成一条光滑曲线。

例1：求解标准正态分布 $\Phi (2.3456789)$

解：由标准正态分布函数值表可以得到 $\Phi (2.34)=0.99036,\; \; \Phi (2.35)=0.99061$ 采用分段线性插值计算 $\Phi (2.3456789)$ ，取区间 $[x_{i-1},x_{i}]=[2.34,2.35]$ ，插值函数 $f(x)=\Phi (x)$ ，则

$y_{i-1}=\Phi (x_{i-1})=\Phi (2.34)=0.99036\\\; \; y_{i}=\Phi (x_{i})=\Phi (2.35)=0.99061$

利用分段线性插值式可得

$\Phi (2.3456789)\approx \varphi (2.3456789)\\=0.99036\times \frac{2.3456789-2.35}{2.34-2.35}+0.99061\times \frac{2.3456789-2.34}{2.35-2.34}=0.99050$

2 多项式插值

多项式插值是指用一个多项式函数来通过给定的一组数据点。给定 $n+1$ 个不同的数据点 $(x_{0},y_{0}),(x_{1},y_{1}),...,(x_{n},y_{n})$ 要找一个次数不超过n的多项式

$P_{n}(x)=a_{0}+a_{1}x+a_{2}x^{2}+...+a_{n}x^{n}$ 使得 $P_{n}(x_{i})=y_{i},i=0,1,2,...,n$ 。

若要求得函数表达式，可直接解方程组。若只要求得函数在插值点处数值，可利用Lagrange插值公式

$P_{n}(x)=\sum_{i=0}^{n}y_{i}\left ( \prod_{j\neq i,j=1}^{n} \frac{x-x_{j}}{x_{i}-x_{j}}\right )$

多项式插值光滑但不具有收敛性，一般不宜采用高次多项式插值。

3 样条插值

样条本来是绘图员用于数据放样的工具。在画曲线时要求经过一些设定值且使整曲线都很光滑。以后逐渐发展成为一个应用极为广泛的数学分支。现在数学上所说的样条，实质上指分段多项式的光滑连接。

设有区间[a,b]的一个划分 $a=x_{0}<x_{1}<...<x_{n}=b$ ，称分段函数S(x)为k次样条函数，若它满足:

S(x)在每个小区间上是次数不超过k次的多项式;
S(x)在[a,b]上具有k-1阶连续导数。

用样条函数作出的插值称为样条插值。工程上广泛采用三次样条插值。

n段三次多项式共有4n个参数，光滑性条件含3(n-1)个约束，插值条件含(n+1)个约束，从而三次样条插值结果不唯一。另外需要2个定解条件。通常有下列4类条件。

非扭结：第一、二端多项式三次项系数相同，最后一段和倒数第二段三次项系数相同。

一阶导数： $S'(x_{0})=y'_{0},S'(x_{n})=y'_{n}$ 。

二阶导数： $S''(x_{0})=y''_{0},S''(x_{n})=y''_{n}$ ，特别地，当 $y''_{0}=y''_{n}=0$ 时，称为自然样条。

周期样条： $S'(x_{0})=S'(x_{n}),S''(x_{0})=S''(x_{n})$ (前提条件 $S(x_{0})=S(x_{n})$ )当被插值函数为周期函数或封闭曲线，宜适用周期样条。

4 最小二乘拟合

假设已知经验公式y=f(c,x)(这里c和x均可为向量)，要求根据一批有误差的数据 $(x_{i},y_{i}),i=0,1,...,n$ ,确定参数c。这样的问题称为曲线拟合，其基本原理是最小二乘法,即求c使得均方误差

$Q_{c}=\sqrt{\sum_{i=0}^{n}(y_{i}-f(c,x_{i}))^{2}}$

达到最小。当f关于c是线性函数(例如，f(c,x)是x的多项式函数，c为系数)，问题转化为一个线性方程组求解，且其解存在唯一。如果f关于c是非线性函数，问题等价于个非线性函数极值问题。

5 多元线性回归

设有多元线性回归模型

$y=b_{1}x_{1}+b_{2}x_{2}+...+b_{p}x_{p}+\varepsilon$

其中 $\varepsilon \sim N(0,\sigma ^{2})$ 。令 $\beta =(b_{1},b_{2},...,b_{p})^{T},x=(x_{0},x_{1},...,x_{p})$ ,表示为

$y=x\beta +\varepsilon$

现获得y和 $x_{0},x_{1},...,x_{p}$ 的n组观测值(当回归模型中考虑常数项，等价于 $x_{1}$ 取常数1)，要求 $\beta$ 的估计值。设Y和X分别为相应n组观测值的 $n\times 1$ 和 $n\times p$ 矩阵，即

$Y=(y)_{n\times 1},X=(x_{ij})_{n\times p}$

则 $\beta$ 的估计值为

$\beta =(X^{T}Y)^{-1}Y$

对于任意的y 和 $x_{0},x_{1},...,x_{p}$ 的n组观测值，由 $\beta =(X^{T}Y)^{-1}Y$ 均可得到回归系数β的估计值，要判断这一模型的有效性，还要通过对于残差 $r=Y-X\hat{\beta }$ 的分析以检验

$H_{0}:\beta =0,H_{1}:\beta \neq 0$

例2：测得平板表面3*5网格点处的温度如表1所列，试作出平板表面的温度分布曲面 $z=f(x,y)$ 的图形。

82	81	80	82	84
79	63	61	65	81
84	84	82	85	86

解：(1)先在三维坐标系画出原始数据

%先在三维坐标系画出原始数据
x=1:5;
y=1:3;
temps=[82 81 80 82 84;79 63 61 65 81;84 84 82 85 86];
mesh(x,y,temps)

画出粗糙的平板温度分布曲面图

(2)在x、y方向上每隔0.2个单位的地方进行插值以平滑数据

%先在三维坐标系画出原始数据
x=1:5;
y=1:3;
temps=[82 81 80 82 84;79 63 61 65 81;84 84 82 85 86];
cx=1:0.2:5;
cy=1:0.2:3;
cz=interp2(x,y,temps,cx',cy,'cubic');
mesh(cx,cy,cz)

画出插值后的平板温度分布曲面

注：本篇内容均为对《MATLAB建模与仿真》(周品赵新芬编著，国防工业出版社)摘录与个人归纳总结，如需要更加详细了解，可阅读原书“第9章数据建模”部分。

0 序言

1 分段线性插值

2 多项式插值

3 样条插值

4 最小二乘拟合

5 多元线性回归

相关文章：