经典正交多项式介绍及其应用

1 正交多项式的定义

1.1 正交多项式定义

定义： 一个多项式序列 ${p_n(x)}_{n=0}^{\infty }$，其阶数为 $[p_n(x)]=n$ ，对于每一个 $n$，这个多项式序列在开区间 $(a,b)$ 上关于权函数 $w(x)$ 正交，如果：

$${\int }_a^{b}w(x)p_m(x)p_n(x)dx=h_n{\delta }_{mn}$$

这里 ${\delta }_{mn}$为狄拉克函数，且 $h_n$ 为常数。

这里的权函数 $w(x)$ 在区间 $(a,b)$ 是连续且正的以使得下式存在：

$${\mu }_n={\int }_a^{b}w(x)x^{n}dx,n=0,1,2,\cdots$$

则多项式 $f$ 和多项式 $g$ 的内积定义为：
$$⟨f,g⟩:={\int }_a^{b}w(x)f(x)g(x)dx$$

区间 $(a,b)$ 称为正交区间，正交区间未必是有限区间。

$${\int }_0^{2\pi }\sin (n\theta )\cos (m\theta )d\theta ={\delta }_{mn}$$

图1展现了 $sin(\theta )$ 和 $cos(\theta )$ 在区间 $(0,2\pi )$ 上的正交性，图中蓝线为 $sin(\theta )\ast cos(\theta )$ 的值，对其积分就相当于求图中阴影部分的面积，很明显，阴影部分的面积加上符号后求和为0。

图1. 三角函数的正交性示意图

1.2 施密特正交化（Schmidt orthogonalization）

例子：将三维空间中的一组线性无关向量 $a,b,c$ 用施密特正交化方法处理得到正交向量组 $x,y,z$。

三维空间中施密特正交化方法的几何描述如图2所示

图2. 施密特正交化几何示意图

2 经典正交多项式

经典的正交多项式有雅克比多项式，切比雪夫多项式，勒让德多项式，拉盖尔多项式，伯恩斯坦多项式，球谐多项式等。

2.1 雅克比多项式

雅克比多项式是定义在 $(-1,1)$ 上，关于权函数 $(1-x{)}^{\alpha }(1+x{)}^{\beta }$ 正交的多项式，其中 $\alpha ,\beta >-1$

2.2 勒让德多项式

勒让德多项式是定义在区间 $(-1,1)$ 上关于权函数1正交的多项式。勒让德多项式实际上是雅克比多项式在 $\alpha =\beta =0$ 时的特殊情况。

前6阶多项式图像：

图3. 前6项勒让德多项式

2.3 切比雪夫多项式

切比雪夫多项式是定义在区间 $(-1,1)$ 上关于权函数 $\frac{1}{\sqrt{1-x^2}}$ 正交的多项式。

2.3.1 第一类切比雪夫多项式

令 $x=cos(\theta )$，则 $T_n(x)=\cos (n\arccos (x))$，
第一类切比雪夫多项式的正交性为：
KaTeX parse error: Unknown column alignment: * at position 90: …{\begin{array}{*̲{20}{c}} {0\…

第一类切比雪夫多项式的图像

2.3.2 第二类切比雪夫多项式

第二类切比雪夫多项式的图像：

图4. 前6项切比雪夫多项式

2.4 拉盖尔多项式

拉盖尔多项式是定义在区间 $(0,+\infty )$ 上关于权函数 $e^{-x}{x}^{\alpha }$ 正交的多项式，

拉盖尔多项式的递推关系（$\alpha =0$）：
$$L_{n+1}(x)=\frac{(2n+1-x)L_n(x)-n{L}_{n-1}(x)}{n+1}$$

前6项拉盖尔多项式（$\alpha =0$）:
$$L_0(x)=1$$
$$L_1(x)=-x+1$$
$$L_2(x)=\frac{1}{2}{x}^2-2x+1$$
$$L_3(x)=-\frac{1}{6}{x}^3+\frac{3}{2}{x}^2-3x+1$$
$$L_4(x)=\frac{1}{24}{x}^4-\frac{2}{3}{x}^3+3x^2-4x+1$$
$$L_5(x)=-\frac{1}{120}{x}^5+\frac{5}{24}{x}^4-\frac{5}{3}{x}^3+5x^2-5x+1$$
$$L_6(x)=\frac{1}{720}{x}^6-\frac{1}{20}{x}^5+\frac{5}{8}{x}^4-\frac{10}{3}{x}^3+\frac{15}{2}{x}^2-6x+1$$

前6项拉盖尔多项式的图像：

图5. 前6项拉盖尔多项式

2.5 埃尔米特多项式

埃尔米特多项式是定义在区间 $(-\infty ,+\infty )$ 上关于权函数 $e^{-x^2}$ 正交的多项式。

埃尔米特多项式分为概率论中的埃尔米特多项式和物理中的埃尔米特多项式，这里只介绍物理学中使用的埃尔米特多项式。

前6项埃尔米特多项式图像：

图6. 前6项埃尔米特多项式

3 正交多项式的应用

正交多项式的应用甚广，包括但不限于数值分析，逼近理论，积分，微分方程，复变函数，随机矩阵理论，编码理论等。

这里仅以一个小的例子来说明正交多项式在函数拟合中的应用。

实验中使用的测试函数为 $y=4x+3x^2+cos(x)+sin(2x)+e^x$，定义区间为 $(-2,2)$ ，实验比较了多项式展开3项时不同多项式的拟合均方误差（MSE），归一化均方误差（NMSE）。

图7. 不同多项式拟合结果

测试程序如下：

% 正交多项式测试 clear clc % 采样点数 N = 1000 ; % 正交多项式阶数 M = 3 ; % 拟合函数区间为（-2,2） x = linspace(-2,2,N)' ; % 生成被拟合的函数，包括指数函数，余弦函数，幂函数成分 y = 4*x + 3*x.^2 + cos(x) + exp(x) + sin(2*x); % 生成幂级数组成的基矩阵 P1 = power_p(x,M) ; % 生成勒让德多项式组成的基矩阵 P2 = legendre_p(N,M) ; % 生成切比雪夫多项式组成的基矩阵 P3 = chebyshev_p(N,M) ; % 生成拉盖尔多项式组成的基矩阵 P4 = laguerre_p(N,M) ; % 生成诶尔米特多项式组成的基矩阵 P5 = hermite_p(N,M) ; %% 用最小二乘拟合y % c1对应幂级数系数 c1 = P1\y ; % c2对应勒让德系数 c2 = P2\y ; % c3对应切比雪夫系数 c3 = P3\y ; % c4对应拉盖尔系数 c4 = P4\y ; % c5对应埃尔米特系数 c5 = P5\y ; %% 求MSE和NMSE MSE_power = norm(y-P1*c1)/N NMSE_power = norm(y-P1*c1)/norm(y) MSE_legendre = norm(y-P2*c2)/N NMSE_legendre = norm(y-P2*c2)/norm(y) MSE_chebyshev = norm(y-P3*c3)/N NMSE_chebyshev = norm(y-P3*c3)/norm(y) MSE_laguerre = norm(y-P4*c4)/N NMSE_laguerre = norm(y-P4*c4)/norm(y) MSE_hermite = norm(y-P5*c5)/N NMSE_hermite = norm(y-P5*c5)/norm(y) figure(1) plot(x,y,'r-',x,P1*c1,'b-',x,P2*c2,'k-',x,P3*c3,'y-',x,P4*c4,'g-',x,P5*c5,'m-') legend('original','power','legendre','chebyshev','laguerre','hermite') function [P] = power_p(x,M) for m = 1:M P(:,m) = x.^(m-1) ; end end function [P] = legendre_p(N,NN) % 本函数生成N*M的勒让德基矩阵 s = linspace(-1,1,N)' ; P = zeros(N,NN) ; P(:,1) = ones(N,1) ; P(:,2) = s ; for n = 3 : NN P(:,n) = ((2 * n - 3) * s .* P(:,n - 1) - (n - 2) * P(:,n - 2)) / ( n -1 ) ; end end function [P] = chebyshev_p(N,M) % 本函数生成N*M的切比雪夫基矩阵 x = linspace(-1,1,N)' ; P = zeros(N,M) ; P(:,1) = ones(N,1) ; P(:,2) = x ; for k = 3:M P(:,k) = 2*x.*P(:,k-1) - P(:,k-2) ; end end function [P] = laguerre_p(N,M) % 本函数生成N*M的拉盖尔基矩阵 x = linspace(-2,2,N)' ; P = zeros(N,M) ; P(:,1) = ones(N,1) ; P(:,2) = -x + ones(N,1) ; for m = 3:M P(:,m) = ((2*(m-2)+1-x).*P(:,m-1)-(m-2)*P(:,m-2))./(m-1) ; end end function [P] = hermite_p(N,M) % 本函数生成N*M的埃尔米特基矩阵 x = linspace(-2,2,N)' ; P = zeros(N,M) ; P(:,1) = ones(N,1) ; P(:,2) = 2*x ; for m = 2:M P(:,m+1) = 2*x.*P(:,m) - 2*(m-1)*P(:,m-1) ; end end 

更多精彩内容请关注订阅号优化与算法和加入讨论群获取更多资料

往期精选：

• SISO/MIMO信道估计（channel estimation）原理详细图解
• 毫米波大规模MIMO的AOA估计
• 线性降维：主成分分析PCA原理分析与仿真验证
• 5G+AI：有哪些新的研究方向和新范式？
• 简述3D点云配准算法
• 5G为人工智能与工业互联网赋能|79页高清PPT
• 智能算法|以动物命名的算法
• 一份超全面的机器学习公共数据集
• 矩阵填充|奇异值阈值算法
• 可重构/大规模智能反射表面reconfigurable/large intelligent surface综述
• 迭代硬阈值类算法总结||IHT/NIHT/CGIHT/HTP
• 软阈值迭代算法（ISTA）和快速软阈值迭代算法（FISTA）
• 伍德伯里矩阵恒等式（Woodbury matrix identity）
• 压缩感知：一种新型亚采样技术