一元线性回归方程公式_用普通最小二乘法估计经典线性模型

全栈程序员-站长 • 2025年6月1日下午9:01 • 未分类 • 阅读 4

大家好，又见面了，我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46，售后保障稳定

概述

别看公式多，其实很简单

最小二乘法其实又叫最小平方法，是一种数据拟合的优化技术。实质上是利用最小误差的平方寻求数据的最佳匹配函数，利用最小二乘法可以便捷的求得未知的数据，起到预测的作用，并且是的这些预测的数据与实际数据之间的误差平方和达到最小。一般应用在曲线拟合的目的上。

原理

本篇文章不考虑其他方面的应用，我们用最简单的实例说明最小二乘法的工作原理与其内在含义。

当我们在研究两个变量（x，y）之间的相互关系时，往往会有一系列的数据对[(x1,y1),(x2,y2)… (xm,ym)],那么将这些数据描绘到x-y直系坐标中若发现这些点都在一条直线附近时，那么初始令这条直线方程的表达式为

$\widehat{Y}_i=a_0+a_1x_i$

其中 a_0,a_1 是任意的实数，现在需要让当 x 取值为 x_i 预测值 Y_i 与回归方程所预测的 $\widehat{Y}_i$ 之间的差值平方最小，但是对于整个回归方程而言，就是所有预测值与实际值之间差值平方之和最小。

如果你要是问我，为什么要用预测值与真实值之间的差值。因为想要需要比较两个Y值，必须有个不变的因子那就是X，在同一个X下比较两种Y才有意义。如果你又问，为什么要平方，那是因为两个Y值之间做差值总会有正负的性质，而这是一个距离问题，是一个标量，所以平方。

故建立一下方程：

$\sum _{i-1}^n(Y_i-\widehat{Y}_i) ^2= Q(a_0,a_1)$

Q为关于预测方程中两个参数 a_0,a_1 的函数而已，此时将预测方程（有的人也叫拟合函数）带入以上公式得到以下方程：

$\sum _{i-1}^n(Y_i-(a_0+a_1x_i)) ^2= Q(a_0,a_1)$

要使的方程Q的取值最小，那么需要对函数Q分别对 a_0,a_1 求一阶偏导数，并且零偏导之后的值为0。即

$\partial Q/\partial a_0=-2\sum _{i=1}^n(\widehat{Y}_i-a_0-a_1x_i)=0$

$\partial Q/\partial a_1=-2\sum _{i=1}^n(\widehat{Y}_i-a_0-a_1x_i)x_1=0$

然后，郁闷了一波，为什么要等于0才行啊？哎！因为函数Q是一个进行平方擦操作了的，那么Q大致的曲线就是一个凹形曲线咯，当分别对两个变量求偏导之后等于零时Q肯定处于曲线的最低点，这样也满足了预测值与真实值距离最近的条件了。

接下来就需要对两个参数进行变换求解了，经过一顿移项变换操作之后得到两个参数 a_0,a_1 关于x和y的表达式。

$a_1=\frac{n\sum_{i=1}^nx_iy_i-\sum _{i=1}^nx_i\sum _{i=1}^ny_i }{n\sum _{i=1}^nx_i^2-(\sum _{i=1}^nx_i)^2}$

$a_0=\frac{\sum _{i=1}^ny_i}{n}-a_1\frac{\sum _{i=1}^nx_i}{n}$

我靠，敲得我头都晕了眼也花了，公式很难敲，关键是态度要到位。

实例应用

该例子数据引用于SPSS生活统计学。

某市欲对货运总量与工业总产值的数量关系进行研究，以便通过工业总产值预测货运总量。现将1991-2000年的数据，列入表中，根据这些数据建立回归方程。

货运总量 2.8 2.9 3.2 3.2 3.4 3.2 3.3 3.7 3.9 4.2

工业总值 25 27 29 32 34 36 35 39 42 45

首先观测这些数据是否具有某种直观上的特征，

一元线性回归方程公式_用普通最小二乘法估计经典线性模型

由上图可以直接看出，x与y之间存在着大致的线性关系，所以权当两者就是线性关系。接下来我们计算我们需要用到的数据计算结果xy，x平方与y平方，详见下图。

一元线性回归方程公式_用普通最小二乘法估计经典线性模型

将这些结果带入公式：

$a_1=\frac{n\sum_{i=1}^nx_iy_i-\sum _{i=1}^nx_i\sum _{i=1}^ny_i }{n\sum _{i=1}^nx_i^2-(\sum _{i=1}^nx_i)^2}\approx 0.06493$

$a_0=\frac{\sum _{i=1}^ny_i}{n}-a_1\frac{\sum _{i=1}^nx_i}{n}\approx 1.1464$

那么线性回归的方程即为

$\widehat{Y}_i=a_0+a_1X_i = 1.1644+0.06493X_i$

顺便配个图：

一元线性回归方程公式_用普通最小二乘法估计经典线性模型

这样线性回归的方程就出来了。OK最小二乘法也说了（不是很深，也不是很广，因为自己很菜），例子应用也说了。那么本篇到此结束。

发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/234538.html原文链接：https://javaforall.net

一元线性回归方程公式_用普通最小二乘法估计经典线性模型

概述

原理

实例应用

关于作者

全栈程序员-站长

发表回复

一元线性回归方程公式_用普通最小二乘法估计经典线性模型

概述

原理

实例应用

关于作者

全栈程序员-站长

相关推荐

mysql错误代码1142_mysql创建数据库命令

何时使用数据库存储过程

猿创征文｜点亮JAVA技术之灯（线程篇）「建议收藏」

有趣的python代码_python五角星代码

赛道Hyper ｜ 百度开源ERNIE 4.5：策略是什么？

Cursor小试-贪吃蛇游戏生成

发表回复

赛道Hyper ｜百度开源ERNIE 4.5：策略是什么？