最小二乘法(多元)推导

最小二乘法(多元)推导最小二乘法(多元)推导1声明本文的数据来自网络,部分代码也有所参照,这里做了注释和延伸,旨在技术交流,如有冒犯之处请联系博主及时处理。2最小二乘法简介最小二乘法是一种优化的方法,它主要是通过最小化误差的平方和来做函数拟合的方法。3最小二乘法多元推导有如下回归模型其中b0,b1,…bp,μ2×1,x2,…xp都是与无关的未知参数。这里设是一个样本。这里令残差平方和的表达式为…

大家好,又见面了,我是你们的朋友全栈君。

                                    最小二乘法(多元)推导

1 声明

本文的数据来自网络,部分代码也有所参照,这里做了注释和延伸,旨在技术交流,如有冒犯之处请联系博主及时处理。

2 最小二乘法简介

最小二乘法是一种优化的方法,它主要是通过最小化误差的平方和来做函数拟合的方法。

3 最小二乘法多元推导

有如下回归模型

最小二乘法(多元)推导

其中b0,b1,…bp,μ2   x1,x2,…xp 都是与无关的未知参数。这里设

最小二乘法(多元)推导

是一个样本。

这里令残差平方和的表达式为

最小二乘法(多元)推导

则求Q关于b0,b1,…bp的偏导,并令它们都等于0则,则得

最小二乘法(多元)推导

化简上式(即将求和展开,相同的则乘以n)则得到

最小二乘法(多元)推导

上式叫做正规方程组,可以以矩阵的形式重新定义。

最小二乘法(多元)推导

因为

最小二乘法(多元)推导

最小二乘法(多元)推导

所以正规方程组又可写成

   

最小二乘法(多元)推导

这里假设XtX的逆存在,则

最小二乘法(多元)推导

最小二乘法(多元)推导  称为p元经验线性回归方程。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/145783.html原文链接:https://javaforall.net

(0)
上一篇 2022年5月13日 下午3:20
下一篇 2022年5月13日 下午3:20


相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号