最小二乘法原理和推导过程「建议收藏」

最小二乘法原理和推导过程「建议收藏」对于有误差的统计值,我们一般都是采用均值作为使用值。但是这种使用均值代替的方式是不是合理?为什么不用中位数、几何平均数什么的?这需要一个解释。1.什么是二乘?对于一列数字,比如10.1、…

大家好,又见面了,我是你们的朋友全栈君。

对于有误差的统计值,我们一般都是采用均值作为使用值。但是这种使用均值代替的方式是不是合理?为什么不用中位数、几何平均数什么的?这需要一个解释。

1.什么是二乘?

对于一列数字,比如10.1、10.3、9.7、9.9、10.5来说,我们要采用一个数字Y来替代他们。要求是这些数与Y的差异要达到最小。在数学上就是:

最小二乘法原理和推导过程「建议收藏」

但是数学上对于求绝对值比较排斥,一般直接采用求平方代替。也就是二乘的来源

最小二乘法原理和推导过程「建议收藏」

        那么我们要计划使用的值Y就是关于e的一元函数,也就是说不同的Y,对我们的e都有影响,而我们要想e最小,就让Y的偏导数为0,也就是:

最小二乘法原理和推导过程「建议收藏」

    得到Y为:

最小二乘法原理和推导过程「建议收藏」

这样是说最小二乘法得到Y值就是平均数;

2.最小二乘的推广

通过上边的分析,我们可以得出最小二乘法的数学表达式的推广模式:

最小二乘法原理和推导过程「建议收藏」

其中fx是待探索的期望函数,yi表示真实数据。要是函数e最小,则让e对fx的偏导数等于0,如果fx为一个多元函数,那么将其带入。然后分步求导,并让其在各个变量上的偏导数为0,然后得出fx的真实表达式。

3.对于一般线性方程的二乘法学习

我们假设要探索的函数方程为:

最小二乘法原理和推导过程「建议收藏」

那么:

最小二乘法原理和推导过程「建议收藏」

要使得e的值达到最小,已知x和yi,对于k和b来说采用不同的值,e的值会有不同的变化,那么我们使用e对k和b分别求偏导数。

最小二乘法原理和推导过程「建议收藏」

最小二乘法原理和推导过程「建议收藏」

然后计算一下(痛苦的过程,别问我怎么知道使用求和性质的,我是百度的,我也不知道这个东西);

最小二乘法原理和推导过程「建议收藏」

从另外一个角度思考,对于很多数据来说他们肯定落在一个区域内。通过上述分析,最小二乘法能够得出这些点的误差最小点。那么这些点与这个标志点的距离就可以形成一种分布概率密度函数(曲面),那么曲面的顶点对应的映射点按理就是这个标志点。也就是说概率密度函数在该点的偏导数为0,伟大的数学家高斯通过计算证明了这一点,从而奠定了最小二乘法的权威地位。

最小二乘法原理和推导过程「建议收藏」

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/145525.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • MongoDB简介

    MongoDB简介MongoDB简介

    2022年4月25日
    42
  • webstorm必装十大插件_webpack常用插件

    webstorm必装十大插件_webpack常用插件activate-power-mode狂拽炫酷吊炸天装逼的插件,atom上的神器啊,抱着试一试的心态一搜,webstorm上居然也有了,安装之后可以在window->activate-power-mode中关闭震动以及开启彩色模式。TabNine可以记录用户习惯自动补全代码,牛逼ESLint代码检查插件RainbowBrackets彩虹色的括号,颜……

    2025年10月13日
    2
  • 为什么很多电影字幕和台词对不上_你不是电影而是现实

    为什么很多电影字幕和台词对不上_你不是电影而是现实首先,要申明一点,过去与现在,电影的字幕都不是问题。并且,网络如此自由,未来也不是问题。只是分享的平台不会一家独大,分享的途径方式也会多种多样。防止还有人不知道如何加载字幕,再说明一下。1、将.srt

    2022年8月5日
    12
  • 1045 Access denied for user ‘root’@’localhost’ (using password: YES)[通俗易懂]

    1045 Access denied for user ‘root’@’localhost’ (using password: YES)[通俗易懂]MySQL连接错误,使用Navicat连接MySQL出现错误:1045Accessdeniedforuser’root’@’localhost'(usingpassword:YES)解决方法:编辑mysql配置文件my.ini(在mysql的安装目录下,不同电脑可能不一样,参考目录①D:\ProgramFiles\MySQL\MySQLServer5.0\my….

    2022年5月13日
    75
  • PotPlayer 64 bit快捷键大全

    PotPlayer 64 bit快捷键大全PotPlayer64bit快捷键大全前言-`д´-最近用PotPlayer64bit,在不知道的情况下视频翻转一下或者各种奇葩样子,总归一句话,弄不好了(눈_눈)。今天有时间总结一下(¬、¬)。  下载安装ヽ(o・་།・o)ノPotPlayer中文网PotPlayer官网ᕦ(・ㅂ・)ᕤ 快捷键方法一????安装完之后,右键–>关于–>有没有看到快捷键列表,就是那个????方法二????看下面看下面,没错,又是它

    2022年5月21日
    123
  • win10 虚拟显示器_电脑怎么设置虚拟显示器

    win10 虚拟显示器_电脑怎么设置虚拟显示器2017.7.7最近在做虚拟化,需要在虚机上虚拟出一个显示器,我使用的虚机是windows10,虚机里面有一张透传显卡(可看做是物理显卡),我尝试过一些方法,比如编写一个虚拟的WDDM显卡驱动,然后在显卡驱动上接上一个显示器,该方法是有效的,可以成功虚拟出一个显示器,但是在虚拟显示器上渲染数据使用的渲染引擎没有用到透传显卡,在性能上达不到我的要求,所以只好放弃用这种方法。于是,通过阅…

    2022年8月21日
    37

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号