数据分析中常见问题「建议收藏」

数据分析中常见问题「建议收藏」1. 如何检验数据是否服从正态分布?一、图示法(1)P-P图。以样本的累积频率作为横坐标,以安装正太分布计算的相应累计概率作为纵坐标,把样本值表现为直角坐标系中的散点,如果服从正太分布,则样本点围绕第一象限的对角线分布。(2)Q-Q图。以样本的分位数作为横坐标,以按照正态分布计算的相应分位点作为纵坐标,把样本表现为指教坐标系的散点。如果资料服从正态分布,则样本点应该呈一条围绕第一象限对…

大家好,又见面了,我是你们的朋友全栈君。

1. 如何检验数据是否服从正态分布?

一、图示法

(1)P-P图。以样本的累积频率作为横坐标,以安装正太分布计算的相应累计概率作为纵坐标,把样本值表现为直角坐标系中的散点,如果服从正太分布,则样本点围绕第一象限的对角线分布。

(2)Q-Q图。以样本的分位数作为横坐标,以按照正态分布计算的相应分位点作为纵坐标,把样本表现为指教坐标系的散点。如果资料服从正态分布,则样本点应该呈一条围绕第一象限对角线的直线。

(3)直方图。判断是否以钟形分布,同时可以选择输出正态性曲线

(4)箱式图。观测离群值和中位数

(5)茎叶图。类似于直方图,但实质不同。

二、计算法

(1)偏度系数和峰度系数

偏度计算公式:数据分析中常见问题「建议收藏」

峰度计算公式:数据分析中常见问题「建议收藏」

其中,g_{_{1}}表示偏度,g_{_{2}}表示峰度,通过计算g_{_{1}},g_{_{2}}及其标准误差\sigma_{g1}\sigma_{g2},再做U计算。当两种检验同时得出U<U_{0.05}=1.96,即p>0.05时,才可以认为该组服从正太分布。

2. 中心极限定理

中心极限定理,是指概率论中讨论随机变量序列部分和分布渐进于正太分布的一类定理。是指样本平均值约等于总体平均值。

随着n的增大,n个数的样本均值会趋近于正太分布,并且这个正太分布以u为均值,\sigma^{2}/n为方差。

相关结论:

结论1:用样本估计整体;

结论2:样本的平均值呈正态分布;

结论3:在无法知道总体的情况下,可以用样本估计整体。(除以n-1)

3. 过拟合问题

过拟合是指为了得到一致假设而使假设变得过度严格。

常见产生原因:

(1)建模样本选取有误,包括样本数量太少,选择方法错误,样本标签错误等,导致选取的样本的数据不足以代表预定的分类规则。

(2)样本噪音干扰过大,从而扰乱分类规则。

(3)假设的模型无法合理存在,或者说是假设成立的条件实际并不成立

(4)参数太多,使得模型复杂度过高。

(5)对于决策树模型,如果我们对于其生长没有合理的限制,其自由生长有可能使节点只包含单纯的事件数据(event)或非事件数据(no event),使其虽然可以完美匹配(拟合)训练数据,但是无法适应其他数据集。

(6)对于神经网络模型:a)对样本数据可能存在分类决策面不唯一,随着学习的进行,,BP算法使权值可能收敛过于复杂的决策面;b)权值学习迭代次数足够多(Overtraining),拟合了训练数据中的噪声和训练样例中没有代表性的特征。

常见解决办法:

(1)增加样本数据;

(2)选取合适的停止训练标准,使对机器的训练在合适的程度;

(3)保留验证数据集,对训练成果进行验证;

(4)获取额外数据进行交叉验证;

(5)正则化,即在进行目标函数或代价函数优化时,在目标函数或代价函数后面加上一个正则项,一般有L1正则与L2正则等。

(6)进行特征选择、特征降维

(7)控制模型的复杂度。如进行剪枝、控制树深度;增大分割平面间隔;

 

未完,,待继补充。。。

 

参考:https://wenku.baidu.com/view/29b3f4021fb91a37f111f18583d049649a660e31.html

https://blog.csdn.net/liubo187/article/details/77092729

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/136463.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 虚拟机安装centos7网络配置

    虚拟机安装centos7网络配置    在exsi主机上新安装了一台centos7,以下进行配置连接网络。    VmwarevSphere环境下网络标签一定要选择虚拟交换机类型,要不然即使是配置好网卡也连接不到网络如图1所示。如果是平时搭建在本地电脑实验使用的普通VMware软件,注意设置网络桥接,本地电脑网络使用的是无线则选择无线桥接,有线网络则。                …

    2022年5月18日
    34
  • B样条曲线与贝塞尔曲线学习笔记

    B样条曲线与贝塞尔曲线学习笔记贝塞尔曲线基本公式:B(t)=∑i=0n(in)Pi(1−t)n−iti,t∈[0,1]基本公式:B(t)=\sum_{i=0}^{n}\Big({_i^n}\Big)P_i(1-t)^{n-i}t^i,t\in[0,1]基本公式:B(t)=i=0∑n​(in​)Pi​(1−t)n−iti,t∈[0,1]三次贝塞尔曲线:B(t)=P0(1−t)3+3P1t(1−t)2+3P2t2(1−t)…

    2022年6月18日
    26
  • 可控制导航下拉方向的jQuery下拉菜单代码

    效果:http://hovertree.com/texiao/nav/1/代码如下:转自:http://hovertree.com/h/bjaf/kxl2s00m.htm特效:http://www

    2021年12月23日
    48
  • C#开发微信门户及应用(32)–微信支付接入和API封装使用

    C#开发微信门户及应用(32)–微信支付接入和API封装使用

    2021年9月14日
    54
  • 使用pycharm安装包失败后,应该怎么办?

    使用pycharm安装包失败后,应该怎么办?用pycharm进行安装第三方包的时候,一些情况下会出现安装失败(具体怎么安装搜一下,教程很全,但这不是想说的重点)。有时候是因为pip版本较低,升级一下即可,但有时候就是安装不上,原因查了一下,有的博主说是pip不支持断点续传,也有的说是版本路径问题。但是不论如何,这个问题有解决的方法,也是迫不得已的办法。第一步:去官网下载对应的安装包,网址如下:这是网址至于应该安装什么样的包,最简单…

    2022年5月13日
    66
  • 校园网络总体规划设计方案_校园网的使用与规划

    校园网络总体规划设计方案_校园网的使用与规划目录一、项目概述3二、设计要求4(一)网络部分的总体要求4(二)系统部分的总体要求4(三)网络安全设计4三、设计原则6四、设计目标6五、网络拓扑结构设计7(一)布线结构需求7(二)拓扑结构的选择7六、网络技术选择9(一)VLAN技术9(二)IP通信技术10(三)使用适应性的路由协议10(四)访问控制技术11七、网络设备选型原则12(一)交换机的选择12(二)路由器的选择13(三)防火墙14(四)服…

    2022年10月5日
    4

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号