为什么使用全局平均池化层?[通俗易懂]

为什么使用全局平均池化层?1、全连接层:、全连接网络可以使featuremap的维度减少,进而输入到softmax、全连接层的参数超多、会造成过拟合、模型本身变得非常臃肿2、全局平均池化层(globalaveragepoolilng)[GAP]:、直接实现了降维、极大地减少了网络的参数、对整个网路在结构上做正则化防止过拟合,直接赋予了每个channel实际的内别意义、gap可能会造成收敛速度减慢3、为什么会收敛速度变慢?以及对模型训练有什么差异?、全连接层结构的模型对于训练学习

大家好,又见面了,我是你们的朋友全栈君。

为什么使用全局平均池化层?

1、全连接层:
、全连接网络可以使feature map的维度减少,进而输入到softmax
、全连接层的参数超多
、会造成过拟合
、模型本身变得非常臃肿
2、全局平均池化层(global average poolilng)[GAP]:
、直接实现了降维
、极大地减少了网络的参数
、对整个网路在结构上做正则化防止过拟合,直接赋予了每个channel实际的内别意义
gap可能会造成收敛速度减慢
3、为什么会收敛速度变慢?以及对模型训练有什么差异?
、全连接层结构的模型对于训练学习的过程,压力更多在全连接层,卷积的特征学习低级一些,但是在不断学习调整参数中,一样效果不差。
、GAP 在学习训练的压力前导于卷积层,卷积的特征学习会高级一些,但也会淡化不同特征间的相对位置的组合关系,丢失了图像的位置信息,因此卷积训练出来的特征应该更加‘高级’。
、以上推到出一个结论:不利于迁移学习,那就调正卷积出来的特征。

提供建议:
全局平均池化层+softmax层代替FC层,效果要好。
全局平均池化层以后也可以试一试dropout,进行正则化。无论采用何种方法,毕竟全局池化是比较火的用法,采用正则至少不用被过拟合的象限困扰。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/128401.html原文链接:https://javaforall.net

(0)
上一篇 2022年4月11日 下午9:40
下一篇 2022年4月11日 下午10:00


相关推荐

  • ENVI5.3安装教程(含软件下载)[通俗易懂]

    ENVI5.3安装教程(含软件下载)[通俗易懂]重要提示:各位安装目录和授权文件存放目录一定不要有中文!!!!!软件下载地址链接:https://pan.baidu.com/s/1W0FXIWoTw0zBzIpn1dLrHw密码:b3hw上文地址如果过期或者不能下载的话可以使用此链接http://pan.baidu.com/s/1eRVvk8i,或者艾特博主。最新地址链接:https://pan.baidu.c…

    2022年7月26日
    13
  • 小白求个安装星火应用商店的教程

    小白求个安装星火应用商店的教程

    2026年3月14日
    2
  • 伏地魔

    伏地魔

    2021年7月7日
    84
  • PJSIP实验

    PJSIP实验目录 1 小组信息 1 1 小组成员列表 1 2 小组编号和密码 2 背景知识 2 1VOIP 技术原理 2 2SIP 技术 2 2 1 协议设计 2 2 2SIP 网络单元 2 2 3 商业应用 2 3Wireshark 简介 2 3 1 发展简史 2 3 2Wireshark 使用目的 2 3 3Wireshark 的误解 3PJSIP 简介 3

    2026年3月18日
    2
  • Manus 已「停止」为中国区用户提供服务

    Manus 已「停止」为中国区用户提供服务

    2026年3月15日
    3
  • nginx做正向代理_反向代理和正向代理

    nginx做正向代理_反向代理和正向代理Nginx正向代理四种方式为什么需要正向代理案例配置方式第一种生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML图表FLowchart流程图导出与导入导出导入为什么需要正向代理如果我们的服务部署在公司内网环境,不能直接访问互联网服务,就需要通过可以访问互联网的代理服务器来实现访问互联网的服务。此处我们使用Nginx作为代理服务器。案例互联网上的接口:https://

    2022年8月30日
    6

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号