全局平均池化(全局池化代替全连接层)

全局平均池化是在论文NetworkinNetwork中提出的,原文中全局平均池化的作用和优点:思想:对于输出的每一个通道的特征图的所有像素计算一个平均值,经过全局平均池化之后就得到一个维度==类别数的特征向量,然后直接输入到softmax层作用:代替全连接层,可接受任意尺寸的图像优点:1)可以更好的将类别与最后一个卷积层的特征图对应起来(每一个通道对应一种…

大家好,又见面了,我是你们的朋友全栈君。

 

全局平均池化是在论文Network in Network中提出的,原文中全局平均池化的作用和优点:

å¨è¿éæå¥å¾çæè¿°

思想:对于输出的每一个通道的特征图的所有像素计算一个平均值,经过全局平均池化之后就得到一个 维度=C_{in}=类别数 的特征向量,然后直接输入到softmax层

 

作用:代替全连接层,可接受任意尺寸的图像

 

优点:1)可以更好的将类别与最后一个卷积层的特征图对应起来(每一个通道对应一种类别,这样每一张特征图都可以看成是该类别对应的类别置信图)

2)降低参数量,全局平均池化层没有参数,可防止在该层过拟合

3)整合了全局空间信息,对于输入图片的spatial translation更加鲁棒

 

图解:

全局平均池化(全局池化代替全连接层)

 

pytorch的实现:

pytorch中

没有专门的全局平均池化API,但是我们可以使用现有的pooling API实现这个效果

首先我们简单理解全局平均池化操作:
如果有一批特征图,其尺寸为 [ B, C, H, W], 经过全局平均池化之后,尺寸变为[B, C, 1, 1]
也就是说,全局平均池化其实就是对每一个通道图所有像素值求平均值,然后得到一个新的1 * 1的通道图

明白这个思路之后,我们就可以很容易实现全局平均池化了。

利用自适应平均池化就可以快速实现。或者自适应最大池化也可以,一样。

In [1]: import torch

In [2]: a = torch.rand([4,3,4,4])

In [3]: a.size()
Out[3]: torch.Size([4, 3, 4, 4])

In [4]: b = torch.nn.functional.adaptive_avg_pool2d(a, (1,1))  # 自适应池化,指定池化输出尺寸为 1 * 1

In [5]: b.size()
Out[5]: torch.Size([4, 3, 1, 1])

———————  
原文:https://blog.csdn.net/CVSvsvsvsvs/article/details/90495254 
 

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/125583.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • linux是什么

    linux是什么

    2021年9月11日
    49
  • 转载:多年iOS开发经验总结[通俗易懂]

    转载:多年iOS开发经验总结[通俗易懂]转载:http://www.jianshu.com/p/1ff9e44ccc78总结了几个月的东西终于能和大家分享了,不多说,直接看东西!1、禁止手机睡眠2、隐藏某行cell3、禁用butto

    2022年7月2日
    23
  • kaptcha配置java_kaptcha 配置

    kaptcha配置java_kaptcha 配置问题所在:这一段配置,不要写在SpringMVC文件中,要写在Spring配置文件!no105,179,90red2508090code4宋体,楷体,微软雅黑异常信息:十二月19,20176:22:48下午org.apache.jasper.servlet.TldScannerscanJars信息:AtleastoneJARwasscannedforTLDsy…

    2022年6月18日
    30
  • PAT乙级_1007

    PAT乙级_1007问题描述:让我们定义dn为:dn=pn+1-pn,其中pi是第i个素数。显然有d1=1且对于n>1有dn是偶数。“素数对猜想”认为“存在无穷多对相邻且差为2的素数”。现给定任意正整数N(<105),请计算不超过N的满足猜想的素数对的个数。输入格式:每个测试输入包含1个测试用例,给出正整数N。输出格式:每个测试用例的输出占一行,不超过N的满足猜想的素数对的个数…

    2022年6月11日
    19
  • smote算法_探索SMOTE算法

    smote算法_探索SMOTE算法SMOTE是一种综合采样人工合成数据算法,用于解决数据类别不平衡问题(Imbalancedclassproblem),以Over-sampling少数类和Under-sampling多数类结合的方式来合成数据。本文将以NiteshV.Chawla(2002)的论文为蓝本,阐述SMOTE的核心思想以及实现其朴素算法,在传统分类器(贝叶斯和决策树)上进行对比算法性能并且讨论其算法改进的途径…

    2022年6月25日
    23
  • IDEA常用快捷键总结

    IDEA常用快捷键总结IDEA常用快捷键总结1.根据psvm或者main快速生成主函数我们可以在类中输入psvm或者main然后IDEA会自动提示main(),敲击回车即可自动生成~2.根据sout快速生成打印语句我们可以在方法中输入sout然后IDEA会自动提示打印语句,敲击回车即可自动生成~3.查找的快捷键按Ctrl+F表示在当前页面中查找4.万能键Alt+EnterAlt+Enter是一个特别常用且好用的“万能键”比如我们可以在类中导入需要导的包再比如我们可以在类中快

    2022年5月14日
    37

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号