Yolov5更换backbone,与模型压缩(剪枝,量化,蒸馏)

Yolov5更换backbone,与模型压缩(剪枝,量化,蒸馏)目前支持更换yolov5的backbone主干网络为Ghostnet,以及采用eagleeye的剪枝方法支持对yolov5系列的剪枝。后续,将会添加更多更轻量,更优秀的主干网络,比如swintrans,…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

项目地址(GitHub):https://github.com/Ranking666/Yolov5-Processing

~~~欢迎各位交流、star、fork、issues~~~

项目介绍:

        本仓库是基于官方yolov5源码的基础上,进行的改进。

        目前支持更换yolov5的backbone主干网络为Ghostnet,以及采用eagleeye的剪枝方法支持对yolov5系列的剪枝。

        后续,将会添加更多更轻量,更优秀的主干网络,比如swintrans,EfficientNet等,以及其他剪枝方法,以及量化,蒸馏对于yolov5系列的支持。

        欢迎大家有问题,错误,想法都可以积极交流,探讨,学习,本项目长期维护,持续更新,各位的star,就是对本项目的大力支持。

《GhostNet: More Features from Cheap Operations》

        先简单介绍一下,目前支持的backbone

        在一张图像中存在着很多像素的冗余,而在CNN模型中这种冗余更是非常多的,提取到了大量无用的特征。

Yolov5更换backbone,与模型压缩(剪枝,量化,蒸馏)

        比如论文中给到的这个图,可以看到用扳手连接的几张图其实是非常相似的,完全是冗余的,不需要的

        于是本论文提出一个仅通过少量计算(cheap operations)就能生成大量特征图的结构——Ghost Module。

        Ghost Module可以适用在任何大型的CNN模型中,已经可以达到即插即用的效果。

        首先,作者将原来的卷积分为两步,第一步还是卷积,只不过输出通道数减少了;第二步是用第一步生成的特征图通过线性变化,来生成剩余的特征图。最后将两步的输出通道结合输出。也就是像图中b表示的这样

Yolov5更换backbone,与模型压缩(剪枝,量化,蒸馏)

       然后,作者通过一系列计算得出计算量是减少的,具体公式这里就不列出。     

       了解了Ghost Module,下面看Ghost Bottlenecks。

Yolov5更换backbone,与模型压缩(剪枝,量化,蒸馏)

        Ghost Bottlenecks的作用和残差块的作用一样,结构也和残差块的结构类似    ,就不过多介绍, 大家看过代码一下就能懂   

        所以,backbone就是由这样的Ghost Bottlenecks堆叠产生的。

EagleEye: Fast Sub-net Evaluation for Efficient Neural Network Pruning

        详细大家可以看之前的初入神经网络剪枝量化3

如有错误,欢迎各位批评指正!!!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/170748.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • C#递归题目代码建议收藏

    一列数的规则如下:1、1、2、3、5、8、13、21、34……求第30位数是多少,用递归算法实现。代码:1publicclassMainClass23{45public

    2021年12月21日
    43
  • csgo免费开箱网站_csgo开箱网站skincat

    csgo免费开箱网站_csgo开箱网站skincatskinsdog狗网CSGO开箱地址!csgo开箱网站官网!官方链接:skinsdog.cc注册登录自动免费获得$0.8美金推广码:csgogo(注册使用送0.8美金)支付:微信支付宝状态:直接取回

    2022年10月5日
    3
  • 小程序onShow

    小程序onShow/***生命周期函数–监听页面加载*/onLoad:function(options){letthat=this;constopenid=app.globalData.openid||Storage.get().openid;initNoPage(this,[{api:”getPerson”,inData:{op…

    2022年6月16日
    57
  • RSA加密算法的基本流程

    RSA加密算法的基本流程本文只是说一下RSA加密的流程,对于其他的不做过多的介绍!首先找到两个大素数p,q计算n=p*q,=φ(n)(p-1)*(q-1),其中φ(n)表示的是n的欧拉函数值任意选择一个满足要求的证书e,满足1

    2022年5月24日
    43
  • 数仓建设 | ODS、DWD、DWM等理论实战(好文收藏)

    数仓建设 | ODS、DWD、DWM等理论实战(好文收藏)本文目录:一、数据流向二、应用示例三、何为数仓DW四、为何要分层五、数据分层六、数据集市七、问题总结导读数仓在建设过程中,对数据的组织管理上,不仅要根据业务进行纵向的主题域划分,还需要横向的数仓分层规范。本文作者围绕企业数仓分层展开分析,希望对你有帮助。因文章太长,本文不是完结版,文末可获取完整PDF版从事数仓相关工作的人员都知道数仓模型设计的首要工作之一就是进行模型分层,可见模型分层在模型设计过程中的重要性,确实优秀的分层设计是一个数仓项目能否建设成功的核心要素,让数

    2022年6月26日
    75
  • batchnorm原理理解「建议收藏」

    batchnorm原理理解「建议收藏」接触CNN也一段时间了,最近也到了秋招期间,面试的时候可能会问到的一些内容需要做一个整理CNN-BN层参考了一个大神的博客,感觉讲的很深入也很好理解。我这里主要是对他的博客做一个自己的归纳整理,主要是为了方便自己去理解,也欢迎大家一起讨论自己的理解。这里给出大神的博客地址:https://blog.csdn.net/qq_25737169/article/details/79048…

    2022年5月16日
    47

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号