神经网络学习笔记(一):全连接层的作用是什么?

神经网络学习笔记(一):全连接层的作用是什么?以下是我看过最好的全连接层的解释 原文链接 卷积神经网络 CNN 入门讲解关注专栏以上图为例 我们仔细看上图全连接层的结构 全连接层中的每一层是由许多神经元组成的 1 4096 的平铺结构 上图不明显 我们看下图 注 上图和我们要做的下面运算无联系并且不考虑激活函数和 bias 当我第一次看到这个全连接层 我的第一个问题是 它是怎么样把 3x3x5 的输出 转换成 1×4096 的形式

在这里插入图片描述
以上图为例,我们仔细看上图全连接层的结构,全连接层中的每一层是由许多神经元组成的(1 × 4096)的平铺结构,上图不明显,我们看下图:
在这里插入图片描述
注:上图和我们要做的下面运算无联系


在这里插入图片描述
从上图我们可以看出,我们用一个 3×3×5 的 filter 去卷积激活函数的输出,得到的结果就是一个 fully-connected layer 的一个神经元的输出,这个输出就是一个值。

因为我们有4096个神经元,
我们实际就是用一个 3×3×5×4096 的卷积层去卷积激活函数的输出。

以VGG-16再举个例子吧:在 VGG16 全连接层中,对 224×224×3 的输入,最后一层卷积可得输出为 7×7×512,如后层是一层含 4096 个神经元的 FC,则可用卷积核为 7×7×512×4096 的全局卷积来实现这一全连接运算过程。

你不懂

敲黑板了

麻烦后排吃东西的同学叫下前排玩游戏的同学去把第一排的同学吵醒

我要说重点了!!!!!!!!!!!

什么,听不懂

那我说人话

就是它把特征representation整合到一起,输出为一个值。

这样做,有一个什么好处?

就是大大减少特征位置对分类带来的影响。

从上图我们可以看出,猫在不同的位置,输出的 feature 值相同,但是位置不同。对于电脑来说,特征值相同,但是特征值位置不同,那分类结果也可能不一样,而这时全连接层 filter 的作用就相当于

于是我让filter去把这个喵找到,实际就是把 feature map 整合成一个值:这个值大,哦,有喵;这个值小,那就可能没喵,和这个喵在哪关系不大了有没有,鲁棒性有大大增强了有没有

喵喵喵

因为空间结构特性被忽略了,所以全连接层不适合用于在方位上找 Pattern 的任务,比如 segmentation。

ok, 我们突然发现全连接层有两层 1×4096 fully-connected layer 平铺结构(有些网络结构有一层的,或者二层以上的)

泰勒公式都知道吧,意思就是用多项式函数去拟合光滑函数。我们这里的全连接层中一层的一个神经元就可以看成一个多项式,我们用许多神经元去拟合数据分布,但是只用一层 fully-connected layer 有时候没法解决非线性问题,而如果有两层或以上 fully-connected layer 就可以很好地解决非线性问题了。

说了这么多,我猜你应该懂的

听不懂?

那我换个方式给你讲

我们都知道,全连接层之前的作用是提取特征,全理解层的作用是分类,我们现在的任务是去区别一图片是不是猫:

在这里插入图片描述
哈哈哈,猫猫好可爱

我先撸一把先

撸完了,回来啦(嗯,怎么好像哪里不对)

当我们找到这些特征,神经元就被激活了(上图红色圆圈)

这细节特征又是怎么来的?

就是从前面的卷积层,下采样层来的

至此,关于全连接层的信息就简单介绍完了

原文链接:卷积神经网络(CNN)入门讲解关注专栏

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/226339.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月16日 下午11:08
下一篇 2026年3月16日 下午11:08


相关推荐

  • 2021年7月整理–简单方法 暴力激活成功教程WIFI密码

    2021年7月整理–简单方法 暴力激活成功教程WIFI密码2021年7月整理–简单方法暴力激活成功教程WIFI密码很多人都面临过短期租房、短期出差、住院而没有WIFI可用等境遇,有的是宽带太多办不起、有的是临时一阵子不值得折腾、有的是运营商不给扯线等等原因。然后就用手机下载了WIFI智能钥匙等APP,然后发现卵用么有,根本没有人共享自家WIFI密码给你用。以下是按步骤整理的软件和详细教程笔记本电脑+软件暴力激活成功教程出的密码我亲身用这个软件解开N多个密码此软件是家用路由器安全审计工具,切勿用作非法用途!!!….

    2022年8月22日
    12
  • 浅拷贝和深拷贝的方法java_jdg粗中有细

    浅拷贝和深拷贝的方法java_jdg粗中有细1.拷贝的引入(1)引用拷贝创建一个指向对象的引用变量的拷贝。例1:Teacherteacher=newTeacher(“Taylor”,26);Teacherotherteacher=teacher;System.out.println(teacher);System.out.println(otherteacher);输出结果:blog.Teacher@355da254bl

    2025年6月8日
    4
  • staruml使用教程[通俗易懂]

    最近因为实验需要,得用到uml类图。找了个教程。mark下,便于以后学习。 http://blog.csdn.net/monkey_d_meng/article/details/5995610

    2022年4月12日
    51
  • string转成jsonarray_数值转换

    string转成jsonarray_数值转换第一种数据结构(JSONObject)StringjsonStr=“{“lng”:120.413354,“lat”:31.298914}”importcom.alibaba.fastjson.JSON;importcom.alibaba.fastjson.JSONObject;publicclassJSONDataProcessing{publicstaticvoidmain(String[]args){StringjsonStr=

    2022年8月23日
    11
  • E: Could not get lock /var/lib/dpkg/lock-frontend – open (11: Resource temporarly unavailable)

    E: Could not get lock /var/lib/dpkg/lock-frontend – open (11: Resource temporarly unavailable)Ubuntu安装软件报错问题错误信息E:Couldnotgetlock/var/lib/dpkg/lock-frontend-open(11:Resourcetemporarlyunavailable)解决办法:sudorm/var/lib/dpkg/lock-frontendsudorm/var/lib/dpkg/lock

    2025年8月8日
    8
  • group by 与 where, having以及顺序

    group by 与 where, having以及顺序1.GROUPBY子句必须出现在WHERE子句之后,ORDERBY子句之前.HAVING语句必须在ORDERBY子句之后。(where先执行,再groupby分组;groupby先分组,having在执行。)2.除聚集计算语句外,SELECT语句中的每个列都必须在GROUPBY子句中给出。count()为聚集函数,vend_id在后面groupby中有,所以select后面有。sel…

    2022年5月25日
    66

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号