对比学习、自监督学习的理解「建议收藏」

对比学习、自监督学习的理解「建议收藏」自监督学习定义:自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息来提高学习表征的质量,通过这种构造监督信息对网络进行训练,从而可以学习到对下游任务具有价值的表征。辅助任务(pretext):可以认为是一种为达到特定训练任务而设计的间接任务。pretext任务的好处是为了简化原任务的求解,在深度学习中就是避免人工标记样本,实现无监督的语义提取。Pretext任务可以进一步理解为:对目标任务有帮助的辅助任务。主要pretexttask包括:图像旋转、图像着色、图像修复。下游任务:图

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

自监督学习定义:
自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息来提高学习表征的质量,通过这种构造监督信息对网络进行训练,从而可以学习到对下游任务具有价值的表征。

辅助任务(pretext):
可以认为是一种为达到特定训练任务而设计的间接任务。pretext任务的好处是为了简化原任务的求解,在深度学习中就是避免人工标记样本,实现无监督的语义提取。Pretext任务可以进一步理解为:对目标任务有帮助的辅助任务。主要pretext task包括:图像旋转、图像着色、图像修复。

下游任务:图像分类、目标检测等等等

对比学习:
自监督学习算法分为两种:对比方法和生成方法。对比学习属于自监督学习,所以对比学习是没有标签的。对比学习是通过构造正负样例来学习特征。如何构造正负样例对对比学习来说很重要。对于一个输入样本x来说,存在与之相似的样本x+以及与之不相似的样本x-,对比学习要做的就是学习一个编码器f,这个编码器f能够拉近x与其正样本间的距离,推远x与其负样本之间的距离。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/193903.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • ZendOptimizer怎么安装?Php网站打开显示乱码

    ZendOptimizer怎么安装?Php网站打开显示乱码

    2021年10月10日
    61
  • 用户在SP网站上操作的WEB接口调用和流程图[修改图片]

    用户在SP网站上操作的WEB接口调用和流程图[修改图片]1.1.用户登陆SP网站点播业务流程说明:1)用户在SP网站以手机号注册社区用户,SP向用户下发密码通知短信。(用户在网上注册和点播走一样的流程,都通过点播确认码确认用户身份,否则密码通知MT消息会被鉴权中心拦截,从而短信不能下发到用户手机上。)2)用户用注册密码以SP社区用户登陆SP网站。3)用户在SP网站点播业务。4)SP网站调用SPMS提供的WEB点播调用接

    2022年6月16日
    28
  • Python开源爬虫框架:Scrapy架构分析

    Python开源爬虫框架:Scrapy架构分析

    2021年9月3日
    62
  • pycharm2019激活成功教程版安装教程_2019最新版本的美篇下载

    pycharm2019激活成功教程版安装教程_2019最新版本的美篇下载安装2019Pycharm最新版本-详细教程–激活码1下载安装1.1打开官网http://www.jetbrains.com/pycharm/download/#section=windows1.2.双击下载好的exe,得到如下图所示,点击next1.3.软件安装在其他盘中,比如D盘1.4.根据自己电脑选择64位还是32位,选择关联.py,选择增加更新路径1.5.继续点…

    2022年8月29日
    1
  • 免费下载电子书攻略大全_我被系统攻略了txt

    免费下载电子书攻略大全_我被系统攻略了txt经常帮博友们查找各种书籍,也算是攒了一些经验。在此整理下我是如何找电子书籍的,准确来说,是找书籍的网站汇总。本文借鉴了@陆浑戎,@设定控@没有我找不到的电子书等朋友的方法,在此表示感谢! 如以下内容有不当之处,还请各位指正。一、初级攻略利用网盘检索工具进行检索在此推荐几个我常用的网盘检索工具:1、西林街西林街::网盘搜索引擎,更是网盘搜索神器!

    2022年8月10日
    6
  • ed2k链接网站

    ed2k链接网站 http://ed2k.shortypower.org/  查源站 http://donkey4u.com/   查源站 http://verycd.gdajie.com/ http://www.iverycd.com/ http://www.qvocd.org/ http://www.simplecd.me/ http://www.ed2kers.com/ http://www.icili….

    2022年7月15日
    17

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号