Singular Value Thresholding (SVT) 奇异值阈值

Singular Value Thresholding (SVT) 奇异值阈值这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

大家好,又见面了,我是你们的朋友全栈君。

[本文链接:http://blog.csdn.net/shanglianlm/article/details/46009387,转载请注明出处]

为了求解问题

这里写图片描述

因为它是非凸的,我们求解一个它的近似算法

这里写图片描述

对于一个大的 τ 值,它可以用下列等式接近

这里写图片描述

其中第一项为核范式(奇异值的和),第二项为Frobenius范式。

  1. Singular Value Thresholding (SVT) 奇异值阈值

    * 奇异值收缩(singular value shrinkage)*

    首先我们考虑一个秩为 r 的矩阵

    XRn1xn2
    的奇异值分解如下:
    SVD
    其中 U

    V
    分别为 n1×r n2×r 的正交矩阵,奇异值为 ρi 非负的。

    对于每个 τ0 ,我们有软阈值操作 Dτ :
    SVS
    其中 t+ 表示的 t 非负部分,即

    t+=max(0,t)
    。换句话说,这个软阈值操作仅仅应用于矩阵 X <script type=”math/tex” id=”MathJax-Element-56″>X</script> 的奇异值上,使它们趋于零。这也是为什么我们将其成为奇异值收缩(singular value shrinkage)的原因。

    * Singular Value Thresholding (SVT) 奇异值阈值*

    又因为奇异值收缩(singular value shrinkage)是核范式的近似操作(具体证明见[3]),因此上式可以转化为:
    这里写图片描述

    它的迭代方式为:
    这里写图片描述

    这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

  2. 用拉格朗日乘子法解释

    原问题为:

    这里写图片描述

    其拉格朗日函数为:

    这里写图片描述

    强对偶成立,且拉格朗日函数的鞍点是原函数与对偶问题的最优解,即

    这里写图片描述

    其迭代解为:

    这里写图片描述

参考或延伸材料
[1] 斯坦福SVT软件
[2] Generalized Singular Value Thresholding
[3] A singular value thresholding algorithm for matrix completion
[4] Exact Matrix Completion via Convex Optimization

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/137392.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • EmguCv模板匹配[通俗易懂]

    模板匹配是一种最原始、最基本的模式识别方法,研究某一特定对象物的图案位于图像的什么地方,进而识别对象物,这就是一个匹配问题。它是图像处理中最基本、最常用的匹配方法。模板匹配具有自身的局限性,主要表现在它只能进行平行移动,若原图像中的匹配目标发生旋转或大小变化,该算法无效。先贴上简陋的界面图  代码:Matsrc=newImage&lt;Bgr,byte&gt;(ib_o…

    2022年4月8日
    45
  • 数据分析中常见问题「建议收藏」

    数据分析中常见问题「建议收藏」1. 如何检验数据是否服从正态分布?一、图示法(1)P-P图。以样本的累积频率作为横坐标,以安装正太分布计算的相应累计概率作为纵坐标,把样本值表现为直角坐标系中的散点,如果服从正太分布,则样本点围绕第一象限的对角线分布。(2)Q-Q图。以样本的分位数作为横坐标,以按照正态分布计算的相应分位点作为纵坐标,把样本表现为指教坐标系的散点。如果资料服从正态分布,则样本点应该呈一条围绕第一象限对…

    2022年6月3日
    31
  • pycharm安装matplotlib 遇到的问题

    pycharm安装matplotlib 遇到的问题pycharm安装matplotlib遇到的问题打入命令安装。pipinstallmatplotlib安装到一半时报错。提示说得先升级pip版本。然而升级pip又报错。。。。跑去pychram,setting里面更新pip,成功后,再次安装matplotlib,又提示失败,需要升级pip,再次打入升级pip成功后,再安装matplotlib,又是失败。。。。。。服了找到的其它方法:直接去官方下载文件,https://www.lfd.uci.edu/~gohlke/pyt

    2022年8月29日
    4
  • jdbc批量插入实例

    jdbc批量插入实例

    2021年7月16日
    69
  • Sublime Text 3 注册/激活方法

    Sublime Text 3 注册/激活方法Sublime是一款很好用的编辑器,虽然是免费使用,但是经常会弹出吆喝着让你购买(purchase)的弹窗,对一名优秀的强迫症来说看久了还是很烦人的。而且现在网上很多注册码都不可用。那么要怎么解决呢?下面提供两种解决方案。(我是在win10系统上操作的)二、方案方案一[1]1)建立一个bat文件(随便取个名字,如“runHost.bat”),复制以下代码到…

    2022年7月27日
    8
  • Java语言实现自动关机程序

    Java语言实现自动关机程序@Java实现自动关机系统Java语言实现自动关机程序该项目实现了以下任务:1、提示用户,欢迎使用某某关机程序2、提示用户,输入倒计时关机的秒数3、根据用户输入的秒数,进行自动关机4、开始自动关机时,提示用户xxx秒后关机项目具体代码我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:全新的界面设计,将会带来全新的写作体验;在创作中心设置你喜爱的代码高亮样式,Markdown将代码片显示选择的

    2022年7月22日
    10

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号