Singular Value Thresholding (SVT) 奇异值阈值

Singular Value Thresholding (SVT) 奇异值阈值这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

大家好,又见面了,我是你们的朋友全栈君。

[本文链接:http://blog.csdn.net/shanglianlm/article/details/46009387,转载请注明出处]

为了求解问题

这里写图片描述

因为它是非凸的,我们求解一个它的近似算法

这里写图片描述

对于一个大的 τ 值,它可以用下列等式接近

这里写图片描述

其中第一项为核范式(奇异值的和),第二项为Frobenius范式。

  1. Singular Value Thresholding (SVT) 奇异值阈值

    * 奇异值收缩(singular value shrinkage)*

    首先我们考虑一个秩为 r 的矩阵

    XRn1xn2
    的奇异值分解如下:
    SVD
    其中 U

    V
    分别为 n1×r n2×r 的正交矩阵,奇异值为 ρi 非负的。

    对于每个 τ0 ,我们有软阈值操作 Dτ :
    SVS
    其中 t+ 表示的 t 非负部分,即

    t+=max(0,t)
    。换句话说,这个软阈值操作仅仅应用于矩阵 X <script type=”math/tex” id=”MathJax-Element-56″>X</script> 的奇异值上,使它们趋于零。这也是为什么我们将其成为奇异值收缩(singular value shrinkage)的原因。

    * Singular Value Thresholding (SVT) 奇异值阈值*

    又因为奇异值收缩(singular value shrinkage)是核范式的近似操作(具体证明见[3]),因此上式可以转化为:
    这里写图片描述

    它的迭代方式为:
    这里写图片描述

    这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

  2. 用拉格朗日乘子法解释

    原问题为:

    这里写图片描述

    其拉格朗日函数为:

    这里写图片描述

    强对偶成立,且拉格朗日函数的鞍点是原函数与对偶问题的最优解,即

    这里写图片描述

    其迭代解为:

    这里写图片描述

参考或延伸材料
[1] 斯坦福SVT软件
[2] Generalized Singular Value Thresholding
[3] A singular value thresholding algorithm for matrix completion
[4] Exact Matrix Completion via Convex Optimization

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/137392.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 关于pfx证书和cer证书

    关于pfx证书和cer证书Pfx证书,同时包含了公钥信息和私钥信息Cer证书只包含公钥信息如果客户端与网站通信时需要用到私钥(基本所有需要数字证书的网站都会用到私钥),则cer证书是无法正常访问网站的,网站会提示“该页要求客户证书”由于cer证书只包含公钥信息,一般只能用于解密使用(解密该公钥对应的私钥加密的数据)。Pfx证书既可以导出为pfx证书,也可以导出为cer证书。Pfx证书导出时,会提示是…

    2022年5月2日
    59
  • 喜欢井宝的七大理由

    喜欢井宝的七大理由

    2021年7月25日
    51
  • 利用#ZipLib,完成C#下的解压缩「建议收藏」

    利用#ZipLib,完成C#下的解压缩「建议收藏」 ICSharpCode.SharpZipLib.dll是一个压缩的类库,似乎不是微软提供的1.BZip2    加入ICSharpCode.SharpZipLib.dll的引用,在#Develop的安装目录下的/SharpDevelop/bin目录下。然后在程序中使用using语句把BZip2类库包含进来。压缩:使用BZip2的静态方法Compress。    它的第一个参数是所要压缩

    2022年7月26日
    3
  • Dubbo负载均衡策略及自行扩展负载均衡策略

    Dubbo负载均衡策略及自行扩展负载均衡策略负载均衡在集群负载均衡时,Dubbo提供了多种均衡策略,缺省为random随机调用。可以自行扩展负载均衡策略,参见:负载均衡扩展负载均衡策略RandomLoadBalance随机,按权重设置随机概率。在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。RoundRobinLoadBalance轮循,按公约后的权重设置轮循比率。存在…

    2022年7月11日
    11
  • 安卓rom包制作_android原生rom下载

    安卓rom包制作_android原生rom下载制作ROM包是做Android系统工程师的第一步,Android第三方的市场

    2022年10月16日
    0
  • python 用pip安装cv2(超简单的一句话)

    python 用pip安装cv2(超简单的一句话)如果你已经装好了pip,那就直接pipinstallopencv-python就可以了打个小广告~~

    2022年4月20日
    237

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号