不同维度矩阵相乘[通俗易懂]

不同维度矩阵相乘[通俗易懂]在深度学习中经常会遇到不同维度的矩阵相乘的情况,本文会通过一些例子来展示不同维度矩阵乘法的过程。总体原则:在高维矩阵中取与低维矩阵相同维度的分片来与低维矩阵相乘,结果再按分片时的顺序还原为高维矩阵。相乘结果的维度与原来的高维矩阵一致。二维乘一维三维乘一维三维乘二维…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46,售后保障稳定

前言

在深度学习中经常会遇到不同维度的矩阵相乘的情况,本文会通过一些例子来展示不同维度矩阵乘法的过程。

总体原则:在高维矩阵中取与低维矩阵相同维度的子矩阵来与低维矩阵相乘,结果再按子矩阵的排列顺序还原为高维矩阵。相乘结果的维度与原来的高维矩阵一致。
具体来说,当一方为一维矩阵时,另一方取其最后一维子矩阵来做乘法;当两方都是大于等于2维的矩阵时,取各自的最后两维构成的子矩阵来做乘法,其他维度体现结果的拼接信息,不参与运算(为batch训练提供了便利,batch中各样本的顺序在矩阵运算前后保持一致)。

实例:下面我们从低维到高维,依次演示不同维度矩阵相乘的结果。

二维乘一维

二维矩阵依次取出一维的行向量与一维矩阵做内积

#二维乘一维
import numpy as np

a = np.linspace(1,4,4).reshape(2,2)
b = np.array([1,1])
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

Jetbrains全家桶1年46,售后保障稳定

在这里插入图片描述

三维乘一维

三维矩阵包含两个二维矩阵,分别将这两个二维矩阵与一维矩阵相乘(乘积为一维),结果按原来的顺序拼接起来,构成一个二维矩阵

#三维乘一维
import numpy as np

a = np.linspace(1,8,8).reshape(2,2,2)
b = np.array([1,1])
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

二维乘二维

最常见的矩阵相乘形式

#二维乘二维
import numpy as np

a = np.linspace(1,4,4).reshape(2,2)
b = np.ones((2,2))
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

三维乘二维

将三维矩阵中的后两维组成的二维子矩阵分别与二维矩阵相乘(二维),结果再按原顺序拼接起来(三维)

#相当于三维矩阵里的二维分量分别与二维矩阵相乘,再拼接起来
import numpy as np

a=np.linspace(1,8,8).reshape(2,2,2)
# print(a)
b = np.array([[1,0],[0,1]]) #单位矩阵
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

三维乘三维

两个三维矩阵中对应位置的二维子矩阵分别相乘,结果按第0维分量更多的那个矩阵的结构拼接。
注意:,并不是任意两个三维矩阵都能相乘,其必须满足两个条件:

1:两个矩阵的后两个维度构成的二维矩阵之间必须满足二维矩阵相乘的条件,即第一个矩阵的列数等于第二个矩阵的行数
2:两个矩阵的第0维分量数必须相等(每个分量对应相乘) 或 有一方为1(broadcast-广播机制) —-反例见下方第3种情况

1-(2,2,2)*(2,2,2)

#三维乘三维 (2,2,2)*(2,2,2)
#计算时都是二维乘二维,第三维度反映二维矩阵的拼接信息;对应位置二维矩阵相乘
import numpy as np

a=np.linspace(1,8,8).reshape(2,2,2)
# print(a)
e = np.array([[[1,0],[0,1]]])
f = np.array([[[0,1],[1,0]]])
b = np.vstack((e,f))
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

2-(2,2,2)*(1,2,2)

#三维乘三维 (2,2,2)*(1,2,2)
#广播机制(broadcast)
import numpy as np

a=np.linspace(1,8,8).reshape(2,2,2)
# print(a)
b = np.array([[[0,1],[1,0]]])
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

3-(3,2,2)*(2,2,2)–失败

第0维分量数不满足条件2,不能相乘

# 三维乘三维--不同形状:(4,2,2)*(2,2,2)
import numpy as np

a=np.linspace(1,16,16).reshape(4,2,2)
# print(a)
e = np.array([[[1,0],[0,1]]])
f = np.array([[[0,1],[1,0]]])
b = np.vstack((e,f))
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('c:\n',c)

在这里插入图片描述

多维乘多维

与三维乘三维类似,可乘条件2改为:除最后两维外,每一维的分量数必须对应相等(每个分量对应相乘) 或 有一方为1(broadcast-广播机制)

#各维度的分量相互对应,最终仍是计算二维乘二维
import numpy as np

a=np.linspace(1,16,16).reshape(2,2,2,2)
b = np.ones((2,2,2,2)) #全1矩阵
c = np.matmul(a,b)
print('a:\n',a)
print('b:\n',b)
print('ab:\n',c)

在这里插入图片描述

参考资料

知乎:多维矩阵相乘的可视化

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/230764.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • opengl和directx渲染有什么区别(directx怎么打开)

    原文地址:http://tieba.baidu.com/p/2018728460?see_lz=1OpenGL只是图形函数库。 DirectX包含图形,声音,输入,网络等模块。 单就图形而论,DirectX的图形库性能不如OpenGL OpenGL稳定,可跨平台使用。但OpenGL多需要显卡支持. ———————————-…

    2022年4月13日
    143
  • linux系统中的i386/i686和x86_64有什么区别[通俗易懂]

    linux系统中的i386/i686和x86_64有什么区别[通俗易懂]Linux的的版本众多,包括服务器版本、桌面版本等,在下载安装镜像时候总会有i386/i686和x86_64这样的区别,带着疑问查了一下相关资料:(1)参考一:http://blog.csdn.net/yandaqijian/article/details/41748759?locationNum=14点击打开链接(2)参考二:http://blog.csdn.net/yandaqijia

    2022年5月6日
    37
  • Tortoise小乌龟SVN回滚到之前的提交版本,即如何撤销此次提交操作

    Tortoise小乌龟SVN回滚到之前的提交版本,即如何撤销此次提交操作

    2021年7月18日
    77
  • c++利用mutex(互斥量)实现多线程「建议收藏」

    c++利用mutex(互斥量)实现多线程「建议收藏」C++使用内核对象互斥体(Mutex)实现线程同步锁,当两个线程共同访问一个共享资源时,Mutex可以只向一个线程授予访问权。下面的例子模拟了售票系统,定义了两个售票线程///ConsoleApplication1.cpp:定义控制台应用程序的入口点。////mutex#include”stdafx.h”#include<stdio.h>#include<windows.h>#include<process.h>void__cdecl.

    2022年6月26日
    28
  • 但是生活总不是完美的

    但是生活总不是完美的里。为细水停留,为蔷薇伫足。水色清韵,一品天香,末指的时间,却觉不出暗香盈袖。输细水一分色,逊琼雪一段香。以晴翠为笔,以琼雪为墨。逸岭千城,踏雪无痕,末指的空间,却砌不出烟火人间。输晴翠一分情,逊琼雪只不过在寻求一种温暖的生存方式,可最后得到的并不是答案。高级别墅,奢华名车,并不是每一个进去的人都能快乐的,或许有了这些物质做依靠,总比什么都没有好许多,生活有时也仅仅只是一种形式,往往看到的只是外在

    2022年5月28日
    46
  • pip安装教程

    直接搜索pippip官网地址会得到下面的图像下载短的那个(如果你不知道pip是否安装可以通过命令pip–version来判断是否已安装)下载完成后解压到你自己知道的文件夹防止找不到,,然后有两种方法安装pip第一种在python环境下安装pippy-mensurepip–upgrade(直接在python里面运行cmd输入这一行代码)第二种可以用python中的内置脚本python内置脚本pyget-pip.py(下载到python文件中打开cmd,然后..

    2022年4月9日
    61

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号