矩阵分析(一):空间变换与基变换

矩阵分析(一):空间变换与基变换

“在这个小测验里,我让你们求一个2*3矩阵的行列式。让我感到非常可笑的是,你们当中竟然有人尝试去做。“(摘自mathprofessorquotes.com,作者佚名)

一、空间变换

矩阵的乘法的几何意义就是空间变换。

Ma=b 代表 a经过M的变换后变成了 b 。考虑原空间中的所有向量所构成的空间 A ,那么 MA=B ,也就是空间 A 经过 M 的变换变为了空间 B。描述这种变换的一种浅显易懂的方式就是用“网格”的变换。

如下图,矩阵 \left[ \begin{array}{c} 	\text{3  }1\\ 	\text{1  }2\\ \end{array} \right] 将列向量 \left[ \begin{array}{c} 	\text{-1}\\ 	\text{2} \end{array} \right] 变为 \left[ \begin{array}{c} 	\text{-1}\\ 	\text{3} \end{array} \right] 。同时,图片显示了矩阵是如何变换空间的。

观察矩阵如何变换空间的一种简单的方法是看,变换矩阵 M i,j 映射为什么。(这里默认原空间基向量为标准正交基)。例如上图中变换矩阵 M i,j 映射为 u,v ,因此若在,原坐标系下坐标为 (x,y) ,即\vec{a}=x\vec{i}+y\vec{j},因此映射为 \vec{b}=x\vec{u}+y\vec{v} 。计算的时候表示为:

\vec{b}=x\vec{u}+y\vec{v}=x\left[ \begin{array}{c} 	3\\ 	1\\ \end{array} \right] +y\left[ \begin{array}{c} 	1\\ 	2\\ \end{array} \right] =\left[ \begin{array}{c} 	3x+1y\\ 	1x+2y\\ \end{array} \right] =\left[ \begin{array}{c} 	\text{3  }1\\ 	\text{1  }2\\ \end{array} \right] \left[ \begin{array}{c} 	x\\ 	y\\ \end{array} \right] =M\vec{a}

因此从上式也可看出,矩阵乘法就是空间变换,是一种映射。

  • 行列式

行列式 det(A) 给出了由 A 表示的映射引起的缩放因子和方向。数值代表缩放因子,正负号代表变换的方向。当行列式等于1时,由 A 定义的线性变换是等值的和保持方向的。

如下图:在二维空间中,行列式代表面积,行列式的值越大,代表变换对面积造成的影响越大。行列式若为负值代表空间发生了翻转。

如果一个n阶方阵的行列式为0,也就证明这个行列式不满秩。也就是说组成行列式的列向量是线性相关的,那么这n个列向量张成的空间便是n维空间的一个投影,维度等于秩。

det(A)=0 ,变换 A 使得空间的维度被压缩了,例如2维空间被压缩为1维空间,如下图。

  • 非方阵

非方阵没有行列式。按照空间变化,非方阵一定使得空间的维度发生了变化,无法衡量变换的大小,因此没有行列式。

例如一个3*2的矩阵可以将一个二维平面的向量映射为三维空间中的一个平面上的向量。而一个2*3的矩阵可以将一个三维空间的向量映射为二维平面上的一个向量,考虑整个三维空间就是将原空间做了一个投影。

  • 矩阵的逆

矩阵不一定存在逆。可以求逆的矩阵叫做可逆矩阵,也叫非奇异矩阵。矩阵为非奇异矩阵的充要条件是矩阵存在行列式且不为0。

可以这样理解:矩阵的作用是空间变换,其实就类似于一个函数。(这里说映射更标准些)矩阵求逆就类似于求反函数。当矩阵为不存在行列式或者行列式为0时,代表变换发生了降维,其映射关系不是一对一的关系,是多对一的关系,因此无法求逆或没有意义。例如上面那张图所代表的变换把空间变为一条直线,但是从直线生成一个平面却有无数种方法。

A^{-1} 所代表的变换恰好是 A 变换的逆过程。下图很好的说明了这一点。


求解Ax=b 的几何意义,就是找到一个向量x使得在A的变换下,x被映射为b。如果A为满秩矩阵,则有唯一解 x=A^{-1}b ,也就是对b施加逆变换即可找到x。

二、基变换

首先要有一个概念,我们用坐标来描述向量,那么首先要选取坐标系(类似于做物理题先选取参考系),而坐标系就是基向量的体现。因此我们对于向量、变换的描述都要说清楚是在什么基向量下进行的,同一个向量或者变换在不同的基向量下坐标不一定相同。

  • 不同基下的向量变换

如下图,从原点出发到黑点的向量可以用红色和绿色的基向量表示。在绿色基向量表示下,此向量为 (4,3) ;在红色基向量表示下,此向量为 (2,1)

这两个坐标如何转换呢?绿色的基向量为 i,j ,红色的基向量为 u,v

若选择 i,j 为基向量,则 u=\left[ \begin{array}{c} 	3\\ 	1\\ \end{array} \right] , v=\left[ \begin{array}{c} 	-2\\ 	1\\ \end{array} \right] ,那么在红色基向量下的坐标可以如下转化为在绿色基向量表达下的坐标。

2\left[ \begin{array}{c} 	3\\ 	1\\ \end{array} \right] +1\left[ \begin{array}{c} 	-2\\ 	1\\ \end{array} \right] =\left[ \begin{array}{c} 	\text{3 }-2\\ 	\text{1 }1\\ \end{array} \right] \left[ \begin{array}{c} 	2\\ 	1\\ \end{array} \right] =\left[ \begin{array}{c} 	4\\ 	3\\ \end{array} \right] 。( P=\left[ \begin{array}{c} 	\text{3 }-2\\ 	\text{1 }1\\ \end{array} \right]

若选择 u,v 为基向量,则 i=\left[ \begin{array}{c} 	1/5\\ 	-1/5\\ \end{array} \right] , j=\left[ \begin{array}{c} 	2/5\\ 	3/5\\ \end{array} \right] ,那么在绿色基向量下的坐标可以如下转化为在红色基向量表达下的坐标。

4\left[ \begin{array}{c} 	\text{1/}5\\ 	-\text{1/}5\\ \end{array} \right] +3\left[ \begin{array}{c} 	\text{2/}5\\ 	\text{3/}5\\ \end{array} \right] =\left[ \begin{array}{c} 	\text{1/5 2/}5\\ 	-\text{1/5 3/}5\\ \end{array} \right] \left[ \begin{array}{c} 	4\\ 	3\\ \end{array} \right] =\left[ \begin{array}{c} 	2\\ 	1\\ \end{array} \right] 。( Q=\left[ \begin{array}{c} 	\text{1/5 2/}5\\ 	-\text{1/5 3/}5\\ \end{array} \right]

其实 P,Q互逆,即P=Q^{-1}

  • 不同基下的空间变换

同一个变换在不同的基下也是不同的,例如有一个变换是逆时针旋转90°。即将上图空间变为下图:

很容易看出在标准正交基下(绿色),此变换矩阵 A=\left[ \begin{array}{c} 	\text{0 }-1\\ 	\text{1   }0\\ \end{array} \right]

那在红色基向量下相同的旋转变换 M 如何表示呢?

我们可以这样想,对于红色基向量表示的一个向量 x ,我们先将其转换为用标准正交基表示( P ),然后在用 A 进行变换,然后再将其用红色向量表示( P^{-1} ),就能得到和直接用 Mx 变换一样的效果。即

Mx=P^{-1}APx\,\,\Rightarrow \,\,M=P^{-1}AP

这说明了什么呢?对形如 M=P^{-1}AP 的式子,它表示在不同基向量下同一个变换如何相互转化。

有不清楚的,极力推荐大家去看这个视频:

https://www.bilibili.com/video/av6731067/?p=13www.bilibili.com

三、总结

  • 联系

M=P^{-1}AP\,\,\Rightarrow A=PMP^{-1}

如基变换中所说,上式可以看作是

  1. 变换到另一组基
  2. 在另一组基下施行空间变换
  3. 变换到原来的基

但是不可忘记最开始时候强调的矩阵乘法代表空间变换,因此抛开基变换也可以这样考虑:上式代表了一种变换分解的思想:将变换 A 分解为连续三个变换 P^{-1},M,P

从这两种角度理解,将有助于理解特征值分解和奇异值分解。

  • 与特征值分解的关系

若选择的基P恰好是A的特征向量,且能构成A的一组基,那么M就是对角矩阵,上式就是特征值分解。

那特征值和奇异值具体是什么呢?两者之间又有什么关系呢?请看我的下一篇文章:

阿姆斯特朗:矩阵分析(二):从特征值到奇异值zhuanlan.zhihu.com图标

如果你觉得有收获,就点个赞吧!

参考:

[1]bilibili.com/video/av67

[2]en.wikipedia.org/wiki/D

编辑于 03-03

文章被以下专栏收录