再理解:零空间、行空间、列空间、左零空间、基础解系、极大线性无关组、齐次解、非齐次解之间的关系
1.再理解:零空间、行空间、列空间、左零空间、基础解系、极大线性无关组、齐次解、非齐次解之间的关系
笔记来源:This is what matrices (and matrix manipulation) really look like
本人博客:3Blue1Brown系列:逆矩阵、秩、列空间、零空间
本人博客:从线代角度图解:通解、特解、非齐次通解、非齐次特解、齐次通解、齐次特解
推荐文章:线代-- 研究矩阵四大子空间的意义
此篇文章仅以方阵为例
1.1 零空间(Null Space, N ( A ) N(A) N(A))
齐次线性方程组
方程组的矩阵表示
注意此矩阵为 A A A
A x ⃗ = 0 ⃗ A\vec{x}=\vec{0} Ax=0
方程组解的角度:
上面三个方程分别对应三个平面,三个平面交于一线,这条交线上的每个点 ( x , y , z ) (x,y,z) (x,y,z)代入三个方程都会使得三个方程为0,即交线上每个点均为三个方程的解,这些点(解)构成了矩阵A的零空间
线性变换的角度:
线性变换前的空间内所有点,在经过矩阵A的变换后,在上图交线中的所有点都被压缩到原点
矩阵A的零空间
1.2 行空间(Row Space, C ( A T ) C(A^T) C(AT))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为 A T A^T AT
A T y ⃗ = b ⃗ A^T\vec{y}=\vec{b} ATy=b
将上式化为矩阵 A A A乘以某个向量的形式
A T y ⃗ = b ⃗ ( A T y ⃗ ) T = b ⃗ T y ⃗ T A = b ⃗ T A^T\vec{y}=\vec{b}\\ ~\\ (A^T\vec{y})^T=\vec{b}^T\\ ~\\ \vec{y}^TA=\vec{b}^T ATy=b (ATy)T=bT yTA=bT
矩阵左乘向量
下面第一张图来自:矩阵乘法核心思想(2):行空间
我们观察一下矩阵 A A A 的行向量与零空间中的向量之间的关系
矩阵 A A A的三个行向量张成行空间,白线为矩阵 A A A的零空间,我们发现行空间⊥零空间
1.3 零空间与行空间
零空间⊥行空间
1.4 列空间(Column Space, C ( A ) C(A) C(A))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为 A A A
A x ⃗ = b ⃗ A\vec{x}=\vec{b} Ax=b
矩阵右乘向量
下面第一张图来自:矩阵乘法核心思想(2):行空间
上图中列空间是由矩阵A的三个列向量线性组合张成的空间
我们将矩阵A的三个空间放在一起看看它们之间的关系
1.5 左零空间(Left Nullspace, N ( A T ) N(A^T) N(AT))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为 A T A^T AT
A T y ⃗ = 0 ⃗ A^T\vec{y}=\vec{0} ATy=0
将上式化为矩阵 A A A乘以某个向量的形式
A T y ⃗ = 0 ⃗ ( A T y ⃗ ) T = 0 ⃗ T y ⃗ T A = 0 ⃗ T A^T\vec{y}=\vec{0}\\ ~\\ (A^T\vec{y})^T=\vec{0}^T\\ ~\\ \vec{y}^TA=\vec{0}^T ATy=0 (ATy)T=0T yTA=0T
上面这些式子中 y ⃗ T A = 0 ⃗ T \vec{y}^TA=\vec{0}^T yTA=0T 解向量 y ⃗ T \vec{y}^T yT 在矩阵 A A A的左侧,从这里体现了“左”字
矩阵 A A A的左零空间就是矩阵 A T A^T AT的零空间
1.6 列空间与左零空间
左零空间⊥行空间
1.7 各个空间之间的关系
零空间与行空间正交
列空间与左零空间正交
下面第一张图来自:线性代数“正交”全家桶(2) :正交子空间
对任一矩阵 A m × n A_{m×n} Am×n 都有 Row Rank = Column Rank = Rank \text{Row Rank}=\text{Column Rank}=\text{Rank} Row Rank=Column Rank=Rank
行空间: im ( A T ) \text{im}(A^T) im(AT)
零空间: ker ( A ) \text{ker}(A) ker(A)
列空间: im ( A ) \text{im}(A) im(A)
左零空间: ker ( A T ) \text{ker}(A^T) ker(AT)
行空间和零空间构成 n n n维空间
列空间和左零空间构成 m m m维空间
1.8 基础解系、极大线性无关组
个人理解:行空间、零空间、列空间、左零空间都是由对应线性方程组的所有解构成的空间,由于每个解为一个点,此点与原点构成向量,也可以说线性方程组的解向量构成了上述空间,一句话概括:这些空间都是对应线性方程组的解空间
解向量的极大线性无关组就是基础解系(基础解系相当于解空间的基),基础解系通过线性组合得到所有解向量,即所有解向量都可以由基础解系线性表示
1.9 齐次与非齐次方程组的解
零空间和左零空间就是齐次方程组的解所构成的空间
行空间和列空间就是非齐次方程组的解所构成空间
A x ⃗ = b ⃗ A\vec{x}=\vec{b} Ax=b 的解集是一个和 A x ⃗ = 0 ⃗ A\vec{x}=\vec{0} Ax=0 的解空间相平行的结构,该结构是Ax=0的解空间沿着一个特解方向平移的结果 --摘自:非齐次线性方程组通解的结构如何理解?
下面第一张图来自:矩阵乘法核心思想(3):零空间
具体详见本人博客:从线代角度图解:通解、特解、非齐次通解、非齐次特解、齐次通解、齐次特解