矩阵分解

矩阵分析简明教程第4章笔记

1. 矩阵的LU分解

1.1 LU分解

定义

设为阶复方阵

若可以表示成一个下三角矩阵和一个上三角矩阵的乘积

则称其为矩阵的LU分解

定理

设为阶复方阵

若的顺序主子式 则可唯一分解为，其中

• 为主对角元为1的下三角阵
• 为上三角阵

1.2 LU分解方法

原理

由于可逆，故存在，使得

步骤

• 对矩阵仅做初等行变换，得上三角阵
• 求矩阵的逆矩阵，得下三角阵

1.3 LU分解的改进

定理(LDU分解)

设为阶复方阵

若的顺序主子式 则可唯一分解为，其中

• 为主对角元为1的下三角阵
• 为上三角阵
• 为对角阵

定理(Cholesky分解，也称平方根方法)

设为阶复方阵

若的顺序主子式 且，则可唯一分解为，其中

• 为主对角元为1的下三角阵
• 为实对角矩阵

2. 矩阵的QR分解

2.1 QR分解

定理

设为的复矩阵，，即列满秩

则存在非奇异上三角阵和矩阵，使

称等式为矩阵的QR分解

若是实方阵，则为正交阵

2.2 QR分解方法

利用Gram-Schmidt过程的QR分解

当即列不满秩时，利用G-S过程所得的QR分解不唯一

Householder变换的QR分解

定义

设，则为正交阵

称正交变换为Householder变换

定理

设 则是阶Householder矩阵，且

任一复方阵都存在酉矩阵和上三角阵，使

矩阵不必可逆

使用Householder方法所得的QR分解唯一

3. 矩阵的满秩分解

3.1 满秩分解

定理(矩阵的等价标准形)

任何矩阵均可经过有限次初等变换化为

或存在可逆阵，使得

其中 其中(列满秩)，(行满秩)

定义

设矩阵的秩为

若可以分解为列满秩矩阵和行满秩矩阵的乘积，即

则称其为的满秩分解

3.2 满秩分解方法

定理

设矩阵秩为

若的行最简形矩阵的首1元分别在的第列

取的前行构成的矩阵为，的第列构成的矩阵为

则为矩阵的满秩分解

4. 矩阵的奇异值分解

4.1 奇异值分解

奇异值定义

设是秩为的的复矩阵，矩阵的特征值为

称为的奇异值(singular value)

对奇异值进行排序，令

定理

设是秩为的复矩阵，则存在酉矩阵使，其中 其中是的奇异值

奇异值分解定义

称为矩阵的奇异值分解(singular value decomposition, SVD)

4.2 奇异值分解方法

1. 求酉矩阵使得对角化

   为的正特征值所对应的特征向量矩阵

2. 取

3. 扩充为的标准正交基：

4. 取有

详细地说：

1. 由给出的矩阵得到，并求得到特征值从大到小依次为
2. 取大于0的特征值的平方根得到奇异值
3. 由特征值得到矩阵，并由此得到矩阵
4. 将特征值带入得特征向量，单位化正交化后得
5. 正特征值对应的特征向量组成矩阵，其他特征值对应的特征向量组成矩阵
6. 得到，若特征值全为正，则
7. 求矩阵
8. 解方程得到的特征向量单位化后组成矩阵，由此得到矩阵
9. 则矩阵的奇异值分解为

5. 广义逆矩阵

5.1 广义逆

定义

设为矩阵

若存在矩阵满足

则称为的Moore-Penrose逆，记作

任何矩阵都可以有广义逆矩阵

若矩阵有逆矩阵，则其逆就是广义逆矩阵

定理

设为矩阵，则其广义逆存在且唯一

若为的满秩分解

则

推论

设为矩阵

若列满秩，则

若A行满秩，则

定理

设是的奇异值分解

则，其中

5.2 广义逆的性质

设的广义逆为，则

• ，其中
• ，为正整数

5.3 广义逆的应用

• 设线性方程组有解(相容)的充要条件为

• 方程组有解时，通解为

  其中，是的特解，是任意列向量