# 线性方程组

本节的一个重要应用是利用矩阵的行化简来解线性方程组
设有如下线性方程组

$\begin{cases} a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n = b_1 \\ a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n = b_2 \\ \vdots \\ a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{mn}x_n = b_m \end{cases}$

该方程组具有 $m$ 个方程， $n$ 个未知数

在未经矩阵的学习时，求解此类方程常用的方法是 Gauss 消元法，即通过对方程组进行变形，逐步消去未知数，从而最终得到解
实际上这个过程可以用矩阵语言重新描述

首先，抽取方程组的系数矩阵 $A$ ，未知数矩阵 $\boldsymbol x$ ，以及常数矩阵 $\boldsymbol b$ ，分别定义为

$A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}, \quad \boldsymbol x = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}, \quad \boldsymbol b = \begin{pmatrix} b_1 \\ b_2 \\ \vdots \\ b_m \end{pmatrix}$

则方程组可以简洁地写作

$A \boldsymbol x = \boldsymbol b$

目的是求解满足该方程的未知数矩阵 $\boldsymbol x$

Gauss 消元法实际上是矩阵的行简化过程，原方程组在行化简下不会发生错误，方程依然成立。所以通过将等式两边同时进行行化简，可以找到每一个未知数成分所对应的主元，进一步解出具体的值
因为这个过程是等式两边对称成立的，所以为了简化我们完全可以构造一个增广矩阵

$\widetilde{A} = [ \begin{array}{c|c} A & \boldsymbol b \end{array} ] = \left( \begin{array}{cccc|c} a_{11} & a_{12} & \cdots & a_{1n} & b_1 \\ a_{21} & a_{22} & \cdots & a_{2n} & b_2 \\ \vdots & \vdots & & \vdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} & b_m \end{array} \right)$

化简这个增广矩阵即可。在得到行最简矩阵后，将其还原回方程组的形式，就可以直接看出每一个未知数的值

在化简之后，我们得到的结果有两种情况。假设最终得到的行最简矩阵为 $\widetilde{R}$ ，则

若 $\widetilde{R}$ 的最后一行存在主元，这时还原回方程性质后可以看到对应 $0 = 1$ 这样的矛盾式子，说明方程组 +
+ 无解 ++
若 $\widetilde{R}$ $R$ 的最后一行不存在主元，这时方程组至少存在一个解
- 若 $\mathrm{rank}(A) = \mathrm{rank}(\widetilde{A}) = n$ ，则方程组存在唯一解
- 若 $\mathrm{rank}(A) = \mathrm{rank}(\widetilde{A}) \lt n$ ，则方程组存在无穷多解

示例
求解如下线性方程组（唯一解情况）

$\begin{cases} x_1 + 2x_2 + x_3 = 4 \\ 2x_1 + 3x_2 + x_3 = 7 \\ 3x_1 + 5x_2 + x_3 = 10 \end{cases}$

解

首先构造增广矩阵

$\widetilde{A} = \begin{pmatrix} 1 & 2 & 1 & 4 \\ 2 & 3 & 1 & 7 \\ 3 & 5 & 1 & 10 \end{pmatrix}$

通过行简化得到

$\begin{aligned} &\xrightarrow{R2 - 2R1 \to R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 3 & 5 & 1 & 10 \end{pmatrix} \\ &\xrightarrow{R3 - 3R1 \to R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 0 & -1 & -2 & -2 \end{pmatrix} \\ &\xrightarrow{R3 - R2 \to R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 0 & 0 & -1 & -1 \end{pmatrix} \\ &\xrightarrow{-R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & -1 & -1 \end{pmatrix} \\ &\xrightarrow{-R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & 1 & 1 \end{pmatrix} \\ &\xrightarrow{R2 - R3 \to R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 1 \end{pmatrix} \\ &\xrightarrow{R1 - R3 \to R1} \begin{pmatrix} 1 & 2 & 0 & 3 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 1 \end{pmatrix} \\ &\xrightarrow{R1 - 2R2 \to R1} \begin{pmatrix} 1 & 0 & 0 & 3 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 1 \end{pmatrix} \end{aligned}$

显然， $\widetilde{R}$ 的最后一行不存在主元，且 $\mathrm{rank}(A) = \mathrm{rank}(\widetilde{A}) = 3$ ，因此方程组存在唯一解

$\begin{pmatrix} x_1 \\ x_2 \\ x_3 \end{pmatrix} = \begin{pmatrix}3 \\ 0 \\ 1\end{pmatrix}$

示例
求解如下线性方程组（无穷多解情况）

$\begin{cases} x_1 + 2x_2 + x_3 = 4 \\ 2x_1 + 3x_2 + x_3 = 7 \\ 3x_1 + 5x_2 + x_3 = 11 \end{cases}$

解

首先构造增广矩阵

$\widetilde{A} = \begin{pmatrix} 1 & 2 & 1 & 4 \\ 2 & 3 & 1 & 7 \\ 3 & 5 & 1 & 11 \end{pmatrix}$

通过行简化得到

$\begin{aligned} &\xrightarrow{R2 - 2R1 \to R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 3 & 5 & 1 & 11 \end{pmatrix} \\ &\xrightarrow{R3 - 3R1 \to R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 0 & -1 & -2 & -1 \end{pmatrix} \\ &\xrightarrow{R3 - R2 \to R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & -1 & -1 & -1 \\ 0 & 0 & -1 & 0 \end{pmatrix} \\ &\xrightarrow{-R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & -1 & 0 \end{pmatrix} \\ &\xrightarrow{-R3} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 1 & 1 \\ 0 & 0 & 1 & 0 \end{pmatrix} \\ &\xrightarrow{R2 - R3 \to R2} \begin{pmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 0 & 1 \\ 0 & 0 & 1 & 0 \end{pmatrix} \\ &\xrightarrow{R1 - R3 \to R1} \begin{pmatrix} 1 & 2 & 0 & 4 \\ 0 & 1 & 0 & 1 \\ 0 & 0 & 1 & 0 \end{pmatrix} \\ &\xrightarrow{R1 - 2R2 \to R1} \begin{pmatrix} 1 & 0 & 0 & 2 \\ 0 & 1 & 0 & 1 \\ 0 & 0 & 1 & 0 \end{pmatrix} \end{aligned}$

显然， $\widetilde{R}$ 的最后一行不存在主元，且 $\mathrm{rank}(A) = \mathrm{rank}(\widetilde{A}) = 2 \lt 3$ ，因此方程组存在无穷多解
设 $x_3 = t$ ，则方程组的解为

$\begin{pmatrix} x_1 \\ x_2 \\ x_3 \end{pmatrix} = \begin{pmatrix}2 \\ 1 \\ 0\end{pmatrix} + t \begin{pmatrix}0 \\ 0 \\ 1\end{pmatrix}, \quad t \in \mathbb{R}$

一类比较特殊的问题是系数矩阵相同的线性方程组的集合，考虑如下方程组

$A \boldsymbol x = \boldsymbol b_i, \quad i = 1, 2, \dots, k$

因为对各个方程求解的顺序都是一样，并且行基本变换不会让列向量参杂，这就意味着增广矩阵可以合并为

$\widetilde{A} = [ \begin{array}{c|c|c|c|c} A & \boldsymbol b_1 & \boldsymbol b_2 & \cdots & \boldsymbol b_k \end{array} ] = \left( \begin{array}{cccc|c|c|c|c} a_{11} & a_{12} & \cdots & a_{1n} & b_{11} & b_{12} & \cdots & b_{1k} \\ a_{21} & a_{22} & \cdots & a_{2n} & b_{21} & b_{22} & \cdots & b_{2k} \\ \vdots & \vdots & & \vdots & \vdots & \vdots & & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} & b_{m1} & b_{m2} & \cdots & b_{mk} \end{array} \right)$

直接对该增广矩阵进行行化简，就可以同时求解所有方程组

示例
求解如下线性方程组集合

$\begin{cases} x + 2y = -1 \\ 3x + 7y = 3 \end{cases}, \quad \begin{cases} x + 2y = 5 \\ 3x + 7y = 2 \end{cases}$

解

首先构造增广矩阵

$\widetilde{A} = \begin{pmatrix} 1 & 2 & -1 & 5 \\ 3 & 7 & 3 & 2 \end{pmatrix}$

通过行简化得到

$\begin{aligned} &\xrightarrow{R2 - 3R1 \to R2} \begin{pmatrix} 1 & 2 & -1 & 5 \\ 0 & 1 & 6 & -13 \end{pmatrix} \\ &\xrightarrow{R1 - 2R2 \to R1} \begin{pmatrix} 1 & 0 & -13 & 31 \\ 0 & 1 & 6 & -13 \end{pmatrix} \end{aligned}$

最终得到行最简矩阵

$\widetilde{R} = \begin{pmatrix} 1 & 0 & -13 & 31 \\ 0 & 1 & 6 & -13 \end{pmatrix}$

第三列对应第一个方程组的解，第四列对应第二个方程组的解，即

$\begin{pmatrix}x \\ y \end{pmatrix} = \begin{pmatrix}-13 \\ 6\end{pmatrix}, \quad \begin{pmatrix}x \\ y \end{pmatrix} = \begin{pmatrix}31 \\ -13\end{pmatrix}$

$\square$

最后，考虑线性方程组问题中常数矩阵 $\boldsymbol b = \boldsymbol 0$ 的特殊情况，也就是

$A \boldsymbol x = \boldsymbol 0$

这样的方程组被称为 齐次线性方程组 (homogeneous linear system)「同次連立一次方程式」，它总是至少有零解 $\boldsymbol x = \boldsymbol 0$ 存在，所以关注的核心在于是否存在非零解（非平凡解 / 非自明解）

实际上，以下结论非常常用

命题
令 $n$ 个未知数的齐次线性方程组 $A \boldsymbol x = \boldsymbol 0$ ，则

方程组仅有零解，当且仅当 $\mathrm{rank}(A) = n$
方程组存在非零解，当且仅当 $\mathrm{rank}(A) \lt n$

证明

设 $A$ 的行最简矩阵为 $R$ ，则

若 $\mathrm{rank}(A) = n$ ，则 $R$ 中每一列都是主元列，方程组仅有零解
若 $\mathrm{rank}(A) \lt n$ ，则 $R$ 中至少存在一列非主元列，方程组存在非零解
$\square$

结合对矩阵的列向量分割，齐次方程组的可解性与列向量的线性无关性高度关联

命题
令 $\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 为 $n$ 维列向量，设矩阵

$A = \begin{pmatrix} \boldsymbol a_1 & \boldsymbol a_2 & \cdots & \boldsymbol a_r \end{pmatrix}$

则

$\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性无关，当且仅当 $\mathrm{rank}(A) = r$
$\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性相关，当且仅当 $\mathrm{rank}(A) \lt r$

证明

设 $c_1, c_2, \dots, c_r$ 为任意常数，考虑方程

$c_1 \boldsymbol a_1 + c_2 \boldsymbol a_2 + \cdots + c_r \boldsymbol a_r = \boldsymbol 0$

将其改写为矩阵形式

$A \begin{pmatrix} c_1 \\ c_2 \\ \vdots \\ c_r \end{pmatrix} = \boldsymbol 0$

若 $\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性无关，则方程仅有零解，因此 $\mathrm{rank}(A) = r$
若 $\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性相关，则方程存在非零解，因此 $\mathrm{rank}(A) \lt r$
$\square$

这样一来

若列向量 $\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性无关，则齐次线性方程组 $A \boldsymbol x = \boldsymbol 0$ 仅有零解
若列向量 $\boldsymbol a_1, \boldsymbol a_2, \dots, \boldsymbol a_r$ 线性相关，则齐次线性方程组 $A \boldsymbol x = \boldsymbol 0$ 存在非零解

# 逆矩阵的求解

回顾截至目前的结论

一般的线性方程组 $A \boldsymbol x = \boldsymbol b$ 存在唯一解等价于其简化阶梯形为单位矩阵 $E_n$ ，这又意味着存在一个可逆矩阵 $P$ ，使得 $PA = E_n$ ，即 $A$ 可逆，并且可以表示为 A = P^
齐次线性方程组 $A \boldsymbol x = \boldsymbol 0$ 仅有零解等价于列向量组线性无关，这又等价于 $\mathrm{rank}(A) = n$ ，即 $A$ 的简化阶梯形为单位矩阵 $E_n$

所以，对于 $n$ 维方阵 $A$ ，以下命题全部等价

$A$ 是正则矩阵
$A\boldsymbol x = \boldsymbol b$ 存在唯一解
$A\boldsymbol x = \boldsymbol 0$ 仅有零解
$A$ 的列向量线性无关
$\mathrm{rank}(A) = n$
$A$ 的简化阶梯形为单位矩阵 $E_n$
$A$ 可以写作一系列基本矩阵的乘积

通过齐次线性方程组 $A \boldsymbol x = \boldsymbol 0$ 和行化简，可以一般地方便地求解出矩阵的逆矩阵
对于给定的矩阵 $A$ ，矩阵 $B$ 成为其逆矩阵的定义原本是 $AB = BA = E_n$ ，需要证明两个等号

但是实际上，只需要证明其中一个等号即可

命题
令 $A,B$ 为 $n$ 维方阵

如果 $AB = E_n$ ，则 $BA = E_n$
如果 $BA = E_n$ ，则 $AB = E_n$

证明

(1)
令一个 $n$ 维列向量 $\boldsymbol x$ ，考虑方程

$A\boldsymbol x = \boldsymbol 0$

从左侧同时左乘 $B$ ，得到

$BA\boldsymbol x = \boldsymbol 0$

由 $BA = E_n$ 可知

$\boldsymbol x = \boldsymbol 0$

因此方程 $A\boldsymbol x = \boldsymbol 0$ 仅有零解，说明矩阵 $A$ 可逆，逆矩阵的唯一性给出其一定是 $B$

(2)
令一个 $n$ 维列向量 $\boldsymbol x$ ，考虑方程

$B\boldsymbol x = \boldsymbol 0$

从左侧同时左乘 $A$ ，得到

$AB\boldsymbol x = \boldsymbol 0$

由 $AB = E_n$ 可知

$\boldsymbol x = \boldsymbol 0$

因此方程 $B\boldsymbol x = \boldsymbol 0$ 仅有零解，说明矩阵 $B$ 可逆，逆矩阵的唯一性给出其一定是 $A$
$\square$

这样一来。给定矩阵 $A$ ，设出方程

$AX = E_n$

只需要解出这个方程就可以求出矩阵 $A$ 的逆矩阵

将矩阵 $X$ 和基本矩阵 $E_n$ 进行列向量分割，得到

$A \begin{pmatrix} \boldsymbol x_1 & \boldsymbol x_2 & \cdots & \boldsymbol x_n \end{pmatrix} = \begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 & \cdots & \boldsymbol e_n \end{pmatrix}$

这等价于同时求解 $n$ 个线性方程组，基于前述方案，构造增广矩阵

$\widetilde{A} = [ \begin{array}{c|c} A & E_n \end{array} ] = \left( \begin{array}{cccc|cccc} a_{11} & a_{12} & \cdots & a_{1n} & 1 & 0 & \cdots & 0 \\ a_{21} & a_{22} & \cdots & a_{2n} & 0 & 1 & \cdots & 0 \\ \vdots & \vdots & & \vdots & \vdots & \vdots & & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} & 0 & 0 & \cdots & 1 \end{array} \right)$

对该增广矩阵进行行化简，若最终得到的行最简矩阵为

$\widetilde{R} = [ \begin{array}{c|c} E_n & B \end{array} ] = \left( \begin{array}{cccc|cccc} 1 & 0 & \cdots & 0 & b_{11} & b_{12} & \cdots & b_{1n} \\ 0 & 1 & \cdots & 0 & b_{21} & b_{22} & \cdots & b_{2n} \\ \vdots & \vdots & & \vdots & \vdots & \vdots & & \vdots \\ 0 & 0 & \cdots & 1 & b_{n1} & b_{n2} & \cdots & b_{nn} \end{array} \right)$

这对应了所有的线性方程组均存在唯一解，因此矩阵 $A$ 可逆，且其逆矩阵为

$A^{-1} = B = \begin{pmatrix} b_{11} & b_{12} & \cdots & b_{1n} \\ b_{21} & b_{22} & \cdots & b_{2n} \\ \vdots & \vdots & & \vdots \\ b_{n1} & b_{n2} & \cdots & b_{nn} \end{pmatrix}$

否则，方程组存在非唯一解，这使得矩阵 $A$ 不可逆

示例
计算以下矩阵的逆

$A = \begin{pmatrix} 2 & 2 & 1 \\ 1 & -8 & 0 \\ 3 & -7 & 1 \end{pmatrix},\quad B = \begin{pmatrix} 1 & -1 & 3 \\ 1 & 2 & -5 \\ 1 & -4 & 11 \end{pmatrix}$

解

首先计算矩阵 $A$ 的逆，构造增广矩阵

$\widetilde{A} = \begin{pmatrix} 2 & 2 & 1 & 1 & 0 & 0 \\ 1 & -8 & 0 & 0 & 1 & 0 \\ 3 & -7 & 1 & 0 & 0 & 1 \end{pmatrix}$

通过行简化得到

$\begin{aligned} &\xrightarrow{R1 \leftrightarrow R2} \begin{pmatrix} 1 & -8 & 0 & 0 & 1 & 0 \\ 2 & 2 & 1 & 1 & 0 & 0 \\ 3 & -7 & 1 & 0 & 0 & 1 \end{pmatrix} \\ &\xrightarrow{R2 - 2R1 \to R2} \begin{pmatrix} 1 & -8 & 0 & 0 & 1 & 0 \\ 0 & 18 & 1 & 1 & -2 & 0 \\ 3 & -7 & 1 & 0 & 0 & 1 \end{pmatrix} \\ &\xrightarrow{R3 - 3R1 \to R3} \begin{pmatrix} 1 & -8 & 0 & 0 & 1 & 0 \\ 0 & 18 & 1 & 1 & -2 & 0 \\ 0 & 17 & 1 & 0 & -3 & 1 \end{pmatrix} \\ &\xrightarrow{R2 - R3 \to R2} \begin{pmatrix} 1 & -8 & 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 1 & 1 & -1 \\ 0 & 17 & 1 & 0 & -3 & 1 \end{pmatrix} \\ &\xrightarrow{R3 - 17R2 \to R3} \begin{pmatrix} 1 & -8 & 0 & 0 & 1 & 0 \\ 0 & 1 & 0 & 1 & 1 & -1 \\ 0 & 0 & 1 & -17 & -20 & 18 \end{pmatrix} \\ &\xrightarrow{R1 + 8R2 \to R1} \begin{pmatrix} 1 & 0 & 0 & 8 & 9 & -8 \\ 0 & 1 & 0 & 1 & 1 & -1 \\ 0 & 0 & 1 & -17 & -20 & 18 \end{pmatrix} \end{aligned}$

所以

$A^{-1} = \begin{pmatrix} 8 & 9 & -8 \\ 1 & 1 & -1 \\ -17 & -20 & 18 \end{pmatrix}$

另一边，计算矩阵 $B$ 的逆，构造增广矩阵

$\widetilde{B} = \begin{pmatrix} 1 & -1 & 3 & 1 & 0 & 0 \\ 1 & 2 & -5 & 0 & 1 & 0 \\ 1 & -4 & 11 & 0 & 0 & 1 \end{pmatrix}$

通过行简化得到

$\begin{aligned} &\xrightarrow{R2 - R1 \to R2} \begin{pmatrix} 1 & -1 & 3 & 1 & 0 & 0 \\ 0 & 3 & -8 & -1 & 1 & 0 \\ 1 & -4 & 11 & 0 & 0 & 1 \end{pmatrix} \\ &\xrightarrow{R3 - R1 \to R3} \begin{pmatrix} 1 & -1 & 3 & 1 & 0 & 0 \\ 0 & 3 & -8 & -1 & 1 & 0 \\ 0 & -3 & 8 & -1 & 0 & 1 \end{pmatrix} \\ &\xrightarrow{R2 + R3 \to R3} \begin{pmatrix} 1 & -1 & 3 & 1 & 0 & 0 \\ 0 & 3 & -8 & -1 & 1 & 0 \\ 0 & 0 & 0 & -2 & 1 & 1 \end{pmatrix} \end{aligned}$

显然至此已经无法化为单位矩阵，说明矩阵 $B$ 不可逆
$\square$

# 线性方程组

# 逆矩阵的求解

【线性代数】7-各种常见的子空间

【数理统计】2-概率分布