在该线性代数的笔记中，数域符号 $\mathbb F$ 指代实数域 $\mathbb R$ 或 复数域 $\mathbb C$ 中的其中一个。

# 矩阵

在初等数学中，基本的计算单位是单一数字，也就是实数和复数。很显然一个数字只能蕴含一个信息
在线性代数中，数字这一概念将被推广，我们的基本计算单位将转为矩阵

简单来说，称被括号 $[]$ 或 $()$ 包裹的，多个数字按行与列排列形成的二维数组为 矩阵 (Matrix)「矩阵」。
例如

$$A = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix},\quad B = \begin{bmatrix}7 & 8 \\ 9 & 10 \\ 11 & 12 \end{bmatrix}$$

具体选取哪一种括号并不重要，但为了统一，本笔记采取圆括号表示矩阵

一个 $m$ 行 $n$ 列的矩阵称为一个 $m \times n$ 矩阵，在需要表明大小时记作 $A_{m \times n}$，可以表示为

$$A_{m \times n} = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}_{m \times n}$$

其中 $a_{ij}$ 称为矩阵 $A$ 的 第 $i$ 行第 $j$ 列元素。也叫做 矩阵的 $(i, j)$ 成分。

也可以简短地利用成分的符号，将矩阵表示为

$$A_{m \times n} = (a_{ij})_{m \times n}$$

---

一个行与列数量相等的矩阵称为 方阵 (Square Matrix)「正方行列」，即 $m = n$ 的矩阵。
方阵是很重要的矩阵，通常来说涉及到线性代数应用的计算都建立在方阵的对象上。
一个 $n$ 行 $n$ 列的方阵称为 n 阶方阵。记作 $A_n$。即

$$A_n = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nn} \end{pmatrix}$$

在方阵中，从左上到右下的元素 $a_{11}, a_{22}, \ldots, a_{nn}$ 称为 主对角线 (Main Diagonal)「主対角線」。

记 $n$ 阶，以 $\mathbb F$ 作为元素的方阵集合为 $M_n(\mathbb F)$。

• 例如实数域上的 $2$ 阶方阵集合记作 $M_2(\mathbb R)$。
• 复数域上的 $3$ 阶方阵集合记作 $M_3(\mathbb C)$。

---

两类特殊的矩阵：

• 行数为 $1$ 的矩阵称为 行向量 (Row Vector)「行ベクトル」
• 列数为 $1$ 的矩阵称为 列向量 (Column Vector)「列ベクトル」

行向量与列向量一般用粗体表示，例如

$$\boldsymbol a = \begin{pmatrix}1 & 2 & 3\end{pmatrix},\quad \boldsymbol b = \begin{pmatrix}4 \\ 5 \\ 6\end{pmatrix}$$

除此之外，还有一些具有特殊名称的矩阵

• 除了主对角线上的元素外，其余元素均为 $0$ 的方阵称为 对角矩阵 (Diagonal Matrix)「対角行列」
• 主对角线下方的元素均为 $0$ 的方阵称为 上三角矩阵 (Upper Triangular Matrix)「上三角行列」
• 主对角线上方的元素均为 $0$ 的方阵称为 下三角矩阵 (Lower Triangular Matrix)「下三角行列」

以下 $A$ 为对角矩阵，$B$ 为上三角矩阵，$C$ 为下三角矩阵

$$A = \begin{pmatrix} a_{11} & 0 & 0 \\ 0 & a_{22} & 0 \\ 0 & 0 & a_{33} \end{pmatrix},\quad B = \begin{pmatrix} b_{11} & b_{12} & b_{13} \\ 0 & b_{22} & b_{23} \\ 0 & 0 & b_{33} \end{pmatrix},\quad C = \begin{pmatrix} c_{11} & 0 & 0 \\ c_{21} & c_{22} & 0 \\ c_{31} & c_{32} & c_{33} \end{pmatrix}$$

# 矩阵运算

不同于单一数字，矩阵具有一个特殊的自我作用的运算：转置
对于一个矩阵 $A_{m \times n}$，若

$$A_{m \times n} = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}$$

则其 转置 (Transpose)「転置」 定义为

$${}^t\!A_{m \times n} = \begin{pmatrix} a_{11} & a_{21} & \cdots & a_{m1} \\ a_{12} & a_{22} & \cdots & a_{m2} \\ \vdots & \vdots & \ddots & \vdots \\ a_{1n} & a_{2n} & \cdots & a_{mn} \end{pmatrix}$$

实际上转置就是让矩阵沿着主对角线翻转，行数和列数也会随之交换，也就是说 $m$ 行 $n$ 列的矩阵转置后会变为 $n$ 行 $m$ 列的矩阵
常见地，矩阵 $A$ 的转置也被写作 $A^t, A^T, {}^T\!A$ 等等，本笔记统一使用 ${}^t\!A$ 的形式表示转置

• 满足 $A = {}^t\!A$ 的矩阵称为 对称矩阵 (Symmetric Matrix)「対称行列」
  • $n$ 阶对称矩阵全体记为 $\mathrm{Sym}_n(\mathbb F)$
• 满足 $A = -{}^t\!A$ 的矩阵称为 斜对称矩阵 (Skew-Symmetric Matrix)「交代行列」
  • $n$ 阶斜对称矩阵全体记为 $\mathrm{Alt}_n(\mathbb F)$

---

矩阵也具有加减法，但是矩阵的加减法必须要在两个矩阵的行数与列数都相等的情况下才能进行，定义矩阵的加法为各个成分对应相加减，即

$$\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix} \pm \begin{pmatrix} b_{11} & b_{12} & \cdots & b_{1n} \\ b_{21} & b_{22} & \cdots & b_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ b_{m1} & b_{m2} & \cdots & b_{mn} \end{pmatrix} = \begin{pmatrix} a_{11} \pm b_{11} & a_{12} \pm b_{12} & \cdots & a_{1n} \pm b_{1n} \\ a_{21} \pm b_{21} & a_{22} \pm b_{22} & \cdots & a_{2n} \pm b_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} \pm b_{m1} & a_{m2} \pm b_{m2} & \cdots & a_{mn} \pm b_{mn} \end{pmatrix}$$

继承于数字运算，矩阵加法具有如下性质

• $(A + B) + C = A + (B + C)$
• $A + B = B + A$

矩阵也具备数乘运算（标量积），即对于一个矩阵 $A$ 与一个数 $k$，定义数乘为各个成分与该数相乘，即

$$k \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix} = \begin{pmatrix} k a_{11} & k a_{12} & \cdots & k a_{1n} \\ k a_{21} & k a_{22} & \cdots & k a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ k a_{m1} & k a_{m2} & \cdots & k a_{mn} \end{pmatrix}$$

基于数乘，减法可以用加法与数乘来表示

$$A - B = A + (-1)B$$

数乘运算具有如下性质

• $k(A + B) = kA + kB$
• $(k + \ell)A = kA + \ell A$
• $(k\ell)A = k(\ell A)$
• $1A = A$

矩阵可以做乘法，但是矩阵乘法相较于加法与数乘要更为特殊和复杂。
对于一个 $m$ 行 $n$ 列的矩阵 $A$ 与一个 $\ell$ 行 $k$ 列的矩阵 $B$，当且仅当 $n = \ell$ 时，矩阵乘法才有定义，定义为

$$\begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}_{m \times n} \begin{pmatrix} b_{11} & b_{12} & \cdots & b_{1k} \\ b_{21} & b_{22} & \cdots & b_{2k} \\ \vdots & \vdots & \ddots & \vdots \\ b_{\ell 1} & b_{\ell 2} & \cdots & b_{\ell k} \end{pmatrix}_{\ell \times k} = \begin{pmatrix} c_{11} & c_{12} & \cdots & c_{1k} \\ c_{21} & c_{22} & \cdots & c_{2k} \\ \vdots & \vdots & \ddots & \vdots \\ c_{m1} & c_{m2} & \cdots & c_{mk} \end{pmatrix}_{m \times k}$$

其中

$$c_{ij} = \sum_{r=1}^n a_{ir} b_{rj} = a_{i1}b_{1j} + a_{i2}b_{2j} + \cdots + a_{in}b_{nj}$$

也就是说，矩阵乘法的第 $i$ 行第 $j$ 列成分是由矩阵 $A$ 的第 $i$ 行与矩阵 $B$ 的第 $j$ 列对应成分相乘后求和得到的
最终一个 $m$ 行 $n$ 列的矩阵与一个 $n$ 行 $k$ 列的矩阵相乘后会得到一个 $m$ 行 $k$ 列的矩阵
显然，这个过程通常来说是无法交换顺序的，即一般来说 $AB \neq BA$。因为在矩阵的乘法运算中，前者提供了行的信息，后者提供了列的信息，二者交换顺序后，行与列的信息也会交换，从而导致结果不同

矩阵的乘法具有如下性质

• $A(BC) = (AB)C$
• $A(B + C) = AB + AC$
• $(A + B)C = AC + BC$

与运算紧密关联的两类特殊矩阵是单位矩阵与零矩阵

• 单位矩阵 (Identity Matrix)「単位行列」 为主对角线元素均为 $1$，其余元素均为 $0$ 的方阵，记作 $E_n$ 或 $I_n$，不考虑大小时简单记为 $E$ 或 $I$ 即

$$E_n = \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix}$$

• 零矩阵 (Zero Matrix)「零行列」 为所有元素均为 $0$ 的矩阵，记作 $O_n$，不考虑大小时简单记为 $O$ 即

$$O = \begin{pmatrix} 0 & 0 & \cdots & 0 \\ 0 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 0 \end{pmatrix}$$

很容易可以验证如下性质：

• $A + O = O + A = A$
• $A - A = O$
• $0A = A0 = O$
• $AE = EA = A$
• $AO = OA = O$

上述运算规则，与初等数学中熟知的数字运算最需要注意的两点是

• 一般来说矩阵乘法不满足交换律，若 $AB = BA$，则称矩阵 $A$ 与 $B$ 可交换
• 即使两个矩阵都不为零矩阵，其乘积也可能为零矩阵，这样的矩阵称为 零因子，例如

$$\begin{pmatrix}1 & -1 \\1 & -1\end{pmatrix} \begin{pmatrix}1 & 1 \\1 & 1\end{pmatrix} = \begin{pmatrix}0 & 0 \\0 & 0\end{pmatrix}$$

矩阵的幂运算可以由乘法运算自然导出，即

$$A^k = \underbrace{A \cdot A \cdots A}_{k \text{ times}}$$

其中 $k$ 为正整数，且 $A$ 必须为方阵

转置运算可以与加法，数乘，乘法共同作用，这很容易验证

• ${}^t(A + B) = {}^t\!A + {}^t\!B$
• ${}^t(kA) = k {}^t\!A$
• ${}^t(AB) = {}^t\!B \; {}^t\!A$

---

在引入矩阵的运算之后，就可以给出其他与矩阵有关的概念了
第一个需要了解的是逆矩阵，注意逆矩阵只能在方阵的情况下讨论

注意：并非所有方阵都存在逆矩阵，存在逆矩阵的方阵称为 正则矩阵 (Regular Matrix)「正則行列」，否则称为 奇异矩阵 (Singular Matrix)「特異行列」。

• $n$ 阶正则矩阵全体记为 $\mathrm{GL}_n(\mathbb F)$

二阶方阵可以快速由以下结论判定

容易验证以下结论：若 $A,B$ 均为 $n$ 阶正则矩阵，则

• $A^{-1}$ 亦为正则矩阵，且 $(A^{-1})^{-1} = A$
• ${}^t\!A$ 亦为正则矩阵，且 $({}^t\!A)^{-1} = {}^t\!(A^{-1})$
• $AB$ 亦为正则矩阵，且 $(AB)^{-1} = B^{-1} A^{-1} \quad$

# 矩阵的分割

在实际的计算或者推导中，将原有的矩阵划分为若干子矩阵进行处理是很常见的操作，这可以简化计算过程
简单来说，矩阵的分割类似如下形式

$$A = \left( \begin{array}{c|c} A_{11} & A_{12} \\ \hline A_{21} & A_{22} \end{array} \right)$$

其中 $A_{11}, A_{12}, A_{21}, A_{22}$ 均为矩阵，称为矩阵 $A$ 的 子矩阵。

考虑一个 $m \times n$ 矩阵 $A$，和一个 $n \times \ell$ 矩阵 $B$，此时积 $AB$ 可以定义。但我们也可以按照如下方式

$$A = \left( \begin{array}{c|c} A_{11} & A_{12} \\ \hline A_{21} & A_{22} \end{array} \right),\quad B = \left( \begin{array}{c|c} B_{11} & B_{12} \\ \hline B_{21} & B_{22} \end{array} \right)$$

来分割矩阵 $A$ 与矩阵 $B$，只需要确保 $A$ 的列分块方式与 $B$ 的行分块方式一致。即 $A_{ik}$ 的列数等于 $B_{kj}$ 的行数
即，如果我们把 $A$ 在列方向上切两刀，那么 $B$ 必须在行方向上切同样位置的两刀。

那么就可以将矩阵乘法写作

$$AB = \begin{pmatrix} A_{11}B_{11} + A_{12}B_{21} & A_{11}B_{12} + A_{12}B_{22} \\ A_{21}B_{11} + A_{22}B_{21} & A_{21}B_{12} + A_{22}B_{22} \end{pmatrix}$$

特别地，有如下两种分割方式，对于矩阵

$$A = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}$$

第一种是行向量分割

$$\begin{aligned} \boldsymbol a_1 & = \begin{pmatrix}a_{11} & a_{12} & \cdots & a_{1n}\end{pmatrix} \\ \boldsymbol a_2 & = \begin{pmatrix}a_{21} & a_{22} & \cdots & a_{2n}\end{pmatrix} \\ & \vdots \\ \boldsymbol a_m & = \begin{pmatrix}a_{m1} & a_{m2} & \cdots & a_{mn}\end{pmatrix} \end{aligned}$$

此时

$$A = \begin{pmatrix} \boldsymbol a_1 \\ \boldsymbol a_2 \\ \vdots \\ \boldsymbol a_m \end{pmatrix}$$

第二种是列向量分割

$$\boldsymbol b_1 = \begin{pmatrix}a_{11} \\ a_{21} \\ \vdots \\ a_{m1}\end{pmatrix},\quad \boldsymbol b_2 = \begin{pmatrix}a_{12} \\ a_{22} \\ \vdots \\ a_{m2}\end{pmatrix},\quad \ldots,\quad \boldsymbol b_n = \begin{pmatrix}a_{1n} \\ a_{2n} \\ \vdots \\ a_{mn}\end{pmatrix}$$

此时

$$A = \begin{pmatrix} \boldsymbol b_1 & \boldsymbol b_2 & \cdots & \boldsymbol b_n \end{pmatrix}$$

通过这样的分割方式，对于矩阵 $A$ 与矩阵 $B$，可以分割为

$$A = \begin{pmatrix} \boldsymbol a_1 \\ \boldsymbol a_2 \\ \vdots \\ \boldsymbol a_m \end{pmatrix},\quad B = \begin{pmatrix} \boldsymbol b_1 & \boldsymbol b_2 & \cdots & \boldsymbol b_k \end{pmatrix}$$

此时

$$AB = \begin{pmatrix} \boldsymbol a_1 B \\ \boldsymbol a_2 B \\ \vdots \\ \boldsymbol a_m B \end{pmatrix} = \begin{pmatrix} A \boldsymbol b_1 & A \boldsymbol b_2 & \cdots & A \boldsymbol b_k \end{pmatrix} = \begin{pmatrix} \boldsymbol a_1 \boldsymbol b_1 & \boldsymbol a_1 \boldsymbol b_2 & \cdots & \boldsymbol a_1 \boldsymbol b_k \\ \boldsymbol a_2 \boldsymbol b_1 & \boldsymbol a_2 \boldsymbol b_2 & \cdots & \boldsymbol a_2 \boldsymbol b_k \\ \vdots & \vdots & \ddots & \vdots \\ \boldsymbol a_m \boldsymbol b_1 & \boldsymbol a_m \boldsymbol b_2 & \cdots & \boldsymbol a_m \boldsymbol b_k \end{pmatrix}$$