通过线性变换的对角化，哪怕是对于一些看似非线性代数的问题，只要能按照以下流程，都可以被解决

• 构造出线性空间
• 找到某种条件对应的线性变换
• 通过对角化，用新的语言描述这一条件
• 回推到原问题中给出结果

# 线性递推数列

令 $V = \mathbb R^\mathbb N$，即所有实数数列
其中的元（数列）可以表示为（同时也可以作为列向量）

$$\boldsymbol a = \{a_n\}_{n \in \mathbb N} = (a_1, a_2, a_3, \ldots)$$

不难验证，对于任意两个元 $\boldsymbol a, \boldsymbol b \in V$，以及任意数 $k \in \mathbb R$

• 加法 $\boldsymbol a + \boldsymbol b := \{a_n + b_n\}_{n \in \mathbb N} \quad$
• 数乘 $k \boldsymbol a := \{k a_n\}_{n \in \mathbb N} \quad$

都仍然属于 $V$，并且满足线性空间的公理。所以 $V$ 是一个实线性空间

• 零元定义为 $\boldsymbol 0 = (0, 0, 0, \ldots)$

任取实数 $p,q \in \mathbb R$。定义 $V$ 中拥有基于 $p,q$ 的线性递推式的数列全体

$$W := \{\boldsymbol a \in V \mid a_{n+2} = p a_{n+1} + q a_n, \forall n \in \mathbb N\}$$

显然 $\boldsymbol 0 \in W$
任取 $\boldsymbol a, \boldsymbol b \in W$，则

$$\begin{aligned} a_{n+2} + b_{n+2} &= p a_{n+1} + q a_n + p b_{n+1} + q b_n \\ &= p (a_{n+1} + b_{n+1}) + q (a_n + b_n) \\ k a_{n+2} &= p (k a_{n+1}) + q (k a_n) \end{aligned}$$

所以 $W$ 在加法与数乘下封闭，成为 $V$ 的子空间

定义数列

$$\begin{cases} \boldsymbol e_1 := (1, 0, q, pq, p^2 q + q^2, \ldots) \\ \boldsymbol e_2 := (0, 1, p, p^2 + q, p^3 + 2 p q, \ldots) \end{cases}$$

建立线性方程组

$$\begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 \end{pmatrix} \begin{pmatrix} c_1 \\ c_2 \end{pmatrix} = \boldsymbol 0$$

整理等式

$$\begin{cases} c_1 \cdot 1 + c_2 \cdot 0 = 0 \\ c_1 \cdot 0 + c_2 \cdot 1 = 0 \\ c_1 \cdot q + c_2 \cdot p = 0 \\ \vdots \end{cases}$$

对比前两项不难看出，方程唯一解为 $c_1 = c_2 = 0$，所以 $\boldsymbol e_1, \boldsymbol e_2$ 线性无关

任取元 $\boldsymbol w \in W$，注意前两项具有如下关系

$$\begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 \end{pmatrix} \begin{pmatrix} w_1 \\ w_2 \end{pmatrix} = \begin{pmatrix} w_1 \\ w_2 \end{pmatrix}$$

根据 $W$ 的定义，已知数列前两项后即可以唯一确定元 $\boldsymbol w$ 的所有项，所以

$$\boldsymbol w = w_1 \boldsymbol e_1 + w_2 \boldsymbol e_2$$

因此 $\boldsymbol e_1, \boldsymbol e_2$ 张成 $W$
综上所述，$\mathscr E = \begin{pmatrix}\boldsymbol e_1 & \boldsymbol e_2\end{pmatrix}$ 构成 $W$ 的一组基底，且 $\dim W = 2$

目前该基只反映了基础的递推关系，并没有提供额外信息。为了解决实际问题需要找到更漂亮的基，要求它可以反映出 $W$ 直和分解的构造，为此需要使用对角化

定义映射为去除掉数列的第一项

$$f: W \to W, \quad (a_1, a_2, a_3, \ldots) \mapsto (a_2, a_3, a_4, \ldots)$$

对于任意的 $\boldsymbol a, \boldsymbol b \in W$ 以及 $k \in \mathbb R$，都有

$$\begin{aligned} f(\boldsymbol a + \boldsymbol b) &= (a_2 + b_2, a_3 + b_3, \ldots) = f(\boldsymbol a) + f(\boldsymbol b) \\ f(k \boldsymbol a) &= (k a_2, k a_3, \ldots) = k f(\boldsymbol a) \end{aligned}$$

所以 $f$ 是 $W$ 上的线性变换

现计算基的映射值，通过基的坐标可以表示为

$$\begin{aligned} f(\boldsymbol e_1) &= (0, q, p q, p^2 q + q^2, \ldots) = 0 \cdot \boldsymbol e_1 + q \cdot \boldsymbol e_2 \\ f(\boldsymbol e_2) &= (1, p, p^2 + q, p^3 + 2 p q, \ldots) = 1 \cdot \boldsymbol e_1 + p \cdot \boldsymbol e_2 \end{aligned}$$

所以 $f$ 关于基 $\{\boldsymbol e_1, \boldsymbol e_2\}$ 的矩阵表示为

$$T = \begin{pmatrix}0 & 1 \\ q & p \end{pmatrix}$$

计算特征多项式

$$F_T(\lambda) = \begin{vmatrix}-\lambda & 1 \\ q & p - \lambda \end{vmatrix} = \lambda^2 - p \lambda - q$$

对于特征值 $\lambda$，通过解方程 $(\lambda E - T) \boldsymbol x = \boldsymbol 0$ 得出特征多项式

$$\begin{pmatrix} \lambda & -1 \\ -q & \lambda - p \end{pmatrix} \xrightarrow{\text{Rref}} \begin{pmatrix} \lambda & -1 \\ 0 & 0 \end{pmatrix} \to \boldsymbol p = \begin{pmatrix} 1 \\ \lambda \end{pmatrix}$$

不失一般性，可以假设解出了两个相异的非零特征值 $\alpha, \beta$，则可以得到新的基向量

$$\boldsymbol u_1 = \begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 \end{pmatrix} \begin{pmatrix} 1 \\ \alpha \end{pmatrix} = \boldsymbol e_1 + \alpha \boldsymbol e_2,\quad \boldsymbol u_2 = \begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 \end{pmatrix} \begin{pmatrix} 1 \\ \beta \end{pmatrix} = \boldsymbol e_1 + \beta \boldsymbol e_2$$

此时 $\mathscr U := \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix}$ 也是 $W$ 的一组基底
整理成矩阵形式可以得到

$$\begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} = \begin{pmatrix} \boldsymbol e_1 & \boldsymbol e_2 \end{pmatrix} \begin{pmatrix} 1 & 1 \\ \alpha & \beta \end{pmatrix}$$

所以

$$P := \begin{pmatrix} 1 & 1 \\ \alpha & \beta \end{pmatrix}$$

为从基 $\mathscr E$ 到基 $\mathscr U$ 的过渡矩阵
这是一个更加漂亮的正交基，因为两个基向量之间互不干涉

根据对角化的计算，可以得到

$$\begin{aligned} \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix}^{-1} \cdot T \cdot \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} &= \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix} \\ \begin{pmatrix} f(\boldsymbol u_1) & f(\boldsymbol u_2) \end{pmatrix} &= \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix} \end{aligned}$$

所以，矩阵

$$D := \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix}$$

为映射 $f$ 关于基 $\{\boldsymbol u_1, \boldsymbol u_2\}$ 的矩阵表示

$$\begin{aligned} f(\boldsymbol u_1) &= \alpha \boldsymbol u_1 \implies (u_1^2, u_1^3, u_1^4, \ldots) = (\alpha u_1^1, \alpha u_1^2, \alpha u_1^3, \ldots) \\ f(\boldsymbol u_2) &= \beta \boldsymbol u_2 \implies (u_2^2, u_2^3, u_2^4, \ldots) = (\beta u_2^1, \beta u_2^2, \beta u_2^3, \ldots) \end{aligned}$$

解得通项

$$\begin{cases} u_1^n = \alpha^{n-1} u_1^1 = \alpha^{n-1} \\ u_2^n = \beta^{n-1} u_2^1 = \beta^{n-1} \end{cases}$$

这样一来，通过坐标变换，对于任意的 $\boldsymbol w \in W$，都有

$$[\boldsymbol w]_{\mathscr U} = P^{-1} [\boldsymbol w]_{\mathscr E} = \frac{1}{\beta - \alpha} \begin{pmatrix} \beta & -1 \\ -\alpha & 1 \end{pmatrix} \begin{pmatrix} w_1 \\ w_2 \end{pmatrix} = \frac{1}{\beta - \alpha} \begin{pmatrix} \beta w_1 - w_2 \\ -\alpha w_1 + w_2 \end{pmatrix}$$

这样一来，代入 $\mathscr U$ 的基向量通项公式，可以得到数列 $\boldsymbol w$ 的通项公式

$$\begin{aligned} \boldsymbol w &= \frac{\beta w_1 - w_2}{\beta - \alpha} \boldsymbol u_1 + \frac{-\alpha w_1 + w_2}{\beta - \alpha} \boldsymbol u_2 \\ \implies w_n &= \frac{\beta w_1 - w_2}{\beta - \alpha} \alpha^{n-1} + \frac{-\alpha w_1 + w_2}{\beta - \alpha} \beta^{n-1} \end{aligned}$$

# 线性微分方程

同时含有函数 $y = f(x)$ 及其导数 $y' = \frac{dy}{dx}$ 的方程称为 微分方程
令 $V := C^\infty(\mathbb R)$，即所有在实数域上无限可微的函数全体，不难验证其在函数加法与数乘下构成实线性空间

任取实数 $p,q \in \mathbb R$。定义 $V$ 中拥有基于 $p,q$ 的线性微分方程全体

$$W := \{y \in V \mid \frac{d^2 y}{dx^2} = p \frac{d y}{dx} + q y\}$$

显然零函数 $y = 0$ 属于 $W$
任取 $y_1, y_2 \in W$，以及 $k \in \mathbb R$，则

$$\begin{aligned} \frac{d^2}{dx^2} (y_1 + y_2) &= \frac{d^2 y_1}{dx^2} + \frac{d^2 y_2}{dx^2} = p \frac{d y_1}{dx} + q y_1 + p \frac{d y_2}{dx} + q y_2 \\ &= p \frac{d}{dx} (y_1 + y_2) + q (y_1 + y_2) \\ \frac{d^2}{dx^2} (k y_1) &= k \frac{d^2 y_1}{dx^2} = k (p \frac{d y_1}{dx} + q y_1) = p \frac{d}{dx} (k y_1) + q (k y_1) \end{aligned}$$

所以 $W$ 在加法与数乘下封闭，成为 $V$ 的子空间

定义函数 $y_1, y_2 \in W$，使得

$$\begin{cases} y_1(1) = 1, \quad y_1'(1) = 0 \\ y_2(1) = 0, \quad y_2'(1) = 1 \end{cases}$$

建立线性方程组

$$\begin{pmatrix} y_1 & y_2 \end{pmatrix} \begin{pmatrix} c_1 \\ c_2 \end{pmatrix} = 0$$

整理等式

$$\begin{cases} c_1 \cdot y_1(1) + c_2 \cdot y_2(1) = 0 \\ c_1 \cdot y_1'(1) + c_2 \cdot y_2'(1) = 0 \\ \vdots \end{cases}$$

对比前两项不难看出，方程唯一解为 $c_1 = c_2 = 0$，所以 $y_1, y_2$ 线性无关

任取函数 $y \in W$，则

$$\begin{pmatrix} y_1 & y_2 \end{pmatrix} \begin{pmatrix} y(1) \\ y'(1) \end{pmatrix} = \begin{pmatrix} y(1) \\ y'(1) \end{pmatrix}$$

根据 $W$ 的递推式定义，将 $y$ 代换为 $\frac{dy}{dx}$ 则可以获得 $\frac{d^3 y}{dx^3}$ 的取值，依此类推，可以唯一确定 $y$ 的所有阶导数值，所以可以唯一确定函数 $y$，因此

$$y = y(1) y_1 + y'(1) y_2$$

因此 $ {y_1, y_2} $ 张成 $W$
综上所述，$\mathscr Y = \begin{pmatrix} y_1 & y_2 \end{pmatrix}$ 构成 $W$ 的一组基底，且 $\dim W = 2$

现在寻找更漂亮的基
定义映射为求导

$$f: W \to C^\infty(\mathbb R), \quad y \mapsto \frac{d y}{dx}$$

对于任意的 $y_1, y_2 \in W$ 以及 $k \in \mathbb R$，都有

$$\begin{aligned} f(y_1 + y_2) &= \frac{d}{dx} (y_1 + y_2) = \frac{d y_1}{dx} + \frac{d y_2}{dx} = f(y_1) + f(y_2) \\ f(k y_1) &= \frac{d}{dx} (k y_1) = k \frac{d y_1}{dx} = k f(y_1) \end{aligned}$$

所以这是线性映射。
另外，对于任意 $y \in W$，定义给出 $y$ 满足

$$\frac{d^2 y}{dx^2} = p \frac{d y}{dx} + q y$$

对其两边同时微分，得到

$$\frac{d^2}{dx^2} \left( \frac{d y}{dx} \right) = p \frac{d}{dx} \left( \frac{d y}{dx} \right) + q \frac{d y}{dx}$$

这意味着 $\dfrac{d y}{dx} \in W$，所以 $f$ 是 $W$ 上的线性变换

现计算基的映射值

$$\begin{aligned} f(y_1) &= y_1' \implies \begin{cases} y_1'(1) = 0 \\ y_1''(1) = p \cdot y_1'(1) + q \cdot y_1(1) = q \end{cases} \\ f(y_2) &= y_2' \implies \begin{cases} y_2'(1) = 1 \\ y_2''(1) = p \cdot y_2'(1) + q \cdot y_2(1) = p \end{cases} \end{aligned}$$

所以 $f$ 关于基 $\mathscr Y = \begin{pmatrix} y_1 & y_2 \end{pmatrix}$ 的矩阵表示为

$$T = \begin{pmatrix} 0 & 1 \\ q & p \end{pmatrix}$$

计算特征多项式

$$F_T(\lambda) = \begin{vmatrix} -\lambda & 1 \\ q & p - \lambda \end{vmatrix} = \lambda^2 - p \lambda - q$$

对于特征值 $\lambda$，通过解方程 $(\lambda E - T) \boldsymbol x = \boldsymbol 0$ 得出特征多项式

$$\begin{pmatrix} \lambda & -1 \\ -q & \lambda - p \end{pmatrix} \xrightarrow{\text{Rref}} \begin{pmatrix} \lambda & -1 \\ 0 & 0 \end{pmatrix} \to \boldsymbol p = \begin{pmatrix} 1 \\ \lambda \end{pmatrix}$$

不失一般性，可以假设解出了两个相异的非零特征值 $\alpha, \beta$，则可以得到新的基向量

$$\begin{aligned} \boldsymbol u_1 &= \begin{pmatrix} y_1 & y_2 \end{pmatrix} \begin{pmatrix} 1 \\ \alpha \end{pmatrix} = y_1 + \alpha y_2, \\ \boldsymbol u_2 &= \begin{pmatrix} y_1 & y_2 \end{pmatrix} \begin{pmatrix} 1 \\ \beta \end{pmatrix} = y_1 + \beta y_2 \end{aligned}$$

此时 $\mathscr U := \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix}$ 也是 $W$ 的一组基底
整理成矩阵形式可以得到

$$\begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} = \begin{pmatrix} y_1 & y_2 \end{pmatrix} \begin{pmatrix} 1 & 1 \\ \alpha & \beta \end{pmatrix}$$

所以

$$P := \begin{pmatrix} 1 & 1 \\ \alpha & \beta \end{pmatrix}$$

为从基 $\mathscr Y$ 到基 $\mathscr U$ 的过渡矩阵

根据对角化的计算，可以得到

$$\begin{aligned} \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix}^{-1} \cdot T \cdot \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} &= \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix} \\ \begin{pmatrix} f(\boldsymbol u_1) & f(\boldsymbol u_2) \end{pmatrix} &= \begin{pmatrix} \boldsymbol u_1 & \boldsymbol u_2 \end{pmatrix} \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix} \end{aligned}$$

所以，矩阵

$$D := \begin{pmatrix} \alpha & 0 \\ 0 & \beta \end{pmatrix}$$

为映射 $f$ 关于基 $\{\boldsymbol u_1, \boldsymbol u_2\}$ 的矩阵表示

$$\begin{aligned} f(\boldsymbol u_1) &= \alpha \boldsymbol u_1 \implies \left( \frac{d u_1}{dx} \right) = \alpha u_1 \\ f(\boldsymbol u_2) &= \beta \boldsymbol u_2 \implies \left( \frac{d u_2}{dx} \right) = \beta u_2 \end{aligned}$$

对等式两边同时积分，解得通项

$$\begin{aligned} \int \frac{1}{u_1} d u_1 &= \int \alpha d x \implies \ln |u_1| = \alpha x + C_1 \implies u_1 = C_1 e^{\alpha x} \\ \int \frac{1}{u_2} d u_2 &= \int \beta d x \implies \ln |u_2| = \beta x + C_2 \implies u_2 = C_2 e^{\beta x} \end{aligned}$$

由于积分中出现的常数 $C_1, C_2$ 是任意的，所以任意函数 $y \in W$ 都可以表示为通解

$$y(x) = C_1 e^{\alpha x} + C_2 e^{\beta x}$$

通过联立初期方程可以解得常数获得特解。假设初始条件为 $a,b$，那么

$$\begin{cases} a = y(0) = C_1 + C_2 \\ b = y'(0) = \alpha C_1 + \beta C_2 \end{cases} \implies \begin{cases} C_1 = \frac{b - \beta a}{\alpha - \beta} \\ C_2 = \frac{\alpha a - b}{\alpha - \beta} \end{cases}$$

# 二次型

任意的二次曲线都可以通过正交矩阵的对角化，改写为标准形式，称为 二次型 (Quadratic Form)「二次形式」

一般的，二次曲线指的是形如

$$f(x,y) = a x^2 + b x y + c y^2 + d x + e y + f = 0$$

的曲线，其中系数 $a,b,c,d,e,f \in \mathbb R$，且不全为零

在学习过矩阵后，对任意方程都应该产生联想：是否可以用矩阵表示
定义二次系数矩阵 $A$，变量矩阵 $\boldsymbol x$，一次系数矩阵 $B$

$$A = \begin{pmatrix} a & \frac{b}{2} \\ \frac{b}{2} & c \end{pmatrix}, \quad \boldsymbol x = \begin{pmatrix} x \\ y \end{pmatrix}, \quad B = \begin{pmatrix} d & e \end{pmatrix}$$

则二次曲线可以表示为

$${}^t \boldsymbol x A \boldsymbol x + B \boldsymbol x + f = 0$$

不难看出 $A$ 是实对称矩阵，所以可以由正交矩阵 $P$ 对角化，将上述方程改写为

$${}^t \boldsymbol x P P^{-1} A P P^{-1} \boldsymbol x + B P P^{-1} \boldsymbol x + f = 0$$

令 $\lambda_1, \lambda_2$ 为 $A$ 的特征值，设

$$B P = \begin{pmatrix} d' & e' \end{pmatrix}, \quad P^{-1} \boldsymbol x = \begin{pmatrix} x' \\ y' \end{pmatrix}$$

则二次曲线可以表示为

$$\lambda_1 {x'}^2 + \lambda_2 {y'}^2 + d' x' + e' y' + f = 0$$

通过配方，可以将其改写为标准形式

$$\lambda_1 X^2 + \lambda_2 Y^2 + k = 0$$

其中（实际上只需要关注 $k$ 的表达式）

$$\begin{cases} X = x' + \dfrac{d'}{2 \lambda_1} \\[10pt] Y = y' + \dfrac{e'}{2 \lambda_2} \\[10pt] k = f - \dfrac{d'^2}{4 \lambda_1} - \dfrac{e'^2}{4 \lambda_2} \end{cases}$$

宏观上，这是通过换元来实现更加漂亮的结构。对角化可以轻松地找出代换的系数
基于初等数学知识，不难看出

• 若 $\lambda_1$ 或者 $\lambda_2$ 有一方为零，则曲线为抛物线
• 若 $\lambda_1, \lambda_2$ 同号
  • $\lambda_1 k \lt 0$ 时，曲线为椭圆
  • $\lambda_1 k \gt 0$ 时，曲线为空集
  • $k = 0$ 时，曲线为单点
• 若 $\lambda_1, \lambda_2$ 异号
  • $k \neq 0$ 时，曲线为双曲线
  • $k = 0$ 时，曲线为两条相交直线

标准型实际上是在维持曲线形状不变的情况下，对坐标系进行旋转与平移，从而得到的更加简洁的表达形式

• 不妨在画图软件中看看两个曲线形状是不是一样的