特征值与特征向量：寻找线性变换的不变方向

学习目标

一般向量经过线性变换后会同时改变长度和方向，但某些特殊方向只发生伸缩或翻转。特征向量标出这些方向，特征值给出对应比例。本章从定义推导特征方程，讨论重数与对角化，并说明谱信息怎样简化矩阵幂、动力系统和对称二次型。

先修知识

应会计算矩阵乘法、零空间和行列式，理解线性变换与换基。求特征向量本质上要解齐次方程 $(A-\lambda I)\mathbf v=\mathbf0$；若不熟悉自由变量，可先复习

线性方程组 与 高斯消元。

本章主要讨论实方阵。实矩阵可能具有复特征值，例如平面非平凡旋转没有实不变直线；遇到这种情况应扩展到复向量空间，而不是声称矩阵“没有特征值”。

不变方向的直觉

把一张带网格的纸经过剪切，大多数箭头会转向，但沿横轴的箭头可能仍留在横轴上；把平面沿两个坐标方向分别缩放，每条坐标轴都是不变方向。目标是寻找变换前后位于同一直线的非零向量，向量的位置或长度可以改变。

比例可以为正、负或零。正特征值保持方向并缩放，负特征值翻转方向，零特征值把非零特征向量压到零。若比例绝对值大于一，反复作用会在该方向放大；小于一则衰减。

定义与特征空间

定义

设 $A\in\mathbb R^{n\times n}$。若存在非零向量 $\mathbf v$ 和标量 $\lambda$ 使

$$A\mathbf v=\lambda\mathbf v,$$

则称 $\lambda$ 是 $A$ 的特征值，$\mathbf v$ 是对应特征向量。所有满足该等式的向量连同零向量构成特征空间

$$E_\lambda=\ker(A-\lambda I).$$

定义排除零向量作为特征向量，因为零向量对任意 $\lambda$ 都满足等式，无法提供方向信息；特征空间为了保持子空间结构必须包含零向量。若 $\mathbf v$ 是特征向量，则任何非零倍数 $c\mathbf v$ 也是同一特征值的特征向量，所以真正重要的是由它张成的方向或更高维特征子空间。

从方向条件到特征多项式

把定义移项得到

$$(A-\lambda I)\mathbf v=\mathbf0.$$

要存在非零解，矩阵 $A-\lambda I$ 必须不可逆。由行列式判据，必要且充分条件为

$$p_A(\lambda)=\det(A-\lambda I)=0.$$

$p_A$ 称为特征多项式。它是 $n$ 次多项式，因此在复数域计重数恰有 $n$ 个根。求根只给出候选特征值；对每个根仍须求 $A-\lambda I$ 的零空间，才能得到特征向量。

示例一：计算二阶矩阵的特征对

计算二阶矩阵的特征对

设

$$A=\begin{bmatrix}4&1\\2&3\end{bmatrix}.$$

特征方程为

$$\det(A-\lambda I) =(4-\lambda)(3-\lambda)-2 =\lambda^2-7\lambda+10 =(\lambda-5)(\lambda-2)=0.$$

对 $\lambda=5$，方程 $(A-5I)\mathbf v=0$ 给出 $-x+y=0$，可取 $\mathbf v_1=(1,1)^\mathsf T$。对 $\lambda=2$，有 $2x+y=0$，可取 $\mathbf v_2=(1,-2)^\mathsf T$。直接相乘可核对 $A\mathbf v_1=5\mathbf v_1$、 $A\mathbf v_2=2\mathbf v_2$。

代数重数与几何重数

特征值作为特征多项式根出现的次数称为代数重数；特征空间维数 $\dim E_\lambda$ 称为几何重数。对每个特征值都有

$$1\le \dim E_\lambda\le\text{代数重数}.$$

下界来自特征值定义；上界反映重复根能够提供的独立特征向量数量有限。不同特征值对应的特征向量必线性无关。证明可用归纳：若 $c_1\mathbf v_1+cdots+c_k\mathbf v_k=0$，对等式作用 $A-\lambda_k I$，最后一项消失，其余项系数乘以非零的 $\lambda_i-\lambda_k$；由归纳假设其余系数全为零，再得 $c_k=0$。

因此，一个 $n\times n$ 矩阵若拥有 $n$ 个互异特征值，就自动拥有 $n$ 个线性无关特征向量。但特征值重复时，是否有足够特征向量还需检查几何重数。

对角化

若存在由特征向量组成的基 $\mathbf v_1,ldots,\mathbf v_n$，把它们作为列组成 $P$，并令 $D=\operatorname{diag}(\lambda_1,ldots,\lambda_n)$，则

$$AP=[A\mathbf v_1\ \cdots\ A\mathbf v_n] =[\lambda_1\mathbf v_1\ \cdots\ \lambda_n\mathbf v_n] =PD.$$

$P$ 可逆，所以

$$A=PDP^{-1}.$$

这称为对角化。它表示换到特征向量基后，复杂线性变换只剩各坐标独立缩放。矩阵可对角化当且仅当所有特征空间维数之和为 $n$，也就是能找到 $n$ 个线性无关特征向量。

反例

矩阵

$$J=\begin{bmatrix}1&1\\0&1\end{bmatrix}$$

的特征多项式为 $(1-\lambda)^2$，唯一特征值 $1$ 的代数重数为二。但 $J-I=\begin{bmatrix}0&1\\0&0\end{bmatrix}$ 的零空间只有所有 $(x,0)^\mathsf T$，几何重数为一。它缺少第二个独立特征向量，因此不可对角化。重复特征值本身不会导致失败；失败来自特征空间维数不足。

示例二：用对角化计算矩阵幂

用对角化计算矩阵幂

沿用前例的矩阵 $A$。取

$$P=\begin{bmatrix}1&1\\1&-2\end{bmatrix}, \qquad D=\begin{bmatrix}5&0\\0&2\end{bmatrix},$$

则 $A=PDP^{-1}$。因此

$$A^k=PD^kP^{-1} =P\begin{bmatrix}5^k&0\\0&2^k\end{bmatrix}P^{-1}.$$

直接重复乘 $A$ 需要逐次矩阵乘法；对角形式只需对两个标量乘方。随着 $k$ 增大，若初始向量在 $\lambda=5$ 的特征方向上分量非零，该方向通常以 $5^k$ 主导增长。

实对称矩阵的谱定理

若 $A=A^\mathsf T$ 为实对称矩阵，则所有特征值都为实数，不同特征值的特征向量彼此正交，并且存在正交矩阵 $Q$ 使

$$A=Q\Lambda Q^\mathsf T,$$

其中 $\Lambda$ 为实对角矩阵，$Q^\mathsf TQ=I$。这比一般对角化更强，因为换基矩阵的逆就是转置，长度和夹角在换基中保持。

不同特征值对应向量正交可直接证明。若 $A\mathbf u=\lambda\mathbf u$、 $A\mathbf v=\mu\mathbf v$，由对称性

$$\lambda\mathbf u^\mathsf T\mathbf v =(A\mathbf u)^\mathsf T\mathbf v =\mathbf u^\mathsf TA\mathbf v =\mu\mathbf u^\mathsf T\mathbf v.$$

当 $\lambda\neq\mu$ 时，只能有 $\mathbf u^\mathsf T\mathbf v=0$。重复特征值的特征空间内部还可用正交化选出正交基。

谱定理使二次型变得透明：若 $\mathbf x=Q\mathbf y$，则

$$\mathbf x^\mathsf TA\mathbf x =\mathbf y^\mathsf T\Lambda\mathbf y =\sum_i\lambda_i y_i^2.$$

所以所有特征值为正等价于二次型对每个非零向量都为正，这正是正定矩阵的核心判据。

动力系统与稳定性

离散线性系统 $\mathbf x_{k+1}=A\mathbf x_k$ 满足 $\mathbf x_k=A^k\mathbf x_0$。若矩阵可对角化，把初始状态分解为特征向量 $\mathbf x_0=\sum_i c_i\mathbf v_i$，则

$$\mathbf x_k=\sum_i c_i\lambda_i^k\mathbf v_i.$$

每个方向独立按 $\lambda_i^k$ 演化。全部特征值绝对值小于一时，各方向衰减；存在绝对值大于一且初始状态含该方向分量时，状态增长；负特征值还会引入逐步翻转。等于一或不可对角化的边界情况需要进一步分析，不能只看最大绝对值后立刻断言所有轨迹行为。

二维系统的长期方向

令 $A=\operatorname{diag}(0.5,1.2)$，初始状态 $\mathbf x_0=(4,1)^\mathsf T$。第 $k$ 步为

$$\mathbf x_k=(4\cdot0.5^k,1.2^k)^\mathsf T.$$

第一坐标趋于零，第二坐标增长，所以归一化后的方向逐渐靠近纵轴。若初始状态恰为 $(4,0)^\mathsf T$，增长方向没有分量，轨迹反而衰减。主导特征值描述一般方向的长期趋势，不会凭空产生初始状态中完全缺失的特征分量。

应用与解释边界

主成分分析对协方差矩阵作特征分解，最大特征值对应数据方差最大的正交方向；耦合振动把简正模写成矩阵特征向量；Markov 链用特征值一对应平稳方向，并由其他特征值控制收敛速度。这些应用共享同一代数结构，但矩阵的来源、内积、单位和归一化各不相同。

特征向量不是“数据中最重要的特征”的通用同义词。非对称矩阵的特征向量可能不正交，病态矩阵的特征向量对扰动可能非常敏感，缺陷矩阵甚至没有完整特征基。矩阵近似对称或数据含噪时，应报告算法、误差和稳定性，而不是只给出若干小数。

常见误区

常见误区

“任意非零向量都是某个特征向量。”一个向量只有在输出与自身共线时才是特征向量。对固定矩阵，满足条件的方向通常只是整个空间中的少数子空间。

常见误区

“特征值就是矩阵对角线元素。”三角矩阵的特征值确实是对角元素；一般矩阵必须求特征多项式。相似变换可以改变对角元素，却保持特征值。

常见误区

“拥有重复特征值就不能对角化。”单位矩阵只有一个重复特征值，却有整个空间作为特征空间，当然可对角化。应比较代数重数和几何重数，而不是只看是否重复。

代码：幂迭代估计主导特征方向

export function powerIteration(
  matrix: readonly (readonly number[])[],
  initial: readonly number[],
  steps: number,
): { value: number; vector: number[] } {
  let vector = [...initial];
  for (let step = 0; step < steps; step += 1) {
    const next = matrix.map((row) =>
      row.reduce((sum, value, index) => sum + value * vector[index], 0),
    );
    const norm = Math.hypot(...next);
    if (norm === 0) throw new Error("Iteration reached the zero vector.");
    vector = next.map((value) => value / norm);
  }
  const applied = matrix.map((row) =>
    row.reduce((sum, value, index) => sum + value * vector[index], 0),
  );
  const value = vector.reduce((sum, entry, index) => sum + entry * applied[index], 0);
  return { value, vector };
}

幂迭代只有在主导特征值按绝对值严格占优、初始向量含相应方向分量等条件下才可靠收敛。它不能替代通用特征值算法；对非对称、缺陷或谱间隔很小的矩阵还需更稳健的方法和残差检查。

练习

练习标记完成

求矩阵 $A=\begin{bmatrix}3&0\\0&-2\end{bmatrix}$ 的全部特征值和特征空间，并解释反复作用时两个坐标方向的行为。

查看解答

特征值为 $3$ 与 $-2$。对应特征空间分别是横轴和纵轴。横向分量每步乘三，保持方向；纵向分量每步乘负二，大小加倍且每步翻转。长期大小通常由绝对值更大的 $3$ 对应方向主导。

练习标记完成

判断 $B=\begin{bmatrix}2&1\\0&2\end{bmatrix}$ 是否可对角化。写出代数重数和几何重数。

查看解答

特征多项式为 $(2-\lambda)^2$，代数重数为二。 $B-2I=\begin{bmatrix}0&1\\0&0\end{bmatrix}$ 的零空间只有 $(x,0)^\mathsf T$，几何重数为一。独立特征向量不足两个，因此不可对角化。

练习标记完成

设实对称矩阵 $A$ 的特征值为 $-1,2,5$。不求具体特征向量，判断 $A$ 是否可逆、是否正定，并说明 $\det A$ 的符号。

查看解答

三个特征值都非零，所以矩阵可逆。存在负特征值，二次型在对应方向为负，因此不正定。行列式等于特征值乘积 $(-1)\cdot2\cdot5=-10$，符号为负。

与其他知识的关系

• 线性变换 给出“方向保持不变”的几何对象。
• 行列式 把非零齐次解条件转化为特征方程。
• 正定矩阵 用对称矩阵特征值判断二次型符号。
• 奇异值分解 将特征分解推广为适用于任意矩形矩阵的正交轴向缩放。
• Markov 链 和 耦合振子 分别在概率演化与物理模态中使用谱结构。

资源

lecture · 2011

MIT 18.06SC Linear Algebra

Gilbert Strang

提供线性代数核心概念的完整课程顺序、例题、习题和考试材料。

打开官方来源

MIT OpenCourseWare 18.06SC 系统讲解特征值、特征向量、对角化、微分方程和对称矩阵，是本章计算方法与结构结论的主要延伸材料。

lecture · 2010

MIT 18.02SC Multivariable Calculus

Denis Auroux

把线性代数对象用于几何与多变量问题，并提供例题、习题和解答。

打开官方来源

MIT OpenCourseWare 18.02SC 提供二次型、曲面和多变量线性近似的几何背景，可帮助理解对称矩阵特征方向如何成为主轴。特征方程与对角化的严格论证仍以线性代数课程为主。

下一步

继续学习 奇异值分解，比较特征分解与任意矩形矩阵的主方向；若关注曲率与优化，则进入

正定矩阵 和 Hessian 矩阵。在物理方向，可把特征向量解释为 耦合振子 的简正模。