引言:线性代数最美的定理
对角矩阵是"最简单"的算子:它把每个基向量各自独立地伸缩若干倍,别无其他动作。于是,一个自然的问题是:什么样的算子,在恰当的基下看起来如此简单?第 5 章 5.D 给出了第一个答案:\(T\) 可对角化,当且仅当 \(V\) 有由 \(T\) 的特征向量组成的基。然而那里的基可以是"歪"的——两个特征向量之间可以夹任意角度,长度也可以参差不齐。一旦我们生活在内积空间中,长度与角度有了几何意义,"歪基"就难以令人满意了。我们因此提出更强的要求:
何时 \(V\) 有由 \(T\) 的特征向量组成的标准正交基?等价地,何时 \(T\) 关于某组标准正交基具有对角矩阵?
这就是"正交对角化"问题,它的答案被称为谱定理 (spectral theorem)。定理分离散为两个版本,依系数域 \(\mathbf{F}\) 而定:
- 当 \(\mathbf{F}=\mathbf{C}\) 时,答案是正规算子(7.A 中的 7.18:\(TT^*=T^*T\));
- 当 \(\mathbf{F}=\mathbf{R}\) 时,答案是自伴算子(\(T=T^*\))。注意自伴算子自动正规,所以实版本是"前提更强、结论同样强"。
这两个定理——原书编号 7.29 与 7.31——被 Axler 列入他心目中全书最重要的十个结果。几何上,它们断言:自伴(或复正规)算子把单位球面映成椭球,而椭球的两两垂直的主轴方向恰好是特征向量方向,\(T\) 沿第 \(j\) 条主轴的伸缩倍数恰为特征值 \(\lambda_j\)。下图是 \(\mathbf{R}^2\) 上的情形:单位圆被一个对称矩阵映成椭圆,椭圆的长短轴相互垂直,正是一对正交的特征向量。
本节按第四版原书第 243–250 页展开,编号沿用原书:7.26、7.27 为实谱定理的准备结果,7.29 为实谱定理,7.30 为实矩阵例子,7.31 为复谱定理,7.33 为复矩阵例子。原书先证实谱定理、后证复谱定理;本页为便于由浅入深,先讲复情形,再讲实情形,编号与内容严格对应原书。此外,我们还会把谱定理改写成谱分解 (spectral decomposition) \(T=\sum_j \lambda_j P_j\) 的形式,并由此发展"对算子做函数运算"的演算。
复谱定理
复情形的证明要用到两件 7.A 与 6.B 的装备。其一,Schur 定理(6.38):复内积空间上的每个算子,都关于某组标准正交基具有上三角矩阵。其二,7.20:\(T\) 正规当且仅当对一切 \(v\) 有 \(\|Tv\|=\|T^*v\|\)。证明的策略是:先用 Schur 定理把矩阵变上三角,再用正规性把对角线以外的元素逐行"赶尽杀绝"。
设 \(\mathbf{F}=\mathbf{C}\) 且 \(T\in\mathcal{L}(V)\)。则下列条件等价:
- (a) \(T\) 正规;
- (b) \(T\) 关于 \(V\) 的某组标准正交基具有对角矩阵;
- (c) \(V\) 有由 \(T\) 的特征向量组成的标准正交基。
证明. 先证 (a) \(\Rightarrow\) (b)。设 \(T\) 正规。由 Schur 定理(6.38),存在 \(V\) 的标准正交基 \(e_1,\dots,e_n\),使 \(T\) 关于此基的矩阵 \(A=(a_{j,k})\) 为上三角,即 \(a_{j,k}=0\) 对 \(j>k\)。注意第 \(k\) 列记录的是 \(Te_k\):上三角意味着 \(Te_k=a_{1,k}e_1+\cdots+a_{k,k}e_k\)。
考察 \(e_1\)。由上三角性,\(Te_1=a_{1,1}e_1\),故
\[ \|Te_1\|^2=|a_{1,1}|^2. \]另一方面,由 7.9(标准正交基下,伴随的矩阵是原矩阵的共轭转置),\(T^*e_1\) 的坐标是 \(A\) 的第一行取共轭:
\[ T^*e_1=\overline{a_{1,1}}e_1+\overline{a_{1,2}}e_2+\cdots+\overline{a_{1,n}}e_n, \qquad \|T^*e_1\|^2=|a_{1,1}|^2+|a_{1,2}|^2+\cdots+|a_{1,n}|^2. \]因为 \(T\) 正规,由 7.20 得 \(\|Te_1\|=\|T^*e_1\|\)。比较两式,得 \(a_{1,2}=\cdots=a_{1,n}=0\):第一行除对角元外全为零。
再考察 \(e_2\)。此时 \(Te_2=a_{1,2}e_1+a_{2,2}e_2=a_{2,2}e_2\)(刚证得 \(a_{1,2}=0\)),故 \(\|Te_2\|^2=|a_{2,2}|^2\);而
\[ \|T^*e_2\|^2=|a_{2,2}|^2+|a_{2,3}|^2+\cdots+|a_{2,n}|^2, \]正规性再次给出 \(a_{2,3}=\cdots=a_{2,n}=0\)。如此继续:对一般的 \(j\),当前 \(j-1\) 行已清零,于是第 \(j\) 列中对角线以下的元素本为零、以上的元素 \(a_{1,j},\dots,a_{j-1,j}\) 又恰属于已清零的第 \(1,\dots,j-1\) 行,故 \(Te_j=a_{j,j}e_j\) 且
\[ |a_{j,j}|^2=\|Te_j\|^2=\|T^*e_j\|^2=|a_{j,j}|^2+|a_{j,j+1}|^2+\cdots+|a_{j,n}|^2, \]从而第 \(j\) 行的非对角元全为零。归纳地,\(A\) 的所有非对角元为零,\(A\) 是对角矩阵,(b) 成立。
再证 (b) \(\Rightarrow\) (a)。设 \(T\) 关于某组标准正交基的矩阵为对角阵 \(\Lambda\)。由 7.9,\(T^*\) 关于同一组基的矩阵是 \(\overline{\Lambda}^{\,\mathsf{T}}\)(即 \(\Lambda\) 的共轭转置),它仍是对角阵。两个对角阵相乘可交换,故 \(\mathcal{M}(TT^*)=\Lambda\overline{\Lambda}^{\,\mathsf{T}}=\overline{\Lambda}^{\,\mathsf{T}}\Lambda=\mathcal{M}(T^*T)\),从而 \(TT^*=T^*T\),\(T\) 正规。
最后,(b) 与 (c) 的等价是初等的:\(T\) 的矩阵是对角阵,当且仅当每个基向量满足 \(Te_k=\lambda_k e_k\)(见 5.55),也就是说基由特征向量组成。
证明中最精妙的一步是范数等式 \(\|Te_j\|=\|T^*e_j\|\) 的用法:它把"\(A\) 的第 \(j\) 列"与"\(A\) 的第 \(j\) 行"的长度锁在一起,而上三角性保证列中只有前 \(j\) 个元素可能非零,于是逐行清零如多米诺骨牌。另请注意,(a) \(\Rightarrow\) (b) 的结论同时给出了 (c):对角元 \(a_{j,j}\) 就是特征值。
设 \(T\in\mathcal{L}(\mathbf{C}^2)\) 为 \(T(w,z)=(2w-3z,\,3w+2z)\)。这是 7.A 中例 7.19 的算子,那里已直接验证 \(TT^*=T^*T\),即 \(T\) 正规。\(T\) 的标准矩阵为 \(\begin{pmatrix}2&-3\\3&2\end{pmatrix}\),特征多项式为
\[ \det\begin{pmatrix}2-\lambda&-3\\3&2-\lambda\end{pmatrix}=(2-\lambda)^2+9, \]故特征值为 \(\lambda=2\pm 3\mathrm{i}\)。解 \((T-(2+3\mathrm{i})I)(w,z)=0\):由 \(-3\mathrm{i}\,w-3z=0\) 得 \(z=-\mathrm{i}w\),取 \(w=\mathrm{i}\) 得特征向量 \((\mathrm{i},1)\)。同理解 \((T-(2-3\mathrm{i})I)(w,z)=0\):由 \(3\mathrm{i}\,w-3z=0\) 得 \(z=\mathrm{i}w\),取 \(w=-\mathrm{i}\) 得 \((-{\mathrm{i}},1)\)。二者范数均为 \(\sqrt2\),且
\[ \bigl\langle(\mathrm{i},1),\,(-{\mathrm{i}},1)\bigr\rangle=\mathrm{i}\cdot\overline{-\mathrm{i}}+1\cdot 1=\mathrm{i}\cdot\mathrm{i}+1=0, \]确实正交。于是
\[ \frac{(\mathrm{i},1)}{\sqrt2},\quad\frac{(-{\mathrm{i}},1)}{\sqrt2} \]是 \(\mathbf{C}^2\) 的由 \(T\) 的特征向量组成的标准正交基,\(T\) 关于它的矩阵为 \(\operatorname{diag}(2+3\mathrm{i},\,2-3\mathrm{i})\)。这正是复谱定理的断言:一个看似含"旋转"成分的正规算子,在恰当的标准正交基下不过是两个方向上的独立(复)伸缩。
矩阵语言:酉对角化
用矩阵的话说,复谱定理断言:\(n\times n\) 复矩阵 \(A\) 正规,当且仅当存在酉矩阵 (unitary matrix) \(U\)(即满足 \(U^*U=I\) 的矩阵,其列为 \(\mathbf{C}^n\) 的一组标准正交基)使
\[ A=U\Lambda U^*,\qquad \Lambda=\operatorname{diag}(\lambda_1,\dots,\lambda_n). \]实谱定理则断言:\(n\times n\) 实矩阵 \(A\) 对称(\(A=A^{\mathsf T}\)),当且仅当存在正交矩阵 (orthogonal matrix) \(Q\)(\(Q^{\mathsf T}Q=I\))使 \(A=Q\Lambda Q^{\mathsf T}\),\(\Lambda\) 为实对角阵。两种情形里,\(U\)(或 \(Q\))的列就是标准正交特征向量,\(\Lambda\) 的对角元依次为相应特征值——列的次序与特征值的次序必须配套。
务必把"酉相似"与第 5 章 5.D 的普通相似 \(A=S\Lambda S^{-1}\) 区分开:那里 \(S\) 只要求可逆,而谱定理的威力恰在于 \(S\) 可以取成酉(或正交)矩阵。酉相似保持内积与范数(\(|Ux|=|x|\)),因此对角化过程不扭曲任何几何结构——这是谱定理在几何与数值应用中好用的根源。练习 2 将给出一个可对角化却不能酉对角化的具体反例,以说明"可对角化"确实弱于"正规"。
实谱定理的两个准备结果
实情形的困难在于:实系数多项式可能没有实零点。例如 \(\mathbf{R}^2\) 上旋转 \(90^\circ\) 的算子就没有任何特征值(例 5.6),更谈不上对角化。复情形所依赖的"代数基本定理 + Schur 定理"通道,在 \(\mathbf{R}\) 上并不畅通。第四版原书采取了一条干净的路线:先证明自伴算子的极小多项式必为一次因子之积(7.27),再借助 6.37 得到标准正交基下的上三角表示,最后用转置论证把它压成对角。本小节完整给出两个准备结果。
第一个结果说:判别式为负的"二次多项式作用在自伴算子上"必可逆。它是实数域上"二次式恒取正值则无实根"这一事实的算子版,证明是一次漂亮的配方。
设 \(T\in\mathcal{L}(V)\) 自伴,\(b,c\in\mathbf{R}\) 满足 \(b^2<4c\)。则 \(T^2+bT+cI\) 可逆。
证明. 设 \(v\in V\) 非零。利用 \(T=T^*\)(从而 \(\langle T^2v,v\rangle=\langle Tv,Tv\rangle\))与内积的共轭线性性,再对交叉项用 Cauchy–Schwarz 不等式(6.14)估计 \(|b|\,|\langle Tv,v\rangle|\le |b|\,\|Tv\|\,\|v\|\),得
\[ \begin{aligned} \langle (T^2+bT+cI)v,\,v\rangle &=\langle Tv,Tv\rangle+b\langle Tv,v\rangle+c\|v\|^2\\ &\ge \|Tv\|^2-|b|\,\|Tv\|\,\|v\|+c\|v\|^2\\ &=\Bigl(\|Tv\|-\tfrac{|b|}{2}\|v\|\Bigr)^{2}+\Bigl(c-\tfrac{b^2}{4}\Bigr)\|v\|^2\;>\;0, \end{aligned} \]其中最后一步用了 \(c-b^2/4>0\) 与 \(v\ne0\)。因此 \((T^2+bT+cI)v\ne0\)。由 \(v\) 的任意性,\(T^2+bT+cI\) 是单射,而在有限维空间上单射即可逆(3.65)。
配方在此出现的并非偶然:数值不等式 \(\|Tv\|^2-|b|\,\|Tv\|\,\|v\|+c\|v\|^2>0\) 正对应二次三项式 \(t^2-|b|t+c\) 判别式为负、恒正的情形。自伴性是关键——它保证了 \(\langle T^2v,v\rangle=\|Tv\|^2\) 这一步,几何上相当于说"\(T\) 不含旋转成分"。
第二个结果把我们带向极小多项式。回忆:极小多项式是次数最低的首一零化多项式(定义 5.25,存在唯一性见 5.23 与 5.26),其零点恰为特征值(5.28);而实多项式可分解为一次因式与判别式为负的二次因式之积(推论 4.14)。
设 \(T\in\mathcal{L}(V)\) 自伴。则 \(T\) 的极小多项式形如
\[ (z-\lambda_1)(z-\lambda_2)\cdots(z-\lambda_m),\qquad \lambda_1,\dots,\lambda_m\in\mathbf{R}. \]证明. 若 \(\mathbf{F}=\mathbf{C}\):极小多项式的零点都是特征值(5.28),自伴算子的特征值全是实数(7.12),而代数基本定理(4.10,推论 4.11)保证首一多项式可完全分解为一次因子之积,结论得证。
若 \(\mathbf{F}=\mathbf{R}\):由实系数多项式的分解定理(推论 4.14),\(T\) 的极小多项式 \(p\) 可写成
\[ p(z)=(z-\lambda_1)\cdots(z-\lambda_m)\,(z^2+b_1z+c_1)\cdots(z^2+b_Nz+c_N), \]其中 \(\lambda_k,b_k,c_k\in\mathbf{R}\),且每个二次因子满足 \(b_k^2<4c_k\)(不可约)。把这一多项式代入 \(T\) 得零算子:
\[ (T-\lambda_1 I)\cdots(T-\lambda_m I)\,(T^2+b_1T+c_1I)\cdots(T^2+b_NT+c_NI)=0. \]假设 \(N>0\)。最后一个因子 \(T^2+b_NT+c_NI\) 可逆(7.26,因 \(b_N^2<4c_N\)),而所有因子都是 \(T\) 的多项式、彼此可交换,故在等式两式右乘 \((T^2+b_NT+c_NI)^{-1}\),得一个次数降低两次的零化多项式。这与极小多项式的极小性矛盾。故 \(N=0\),即 \(p\) 只含一次因子。
由此立即得到一个并非平凡的事实:实内积空间上的自伴算子必有(实)特征值——极小多项式次数至少为一,其任一零点 \(\lambda_1\) 都是特征值。旋转 \(90^\circ\) 之所以逃脱,正因为它不自伴;7.26 的配方恰恰排除了这种"纯旋转块"。
实谱定理
现在给出并证明本节的主定理之一。证明要用到 6.B 的结果 6.37,我们把它复述为:\(V\) 上的算子 \(T\) 关于某组标准正交基具有上三角矩阵,当且仅当 \(T\) 的极小多项式是一次因子之积 \((z-\lambda_1)\cdots(z-\lambda_m)\)。(它是定理 5.47 的上三角化与 6.32 的 Gram–Schmidt 正交化的综合:先取上三角化的基,再对其作标准正交化,上三角形状不变。)
设 \(\mathbf{F}=\mathbf{R}\) 且 \(T\in\mathcal{L}(V)\)。则下列条件等价:
- (a) \(T\) 自伴;
- (b) \(T\) 关于 \(V\) 的某组标准正交基具有对角矩阵;
- (c) \(V\) 有由 \(T\) 的特征向量组成的标准正交基。
证明. (a) \(\Rightarrow\) (b):设 \(T\) 自伴。由 7.27,\(T\) 的极小多项式为 \((z-\lambda_1)\cdots(z-\lambda_m)\),\(\lambda_j\in\mathbf{R}\),全为一次因子;由 6.37,\(T\) 关于某组标准正交基 \(e_1,\dots,e_n\) 具有上三角矩阵 \(A=\mathcal{M}(T)\)。因为这组基标准正交且 \(\mathbf{F}=\mathbf{R}\),由 7.9,\(T^*\) 的矩阵是 \(A\) 的转置:\(\mathcal{M}(T^*)=A^{\mathsf T}\)。但 \(T^*=T\),故
\[ A=A^{\mathsf T}. \]一个既上三角又等于自身转置的矩阵必为对角阵:若 \(j>k\),上三角性给出 \(a_{j,k}=0\);若 \(j<k\),则由对称性 \(a_{j,k}=a_{k,j}\),而 \(a_{k,j}\) 位于下三角位置(\(k>j\)),故为零。于是所有非对角元为零,(b) 成立。
(b) \(\Rightarrow\) (a):设 \(T\) 关于某组标准正交基的矩阵为对角阵 \(\Lambda\)。对角阵等于其转置,而由 7.9 有 \(\mathcal{M}(T^*)=\Lambda^{\mathsf T}=\Lambda=\mathcal{M}(T)\),故 \(T^*=T\)。
(b) 与 (c) 的等价同复情形,由 5.55 即得。
比较一下两个谱定理的证明是件有趣的事。复谱定理的负担全压在 Schur 定理与逐行范数估计上;实谱定理的负担则压在代数一侧——7.26 与 7.27 排除了二次不可约因子,此后"上三角 + 对称 = 对角"几乎不费一兵一卒。
第三版及更早的教材用归纳法证明实谱定理,需要先构造一维或二维不变子空间、再对二维自伴限制做旋转–伸缩分析以找到实特征向量;第四版改为上面的极小多项式路线,原书前言明确将这一简化列为新版改进之一。本页遵循第四版路线,以上证明完整无跳步。
设 \(T\in\mathcal{L}(\mathbf{R}^3)\) 在标准基下的矩阵为
\[ A=\begin{pmatrix}14&-13&8\\-13&14&8\\8&8&-7\end{pmatrix}, \]\(A\) 对称,故由实谱定理应可用正交矩阵对角化。我们完整地做一遍。特征多项式为
\[ \det(\lambda I-A)=\lambda^3-21\lambda^2-297\lambda+3645=(\lambda-27)(\lambda-9)(\lambda+15), \](可作核验:\(\operatorname{tr}A=21=27+9-15\);三个行向量之和均为 \((9,9,9)\),说明 \(9\) 是特征值,与因式分解一致。)于是特征值为 \(27,9,-15\)。逐一解齐次方程组 \((A-\lambda I)v=0\):
- \(\lambda=27\):由 \(A-27I\) 的第一、三行得 \(-13x-13y+8z=0\) 与 \(8x+8y-34z=0\),联立解得 \(z=0,\;y=-x\),取特征向量 \((1,-1,0)\);直接验算 \(A(1,-1,0)=(27,-27,0)=27(1,-1,0)\)。
- \(\lambda=9\):\(A-9I\) 的前两行相减得 \(x=y\),再代回得 \(z=x\),取特征向量 \((1,1,1)\);验算 \(A(1,1,1)=(9,9,9)\)。
- \(\lambda=-15\):\(A+15I\) 的第三行给出 \(x+y+z=0\),取 \((1,1,-2)\);验算 \(A(1,1,-2)=(-15,-15,30)=-15(1,1,-2)\)。
三个特征向量两两内积为零(不同特征值,自动正交——见练习 6),范数依次为 \(\sqrt2,\sqrt3,\sqrt6\),故
\[ \frac{(1,-1,0)}{\sqrt2},\qquad \frac{(1,1,1)}{\sqrt3},\qquad \frac{(1,1,-2)}{\sqrt6} \]是 \(\mathbf{R}^3\) 的由 \(T\) 的特征向量组成的标准正交基。把它们排成列,得正交矩阵
\[ Q=\begin{pmatrix}\tfrac{1}{\sqrt2}&\tfrac{1}{\sqrt3}&\tfrac{1}{\sqrt6}\\[2pt] -\tfrac{1}{\sqrt2}&\tfrac{1}{\sqrt3}&\tfrac{1}{\sqrt6}\\[2pt] 0&\tfrac{1}{\sqrt3}&-\tfrac{2}{\sqrt6}\end{pmatrix}, \qquad Q^{\mathsf T}AQ=\operatorname{diag}(27,\,9,\,-15), \]即 \(A=Q\operatorname{diag}(27,9,-15)\,Q^{\mathsf T}\)。注意特征值的次序与 \(Q\) 中列的次序一一对应;交换列的同时须相应交换对角元。
正交对角化的具体演算
实谱定理保证了正交对角化的存在性,而实际计算按"特征多项式 \(\to\) 特征值 \(\to\) 各特征空间的标准正交基 \(\to\) 组装 \(Q\) 与 \(\Lambda\)"进行。下面两个例子分别展示二维的几何演算与重特征值下 Gram–Schmidt 的必要性。
设
\[ A=\begin{pmatrix}\tfrac74&\tfrac{\sqrt3}{4}\\[2pt]\tfrac{\sqrt3}{4}&\tfrac54\end{pmatrix},\qquad \operatorname{tr}A=3,\quad \det A=2, \]故特征多项式为 \(\lambda^2-3\lambda+2=(\lambda-1)(\lambda-2)\),特征值 \(\lambda_1=2,\lambda_2=1\)。解 \((A-2I)v=0\):由 \(-x+\sqrt3\,y=0\) 得特征向量 \((\sqrt3,1)\);解 \((A-I)v=0\):由 \(\sqrt3\,x+y=0\) 得特征向量 \((1,-\sqrt3)\)。归一化并统一取向,取
\[ u_1=\Bigl(\tfrac{\sqrt3}{2},\,\tfrac12\Bigr)\ (\text{对应 }2),\qquad u_2=\Bigl(-\tfrac12,\,\tfrac{\sqrt3}{2}\Bigr)\ (\text{对应 }1), \]满足 \(\langle u_1,u_2\rangle=0\)、\(\|u_1\|=\|u_2\|=1\)。于是
\[ Q=\begin{pmatrix}\tfrac{\sqrt3}{2}&-\tfrac12\\[2pt]\tfrac12&\tfrac{\sqrt3}{2}\end{pmatrix} \ \text{是旋转 }30^\circ\text{ 的正交矩阵},\qquad A=Q\begin{pmatrix}2&0\\0&1\end{pmatrix}Q^{\mathsf T}. \]几何解读:\(A\) 把 \(u_1\) 方向拉长为 \(2\) 倍、\(u_2\) 方向保持不变,因此把单位圆映成半轴为 \(2\) 与 \(1\) 的椭圆,主轴沿 \(u_1,u_2\),正如图 1。配二次型亦然:令 \((x,y)^{\mathsf T}=Q(s,t)^{\mathsf T}\)(正交坐标变换,保持长度与角度),则
\[ (x,y)\,A\,(x,y)^{\mathsf T}=2s^2+t^2, \]交叉项 \(xy\) 被彻底消去——这正是二次型"主轴变换"的最小样本,第 9 章 9.A 将把它系统化。
设
\[ A=\begin{pmatrix}3&1&1\\1&3&1\\1&1&3\end{pmatrix}=2I+J,\qquad J=\text{全 }1\text{ 矩阵}. \]由 \(J(1,1,1)^{\mathsf T}=3(1,1,1)^{\mathsf T}\) 且 \(Jv=0\) 当且仅当各分量之和为零,立即读出特征值:\(5\)(特征向量 \((1,1,1)\))与 \(2\)(二重,特征空间为平面 \(E(2)=\{x_1+x_2+x_3=0\}\))。也可由特征多项式 \((5-\lambda)(2-\lambda)^2\) 核验。\(\lambda=5\) 的单位特征向量取 \(e_3=(1,1,1)/\sqrt3\)。关键在 \(E(2)\) 内部:\(E(2)\) 的一组基为
\[ w_1=(1,-1,0),\qquad w_2=(1,0,-1),\qquad \langle w_1,w_2\rangle=1\ne0, \]并不正交——同一特征空间内的特征向量不会自动正交,必须手动施行 Gram–Schmidt(6.32)。计算:
\[ f_2=w_2-\frac{\langle w_2,w_1\rangle}{\|w_1\|^2}\,w_1=(1,0,-1)-\tfrac12(1,-1,0)=\Bigl(\tfrac12,\,\tfrac12,\,-1\Bigr)\propto(1,1,-2). \]归一化得
\[ e_1=\frac{(1,-1,0)}{\sqrt2},\qquad e_2=\frac{(1,1,-2)}{\sqrt6},\qquad e_3=\frac{(1,1,1)}{\sqrt3}, \]三者两两正交(可逐对验算内积为零),构成 \(\mathbf{R}^3\) 的标准正交基。组装
\[ Q=\begin{pmatrix}\tfrac{1}{\sqrt2}&\tfrac{1}{\sqrt6}&\tfrac{1}{\sqrt3}\\[2pt] -\tfrac{1}{\sqrt2}&\tfrac{1}{\sqrt6}&\tfrac{1}{\sqrt3}\\[2pt] 0&-\tfrac{2}{\sqrt6}&\tfrac{1}{\sqrt3}\end{pmatrix}, \qquad Q^{\mathsf T}AQ=\operatorname{diag}(2,\,2,\,5). \]这个例子说明谱定理的使用细则:不同特征值的特征向量之间正交性是白送的(7.22 的直接推论,亦见练习 6),重根内部则要用 Gram–Schmidt 补齐。反过来,若你发现某个"对称矩阵的特征向量"彼此不正交且无法用 Gram–Schmidt 补救(特征空间维数不足),那必定是计算出了错——实谱定理保证了这种情形绝不会发生。
谱分解与函数演算
谱定理最有用的改写方式,是把 \(T\) 表为相互正交的投影的加权和。设 \(T\) 满足谱定理的条件(复正规或实自伴),其互异特征值为 \(\lambda_1,\dots,\lambda_m\),特征空间为 \(E(\lambda_j,T)=\operatorname{null}(T-\lambda_jI)\)。以 \(P_j\) 记 \(V\) 到 \(E(\lambda_j,T)\) 上的正交投影 (orthogonal projection)(6.55):\(P_jv\in E(\lambda_j,T)\) 且 \(v-P_jv\perp E(\lambda_j,T)\)。
在上述记号下:
- (i) 当 \(j\ne k\) 时,\(E(\lambda_j,T)\perp E(\lambda_k,T)\),从而 \(P_jP_k=0\);而 \(P_j^2=P_j=P_j^*\);
- (ii) \(V=E(\lambda_1,T)\oplus\cdots\oplus E(\lambda_m,T)\)(正交直和),且 \(P_1+\cdots+P_m=I\);
- (iii) \(T=\lambda_1P_1+\cdots+\lambda_mP_m\)。
证明要点. (i) 前半是 7.22(正规算子关于不同特征值的特征向量正交;自伴算子正规)。于是 \(P_k\) 的值域含于 \(P_j\) 的零空间,\(P_jP_k=0\)。投影的自伴性与幂等性见 6.57。(ii) 由谱定理取一标准正交特征基,按所属特征值把它分组,则每组恰为相应特征空间的标准正交基,故 \(\sum_j\dim E(\lambda_j,T)=\dim V\);再由不同特征空间的和为直和(特征向量的线性无关性,5.11),得正交直和分解。对任意 \(v\),记 \(v=\sum_j v_j\)(\(v_j\in E(\lambda_j,T)\)),则 \(v_j=P_jv\),求和即 \(P_1+\cdots+P_m=I\)。(iii) 对每个 \(v_j\) 有 \(Tv_j=\lambda_jv_j\),故 \(Tv=\sum_j\lambda_jv_j=\sum_j\lambda_jP_jv\),即 \(T=\sum_j\lambda_jP_j\)。
矩阵语言下,把各特征空间的标准正交基合并成 \(Q\),则 \(Q^*AQ=\operatorname{diag}(\lambda_1I_{d_1},\dots,\lambda_mI_{d_m})\)(\(d_j=\dim E(\lambda_j,T)\));若 \(Q_j\) 是 \(E(\lambda_j,T)\) 的标准正交基排成的列,则 \(P_j\) 的矩阵是 \(Q_jQ_j^*\)。投影的三个性质——幂等、自伴、两两正交(\(P_jP_k=0\))——使得"按特征空间切块、各块独立运算"成为可能。
谱分解立即给出函数演算 (functional calculus):对任意定义在 \(\{\lambda_1,\dots,\lambda_m\}\) 上的函数 \(f\),定义
\[ f(T):=\sum_{j=1}^{m} f(\lambda_j)\,P_j. \]当 \(f\) 是多项式 \(p\) 时,这与第 5 章的多项式演算一致:对 \(v\in E(\lambda_j,T)\) 有 \(p(T)v=p(\lambda_j)v\),线性组合即得;一般函数则由拉格朗日插值多项式补位——任何只在谱上有定义的函数都与某个在谱上取相同值的多项式给出同一个算子。于是"对 \(T\) 做函数运算"变得合法而简单:
- 幂:\(T^{100}=\sum_j\lambda_j^{100}P_j\)(练习 4 的捷径);指数:\(\mathrm{e}^{T}=\sum_j\mathrm{e}^{\lambda_j}P_j\);
- 逆:\(T\) 可逆当且仅当诸 \(\lambda_j\ne0\),此时 \(T^{-1}=\sum_j\lambda_j^{-1}P_j\);
- 极小多项式:\(\prod_{j=1}^{m}(T-\lambda_jI)=0\) 且任少一个因子都不为零,故满足谱定理条件的算子,其极小多项式恰为 \(\prod_j(z-\lambda_j)\)。
特别地,当 \(T\) 自伴且诸 \(\lambda_j\ge0\) 时,\(\sqrt{T}:=\sum_j\sqrt{\lambda_j}\,P_j\) 满足 \((\sqrt T)^2=T\)——这正是 7.C 中正算子平方根的来源,那里还将证明这样的正平方根唯一。
应用、展望与历史注记
实谱定理最经典的应用是化简二次型。设 \(A\) 为 \(n\times n\) 实对称矩阵,二次型 \(q(x)=x^{\mathsf T}Ax=\langle Ax,x\rangle\)。取正交矩阵 \(Q\) 使 \(Q^{\mathsf T}AQ=\Lambda=\operatorname{diag}(\lambda_1,\dots,\lambda_n)\),作正交变量代换 \(x=Qy\)(它保持长度与角度,只是把坐标架旋转到特征方向),则
\[ q(x)=y^{\mathsf T}\Lambda y=\lambda_1y_1^2+\cdots+\lambda_ny_n^2, \]一切交叉项消失。几何上,若 \(A\) 正定,等值面 \(\{q=1\}\) 是椭球,其半轴长 \(1/\sqrt{\lambda_j}\) 沿特征方向——图 1 的椭圆就是 \(n=2\) 的情形。解析几何中化二次曲线、二次曲面为标准形的"主轴变换",本质就是实谱定理。第 9 章 9.A(原书 9.23:实内积空间上对称双线性型的对角化)将以实谱定理为核心引擎,把这套方法推广到一般的双线性型与二次型。
本节之后,谱定理将成为常备工具。7.C 定义正算子(自伴且特征值全非负),并利用谱分解证明每个正算子都有唯一的正平方根 \(\sqrt T=\sum_j\sqrt{\lambda_j}P_j\);7.D 刻画等距算子与酉算子——例如酉算子恰是"正规且特征值模均为 \(1\)"的算子,并由此导出 QR 分解与 Cholesky 分解;再往后(7.E)的奇异值分解,则是把谱定理应用于 \(T^*T\) 的产物。可以说,本章后半的一切都与本节两个定理直接相连。
实对称矩阵可正交对角化的事实可追溯至 Cauchy(1829)关于主轴定理的研究;"谱 (spectrum)"这一名称则由 Hilbert 在二十世纪初研究积分方程时引入——他注意到对称核积分算子的特征值序列离散分布,宛如原子光谱,遂以德文 Spektrum 称之。Hilbert 与 Schmidt 关于对称核的系统性工作(后世称 Hilbert–Schmidt 理论)把谱定理从矩阵推向无穷维,直接孕育了泛函分析。有限维情形虽只是这段历史的一枚切片,但其陈述之干净、证明之初等(如我们所见,不借助行列式,两个定理各占一页),正是本书书名"Done Right"的注脚。
练习
练习 7.B-1
设 \(V\) 是有限维复内积空间,\(T\in\mathcal{L}(V)\) 正规。证明:\(T\) 自伴当且仅当 \(T\) 的所有特征值都是实数。(对照原书练习 7B 第 1 题)
解答/提示若 \(T=T^*\),则特征值全是实数(7.12)。反之,设特征值 \(\lambda_1,\dots,\lambda_n\in\mathbf{R}\)。由复谱定理(7.31)取标准正交特征基 \(e_1,\dots,e_n\),则 \(Te_k=\lambda_ke_k\);又正规算子满足:\(Tv=\lambda v\) 当且仅当 \(T^*v=\overline{\lambda}v\)(7.21(e)),而 \(\overline{\lambda_k}=\lambda_k\),故 \(T^*e_k=\lambda_ke_k=Te_k\)。两个线性算子在基上取值相同,故 \(T^*=T\),即 \(T\) 自伴。
练习 7.B-2
举出一个 \(\mathbf{C}^2\) 上的算子:它关于某组基可对角化,但不是正规算子。(对照原书练习 7B 第 5 题)
解答/提示取 \(T(w,z)=(z,z)\),标准矩阵 \(A=\begin{pmatrix}0&1\\0&1\end{pmatrix}\)。解 \(T(w,z)=0\) 得 \(E(0,T)=\operatorname{span}((1,0))\);解 \(T(w,z)=(w,z)\) 得 \(E(1,T)=\operatorname{span}((1,1))\)。两组特征向量合起来是 \(\mathbf{C}^2\) 的基,故 \(T\) 可对角化。但 \(\langle(1,0),(1,1)\rangle=1\ne0\),两个特征向量不正交;正规算子关于不同特征值的特征向量必正交(7.22),故 \(T\) 不正规。也可直接计算:\(TT^*\) 与 \(T^*T\) 的标准矩阵分别为 \(\begin{pmatrix}1&1\\1&1\end{pmatrix}\) 与 \(\begin{pmatrix}0&0\\0&2\end{pmatrix}\),确不相等。这个例子同时说明:谱定理中"标准正交"三字缺一不可,可对角化远弱于可酉对角化。
练习 7.B-3
设 \(T\in\mathcal{L}(V)\) 自伴,且 \(T\) 的特征值只有 \(2\) 和 \(3\)。证明 \(T^2-5T+6I=0\)。(对照原书练习 7B 第 21 题)
解答/提示由实谱定理(7.29),取 \(V\) 的由 \(T\) 的特征向量组成的标准正交基 \(e_1,\dots,e_n\),每个 \(\lambda_k\in\{2,3\}\)。多项式 \(z^2-5z+6=(z-2)(z-3)\),故对每个基向量
\[(T^2-5T+6I)e_k=(\lambda_k-2)(\lambda_k-3)e_k=0.\]
线性组合即得 \(T^2-5T+6I=0\)。另一条路:该式说明 \((z-2)(z-3)\) 零化 \(T\),故极小多项式整除它;又 \(2,3\) 都是特征值,极小多项式同时被 \((z-2)\) 与 \((z-3)\) 整除(5.27(a)),故极小多项式恰为 \((z-2)(z-3)\),从而零化 \(T\)。
练习 7.B-4
设 \(A=\begin{pmatrix}2&-1&-1\\-1&2&-1\\-1&-1&2\end{pmatrix}\)。写出 \(A\) 的谱分解 \(A=\sum_j\lambda_jP_j\)(给出每个 \(P_j\) 的矩阵),并计算 \(A^{100}\)。
解答/提示注意 \(A=3I-J\),其中 \(J\) 是全 \(1\) 矩阵。由 \(J(1,1,1)^{\mathsf T}=3(1,1,1)^{\mathsf T}\),得 \(A(1,1,1)^{\mathsf T}=0\);在平面 \(\{x_1+x_2+x_3=0\}\) 上 \(Jv=0\),故 \(Av=3v\)。于是特征值为 \(0\)(单,\(E(0)=\operatorname{span}((1,1,1))\))与 \(3\)(二重,\(E(3)=\{x_1+x_2+x_3=0\}\))。投影矩阵为
\[P_0=\frac13\,J=\frac13\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix},\qquad P_3=I-\frac13\,J.\]
谱分解为 \(A=0\cdot P_0+3P_3=3P_3\)。由函数演算,\(A^{100}=0^{100}P_0+3^{100}P_3=3^{100}\bigl(I-\tfrac13J\bigr)=3^{100}I-3^{99}J\)。可核验:\(P_0^2=\tfrac19J^2=\tfrac13J=P_0\),\(P_0P_3=0\),一切与谱分解的性质相符。
练习 7.B-5
设 \(V\) 是有限维复内积空间。证明:\(T\in\mathcal{L}(V)\) 等于某个子空间 \(U\) 上的正交投影 \(P_U\),当且仅当 \(T\) 正规且 \(T\) 的所有特征值都属于 \(\{0,1\}\)。(对照原书练习 7B 第 3 题)
解答/提示若 \(T=P_U\):正交投影自伴(6.57),故正规;又 \(P_U^2=P_U\),故若 \(Tv=\lambda v\)(\(v\ne0\)),则 \(\lambda^2v=P_U^2v=P_Uv=\lambda v\),得 \(\lambda\in\{0,1\}\)。反之,设 \(T\) 正规且特征值均在 \(\{0,1\}\) 中。由复谱定理与谱分解,\(V=E(0,T)\oplus E(1,T)\)(正交直和;若 \(1\) 不是特征值则 \(E(1,T)=\{0\}\))。取 \(U=E(1,T)\)。任意 \(v=v_0+v_1\)(\(v_j\in E(\lambda_j,T)\)),则 \(Tv=v_1\),而按正交投影的定义 \(P_Uv=v_1\)。故 \(T=P_U\)。
练习 7.B-6
设 \(A\) 是实对称矩阵,\(\lambda\ne\mu\) 是 \(A\) 的两个特征值,\(Au=\lambda u\)、\(Av=\mu v\)(\(u,v\ne0\))。只用内积公理与 \(A=A^{\mathsf T}\),证明 \(\langle u,v\rangle=0\)。
解答/提示在实内积空间中,对任意向量 \(x,y\) 有 \(\langle Ax,y\rangle=x^{\mathsf T}A^{\mathsf T}y=x^{\mathsf T}Ay=\langle x,Ay\rangle\)。于是
\[\lambda\langle u,v\rangle=\langle\lambda u,v\rangle=\langle Au,v\rangle=\langle u,Av\rangle=\langle u,\mu v\rangle=\mu\langle u,v\rangle,\]
其中最后一个等号用了实内积的对称性。移项得 \((\lambda-\mu)\langle u,v\rangle=0\),而 \(\lambda\ne\mu\),故 \(\langle u,v\rangle=0\)。这解释了正交对角化演算中"不同特征值的特征向量自动正交"的现象;重特征值的特征空间内部则需要 Gram–Schmidt(见例 4)。