6.C 正交补与最小化问题

证明.(a) 对每个 \(u\in U\) 都有 \(\langle u,0\rangle=0\),故 \(0\in U^\perp\)。设 \(v,w\in U^\perp\)。对任意 \(u\in U\),\(\langle u,v+w\rangle=\langle u,v\rangle+\langle u,w\rangle=0+0=0\),故 \(v+w\in U^\perp\)。同理,对 \(\lambda\in\mathbb{F}\)、\(v\in U^\perp\),有 \(\langle u,\lambda v\rangle=\lambda\langle u,v\rangle=0\)(第二个槽共轭线性),故 \(\lambda v\in U^\perp\)。所以 \(U^\perp\) 对加法与数乘封闭,是 \(V\) 的子空间。

(b) 设 \(v\in V\)。由 \(\langle 0,v\rangle=0\) 得 \(v\in\{0\}^\perp\),故 \(\{0\}^\perp=V\)。

(c) 设 \(v\in V^\perp\)。则 \(\langle v,v\rangle=0\),由内积的定性 (definiteness) 得 \(v=0\),故 \(V^\perp=\{0\}\)。

(d) 设 \(u\in U\cap U^\perp\)。则 \(\langle u,u\rangle=0\),故 \(u=0\),即 \(U\cap U^\perp\subseteq\{0\}\)。

(e) 设 \(v\in H^\perp\),则 \(\langle u,v\rangle=0\) 对每个 \(u\in H\) 成立;由 \(G\subseteq H\),该式尤其对每个 \(u\in G\) 成立,故 \(v\in G^\perp\)。证毕。

证明.先证 \(V=U+U^\perp\)。设 \(v\in V\),取 \(U\) 的标准正交基 \(e_1,\dots,e_m\)(存在性由 6.B 的 6.35 保证)。把 \(v\) 拆成

显然 \(u\in U\)。对每个 \(k\),利用第一槽的线性与标准正交性,

故 \(w\) 与 \(e_1,\dots,e_m\) 的所有线性组合正交,即 \(w\in U^\perp\)。于是每个 \(v\in V\) 都可写成 \(U\) 中向量加 \(U^\perp\) 中向量,得 \(V=U+U^\perp\)。

再由 6.48(d) 知 \(U\cap U^\perp\subseteq\{0\}\),结合 1.46 即得 \(V=U\oplus U^\perp\)。证毕。

证明.由 6.49 有 \(V=U\oplus U^\perp\),再由直和的维数公式(3.C 的 3.94)得 \(\dim V=\dim U+\dim U^\perp\),移项即得。证毕。

证明.先证 \(U\subseteq(U^\perp)^\perp\):设 \(u\in U\),则对每个 \(w\in U^\perp\) 有 \(\langle u,w\rangle=0\)(这正是 \(U^\perp\) 的定义),故 \(u\) 与 \(U^\perp\) 中每个向量正交,即 \(u\in(U^\perp)^\perp\)。

再证反包含:设 \(v\in(U^\perp)^\perp\)。由 6.49 可写 \(v=u+w\),其中 \(u\in U\)、\(w\in U^\perp\)。于是 \(v-u=w\in U^\perp\);又 \(v\in(U^\perp)^\perp\) 且 \(u\in(U^\perp)^\perp\)(刚证的正包含),故 \(v-u\in(U^\perp)^\perp\)。从而 \(v-u\in U^\perp\cap(U^\perp)^\perp\),由 6.48(d)(把那里的 \(U\) 换成 \(U^\perp\))得 \(v-u=0\),即 \(v=u\in U\)。故 \((U^\perp)^\perp\subseteq U\),两个包含合起来即得结论。证毕。

证明.若 \(U^\perp=\{0\}\),则由 6.52 与 6.48(b),\(U=(U^\perp)^\perp=\{0\}^\perp=V\)。反之,若 \(U=V\),则由 6.48(c),\(U^\perp=V^\perp=\{0\}\)。证毕。

证明.以下反复使用:每个 \(v\in V\) 有唯一分解 \(v=u+w\),\(u\in U\)、\(w\in U^\perp\),且 \(P_Uv=u\)。

(a) 设 \(v_1=u_1+w_1\)、\(v_2=u_2+w_2\)(相应分解)。则 \(v_1+v_2=(u_1+u_2)+(w_1+w_2)\),前一括号属于 \(U\),后一括号属于 \(U^\perp\)(子空间),故 \(P_U(v_1+v_2)=u_1+u_2=P_Uv_1+P_Uv_2\)。同理,由 \(\lambda v=\lambda u+\lambda w\) 得 \(P_U(\lambda v)=\lambda u=\lambda P_Uv\)。故 \(P_U\) 线性。

(b) 设 \(u\in U\),则 \(u=u+0\) 是合法分解(\(0\in U^\perp\)),故 \(P_Uu=u\)。

(c) 设 \(w\in U^\perp\),则 \(w=0+w\) 是合法分解,故 \(P_Uw=0\)。

(d) 定义显然给出 \(\operatorname{range}P_U\subseteq U\);又 (b) 给出 \(U\subseteq\operatorname{range}P_U\),故相等。

(e) 由 (c) 得 \(U^\perp\subseteq\operatorname{null}P_U\)。反之,设 \(v\in\operatorname{null}P_U\),即分解 \(v=u+w\) 中 \(u=0\),于是 \(v=w\in U^\perp\),故 \(\operatorname{null}P_U\subseteq U^\perp\)。

(f) 若 \(v=u+w\) 如上,则 \(v-P_Uv=v-u=w\in U^\perp\)。

(g) 若 \(v=u+w\) 如上,则 \(P_U^2v=P_U(P_Uv)=P_Uu=u=P_Uv\)(用 (b))。

(h) 若 \(v=u+w\) 如上,则由 \(u\perp w\) 与勾股定理,

开方即得。

(i) 在定理 6.49 的证明中已得到分解 \(v=\sum_{k}\langle v,e_k\rangle e_k+w\),其中前一项属于 \(U\)、\(w\in U^\perp\)。由分解的唯一性,前一项就是 \(P_Uv\),即 \(P_Uv=\sum_{k=1}^{m}\langle v,e_k\rangle e_k\)。证毕。

证明(满射部分).设 \(\varphi\in V'\)。若 \(\varphi=0\),则 \(\varphi=\varphi_0\)。设 \(\varphi\ne0\),则 \(\operatorname{null}\varphi\ne V\),于是由 6.49(取 \(U=\operatorname{null}\varphi\))得 \(V=\operatorname{null}\varphi\oplus(\operatorname{null}\varphi)^\perp\),从而 \((\operatorname{null}\varphi)^\perp\ne\{0\}\)。取非零的 \(w\in(\operatorname{null}\varphi)^\perp\)。由 \(w\ne0\) 与 \((\operatorname{null}\varphi)\cap(\operatorname{null}\varphi)^\perp=\{0\}\) 知 \(w\notin\operatorname{null}\varphi\),故 \(\varphi(w)\ne0\)。令

则 \(v\in(\operatorname{null}\varphi)^\perp\)、\(v\ne0\),且直接计算得 \(\varphi(v)=\dfrac{\overline{\varphi(w)}}{\|w\|^2}\varphi(w)=\dfrac{|\varphi(w)|^2}{\|w\|^2}=\|v\|^2\)。

现在设 \(u\in V\)。把 \(u\) 拆成

第一个括号作用于 \(\varphi\) 得 \(\varphi(u)-\frac{\varphi(u)}{\varphi(v)}\varphi(v)=0\),故它属于 \(\operatorname{null}\varphi\),从而与 \(v\in(\operatorname{null}\varphi)^\perp\) 正交。对上式两边与 \(v\) 作内积(第一槽线性),得

即 \(\varphi=\varphi_v\),满射得证。单射部分与 6.42 中的论证相同:若 \(\varphi_{v_1}=\varphi_{v_2}\),则 \(\langle u,v_1-v_2\rangle=0\) 对一切 \(u\) 成立,取 \(u=v_1-v_2\) 得 \(v_1=v_2\)。证毕。

证明.由 6.57(f) 知 \(v-P_Uv\in U^\perp\);又 \(P_Uv-u\in U\)。两向量互相垂直,由勾股定理,

其中第一步是因为 \(\|P_Uv-u\|^2\ge0\),第二步是勾股定理,第三步是恒等式 \((v-P_Uv)+(P_Uv-u)=v-u\)。开方即得欲证不等式。

等号成立当且仅当链条第一步取等号,即 \(\|P_Uv-u\|^2=0\),即 \(u=P_Uv\)。证毕。

证明.设 \(v\in(\operatorname{null}T)^\perp\) 且该限制把 \(v\) 送到 0,则 \(Tv=0\),即 \(v\in(\operatorname{null}T)\cap(\operatorname{null}T)^\perp\),由 6.48(d) 得 \(v=0\),故限制是单射。值域方面,设 \(w\in\operatorname{range}T\),取 \(v\in V\) 使 \(w=Tv\);由 6.49 写 \(v=u+x\),\(u\in\operatorname{null}T\)、\(x\in(\operatorname{null}T)^\perp\),则限制把 \(x\) 送到 \(Tx=Tv-Tu=w-0=w\),故限制是满射到 \(\operatorname{range}T\)。证毕。

证明.(a) 此时 \((\operatorname{null}T)^\perp=V\)、\(\operatorname{range}T=W\),限制就是 \(T\),\(P_{\operatorname{range}T}\) 是恒等算子,故 \(T^{\dagger}=T^{-1}\)。

(b) 设 \(w\in\operatorname{range}T\),则 \(TT^{\dagger}w=T\bigl(T|_{(\operatorname{null}T)^\perp}\bigr)^{-1}w=w=P_{\operatorname{range}T}w\);设 \(w\in(\operatorname{range}T)^\perp\),则 \(P_{\operatorname{range}T}w=0\),故 \(T^{\dagger}w=0\),两边都等于 0。两个线性算子在 \(W=\operatorname{range}T\oplus(\operatorname{range}T)^\perp\) 的两块上一致(6.49),故相等。

(c) 设 \(v\in(\operatorname{null}T)^\perp\),则 \(Tv\in\operatorname{range}T\),由定义 \(T^{\dagger}(Tv)=v=P_{(\operatorname{null}T)^\perp}v\);设 \(v\in\operatorname{null}T\),则 \(T^{\dagger}Tv=0=P_{(\operatorname{null}T)^\perp}v\)。再由 \(V=\operatorname{null}T\oplus(\operatorname{null}T)^\perp\) 与线性性得两算子相等。证毕。

证明.(a) 拆 \(Tx-b=(Tx-TT^{\dagger}b)+(TT^{\dagger}b-b)\):第一项属于 \(\operatorname{range}T\);由 6.69(b),第二项属于 \((\operatorname{range}T)^\perp\)(6.57(f))。由勾股定理,\(\|TT^{\dagger}b-b\|\le\|Tx-b\|\),等号当且仅当第一项为零,即 \(T(x-T^{\dagger}b)=0\),即 \(x\in T^{\dagger}b+\operatorname{null}T\)。

(b) 设 \(x-T^{\dagger}b\in\operatorname{null}T\)。由定义 \(T^{\dagger}b\in(\operatorname{null}T)^\perp\),对分解 \(x=(x-T^{\dagger}b)+T^{\dagger}b\) 用勾股定理即得,等号当且仅当 \(x-T^{\dagger}b=0\)。证毕。