动机:把「双线性」变成「线性」
本章前三节研究的多重线性对象——双线性型 (9.A)、交错多重线性型 (9.B)、行列式 (9.C)——都是「对每个变元分别线性」的函数。换言之,它们都是双线性映射类思想的实例:定义在笛卡尔积 \(V\times W\) 上、关于两个变元分别线性,而作为整体不是线性映射。这不是措辞问题:\(V\times W\) 虽然带有乘积向量空间结构 (原书 3.E),但「对每个变元分别线性」与「对有序对 \((v,w)\) 线性」是两回事。例如取 \(V=W=\mathbf{R}\),映射 \(\beta(v,w)=vw\) 是双线性的,但 \(\beta(2\cdot(1,1))=\beta(2,2)=4\),而 \(2\beta(1,1)=2\),二者不等。
线性映射是全书最熟练的工具:有基、有矩阵、有核与像、有全部第 3 章的机制。于是自然产生一个愿望:能否造一个新的向量空间,把「\(V\times W\) 上的双线性」原封不动地翻译成「新空间上的线性」?本节的答案是张量积。原书的动机表述更为朴素:想要一种把向量 \(v\in V\) 与 \(w\in W\)「相乘」的办法,记作 \(v\otimes w\)(读作「\(v\) 张量 \(w\)」),并希望它满足乘法应有的分配律:对 \(v_1,v_2,v\in V\),\(w_1,w_2,w\in W\),
\[ (v_1+v_2)\otimes w=v_1\otimes w+v_2\otimes w,\qquad v\otimes(w_1+w_2)=v\otimes w_1+v\otimes w_2, \]以及与数乘的协调:对一切 \(\lambda\in\mathbf{F}\),
\[ \lambda(v\otimes w)=(\lambda v)\otimes w=v\otimes(\lambda w). \]已有的乘积空间 \(V\times W\) 无法胜任:它上面的「乘法」只有分量加法,且 \(\dim(V\times W)=\dim V+\dim W\) (原书 3.92)。而我们进一步希望:\(V\) 的任一组基 \(e_1,\dots,e_m\) 与 \(W\) 的任一组基 \(f_1,\dots,f_n\) 合起来,即所有 \(e_j\otimes f_k\)(共 \(mn\) 个,任意排列顺序),构成新空间的基。这将迫使新空间的维数是乘积 \((\dim V)(\dim W)\),而非和。原书正是从「哪个天然构造的空间维数等于 \((\dim V)(\dim W)\)」这一问题出发,引出双线性泛函空间,并最终给出张量积的定义。
注(分配律的维数证据)。把 \(v\otimes w\) 想成「乘积」,则 \(V\otimes W\) 像是把 \(V\) 与 \(W\) 「相乘」得到的对象:维数相乘,而直和 \(V\oplus W\) 则是维数相加的「和」。这一「乘法/加法」的类比在后续的多空间推广与表示论中会变得精确。
双线性泛函空间 \(\mathcal{B}(V,W)\)
第一步是把 9.A 的双线性型推广到两个不同空间上,并取值于标量域。以下定义沿用原书 9.68。
定义 9.68(\(V\times W\) 上的双线性泛函,\(\mathcal{B}(V,W)\))。设 \(V,W\) 是 \(\mathbf{F}\) 上的有限维向量空间。
(a) \(V\times W\) 上的一个双线性泛函 (bilinear functional) 是指函数 \(\beta\colon V\times W\to\mathbf{F}\),使得对每个 \(w\in W\),\(v\mapsto\beta(v,w)\) 是 \(V\) 上的线性泛函;且对每个 \(v\in V\),\(w\mapsto\beta(v,w)\) 是 \(W\) 上的线性泛函。
(b) \(V\times W\) 上全体双线性泛函按函数的逐点加法与数乘构成的向量空间,记作 \(\mathcal{B}(V,W)\)。
当 \(W=V\) 时,双线性泛函就是 9.A 开头的双线性型 (原书 9.1)。与 9.A 完全相同地,逐点运算确实使 \(\mathcal{B}(V,W)\) 成为向量空间,其加法单位元是零函数。本节的\(V,W\) 默认有限维;「泛函」一词在原书中专指取值于标量域 \(\mathbf{F}\) 的映射。
例 1(双线性泛函选例,原书 9.69)。下列映射都是所述空间上的双线性泛函,请读者逐槽验证线性:
(a) 若 \(\varphi\in V'\),\(\tau\in W'\),则 \(\beta(v,w)=\varphi(v)\tau(w)\) 是 \(V\times W\) 上的双线性泛函。
(b) 若 \(v\in V\),\(w\in W\),则 \(\beta(\varphi,\tau)=\varphi(v)\tau(w)\) 是 \(V'\times W'\) 上的双线性泛函——注意这里「吃」的是对偶向量。
(c) 求值配对 \(\beta(v,\varphi)=\varphi(v)\) 是 \(V\times V'\) 上的双线性泛函;它正是原书 3.F 中把 \(V\) 嵌入 \(V''\) 的那个典范配对。
(d) 若 \(\varphi\in V'\),则 \(\beta(v,T)=\varphi(Tv)\) 是 \(V\times\mathcal{L}(V)\) 上的双线性泛函。
(e) 设 \(m,n\) 为正整数,则 \(\beta(A,B)=\operatorname{tr}(AB)\) 是 \(\mathbf{F}^{m,n}\times\mathbf{F}^{n,m}\) 上的双线性泛函——这是 8.D 的迹与本章多线性观点的第一次握手,练习 4 还将再次遇到它的影子。
关键在于:\(\mathcal{B}(V,W)\) 恰有所需的维数。
定理 9.70(双线性泛函空间的维数)。
\[ \dim\mathcal{B}(V,W)=(\dim V)(\dim W). \]证明。设 \(e_1,\dots,e_m\) 是 \(V\) 的基,\(f_1,\dots,f_n\) 是 \(W\) 的基。对 \(\beta\in\mathcal{B}(V,W)\),令 \(\mathcal{M}(\beta)\) 为第 \(j\) 行第 \(k\) 列元素等于 \(\beta(e_j,f_k)\) 的 \(m\times n\) 矩阵。由双线性,\(\beta\mapsto\mathcal{M}(\beta)\) 是 \(\mathcal{B}(V,W)\to\mathbf{F}^{m,n}\) 的线性映射。
反过来,对 \(C\in\mathbf{F}^{m,n}\),定义 \(\beta_C\colon V\times W\to\mathbf{F}\):对 \(a_1,\dots,a_m,b_1,\dots,b_n\in\mathbf{F}\),
\[ \beta_C\Bigl(\sum_{j=1}^{m}a_je_j,\ \sum_{k=1}^{n}b_kf_k\Bigr)=\sum_{k=1}^{n}\sum_{j=1}^{m}C_{j,k}\,a_jb_k. \]由于 \(V\)、\(W\) 中每个向量写成给定基的线性组合的方式唯一,上式确实是 \(V\times W\) 上的函数;固定 \(w\)(即固定诸 \(b_k\)),右端关于诸 \(a_j\) 线性,固定 \(v\) 时关于诸 \(b_k\) 线性,故 \(\beta_C\in\mathcal{B}(V,W)\)。又 \(C\mapsto\beta_C\) 显然线性。
现证两个线性映射互逆。其一,对任意 \(\beta\in\mathcal{B}(V,W)\) 与任意 \(v=\sum_ja_je_j\),\(w=\sum_kb_kf_k\),对两个变元逐次使用双线性展开得
\[ \beta(v,w)=\sum_{k=1}^{n}\sum_{j=1}^{m}a_jb_k\,\beta(e_j,f_k)=\beta_{\mathcal{M}(\beta)}(v,w), \]故 \(\beta_{\mathcal{M}(\beta)}=\beta\)。其二,\(\beta_C(e_j,f_k)=C_{j,k}\)(诸 \(a,b\) 取 Kronecker 值),故 \(\mathcal{M}(\beta_C)=C\)。于是 \(\beta\mapsto\mathcal{M}(\beta)\) 是双射,从而是同构,\(\mathcal{B}(V,W)\cong\mathbf{F}^{m,n}\)。因此
\[ \dim\mathcal{B}(V,W)=\dim\mathbf{F}^{m,n}=mn=(\dim V)(\dim W). \qquad\blacksquare \]注(逐槽「咖喱化」)。上述证明顺便给出一个实用的等价观点:双线性泛函 \(\beta\in\mathcal{B}(V,W)\) 与线性映射 \(T\colon V\to W'\) 一一对应,对应方式为 \((Tv)(w)=\beta(v,w)\)。事实上,固定 \(w\) 时 \(v\mapsto\beta(v,w)\) 线性保证 \(Tv=\beta(v,\cdot)\in W'\),而 \(\beta\) 关于 \(v\) 线性保证 \(T\) 线性;反方向由 \(\beta(v,w)=(Tv)(w)\) 还原。于是 \(\mathcal{B}(V,W)\cong\mathcal{L}(V,W')\)。把「多变量函数」折成「取值为函数的单变量函数」的这一操作,在计算机科学中称为咖喱化 (currying),在泛函分析中则是算子值映射观点的雏形。
张量积的定义:对偶实现
文献中 \(V\otimes W\) 有若干种彼此等价(至少在有限维情形)的定义:自由向量空间商去双线性关系、对偶实现,等等。既然 9.70 说明 \(\mathcal{B}(V,W)\)、\(\mathcal{L}(V,W)\)、\(\mathbf{F}^{\dim V,\dim W}\) 都具有所要的维数 \((\dim V)(\dim W)\),把它们之一直接定义为 \(V\otimes W\) 似乎皆可。然而这些候选者都有同一个缺陷:它们与 \(V\times W\) 之间没有一个自然的双线性映射。原书的解法优雅而彻底——把候选者换成 \(\mathcal{B}(V',W')\),即对偶空间上的双线性泛函空间。此时例 1(b) 的构造立刻提供所需的双线性配对:每个 \(v\in V\) 通过求值成为 \(V''\) 的元素,于是 \((\varphi,\tau)\mapsto\varphi(v)\tau(w)\) 关于 \((\varphi,\tau)\) 是双线性的。
定义 9.71(张量积,\(V\otimes W\),\(v\otimes w\))。设 \(V,W\) 是有限维向量空间。
(a) 张量积 (tensor product) \(V\otimes W\) 定义为 \(\mathcal{B}(V',W')\),即 \(V'\times W'\) 上全体双线性泛函构成的向量空间。
(b) 对 \(v\in V\),\(w\in W\),张量积 \(v\otimes w\) 定义为 \(V\otimes W\) 中如下元素:
\[ (v\otimes w)(\varphi,\tau)=\varphi(v)\,\tau(w)\qquad\text{对一切 }(\varphi,\tau)\in V'\times W'. \]请务必弄清 \(v\otimes w\) 是什么类型的对象:\(V\otimes W\) 的元素是 \(V'\times W'\) 上的双线性泛函,因而是一个「吃一对对偶向量、吐一个标量」的函数;要验证 \(\varphi(v)\tau(w)\) 确实给出双线性泛函,只需引用例 1(b)。\(\otimes\) 的记号在 \(\LaTeX\) 中由 \otimes 产生。定义落地后,维数立即可得。
定理 9.72(两个向量空间的张量积的维数)。
\[ \dim(V\otimes W)=(\dim V)(\dim W). \]证明。向量空间与其对偶空间维数相同 (原书 3.111),故 \(\dim V'=\dim V\),\(\dim W'=\dim W\)。把 9.70 应用于 \(V'\) 与 \(W'\),得
\[ \dim(V\otimes W)=\dim\mathcal{B}(V',W')=(\dim V')(\dim W')=(\dim V)(\dim W). \qquad\blacksquare \]\(v\otimes w\) 的定义初看抽象,但其抽象性无关紧要,重要的是这些对象的行为。下一定理表明,「乘法」所期望的分配律与数乘协调自动成立。
定理 9.73(张量积的双线性性)。设 \(v,v_1,v_2\in V\),\(w,w_1,w_2\in W\),\(\lambda\in\mathbf{F}\)。则
\[ (v_1+v_2)\otimes w=v_1\otimes w+v_2\otimes w,\qquad v\otimes(w_1+w_2)=v\otimes w_1+v\otimes w_2, \] \[ \lambda(v\otimes w)=(\lambda v)\otimes w=v\otimes(\lambda w). \]证明。设 \((\varphi,\tau)\in V'\times W'\)。由 \(\varphi\) 的线性性,
\[ \bigl((v_1+v_2)\otimes w\bigr)(\varphi,\tau)=\varphi(v_1+v_2)\tau(w)=\varphi(v_1)\tau(w)+\varphi(v_2)\tau(w) \] \[ =(v_1\otimes w)(\varphi,\tau)+(v_2\otimes w)(\varphi,\tau)=\bigl(v_1\otimes w+v_2\otimes w\bigr)(\varphi,\tau). \]两个函数在每点 \((\varphi,\tau)\) 取值相同,故 \((v_1+v_2)\otimes w=v_1\otimes w+v_2\otimes w\)。第二、第三个等式同理:只需分别用到 \(\tau\) 的线性性与 \(\varphi(\lambda v)=\lambda\varphi(v)=\varphi(v)\cdot\lambda\) 型的数乘搬移,留作读者补全。\(\blacksquare\)
于是映射 \(\otimes\colon V\times W\to V\otimes W\),\((v,w)\mapsto v\otimes w\),是 \(V\times W\) 上的双线性映射——它是定义 9.77 意义下的原型。特别地,\(0\otimes w=0\),\(v\otimes 0=0\),且 \(v\otimes(\lambda w)\) 与 \((\lambda v)\otimes w\) 给出同一个张量:标量可以在「因子」之间自由移动。
基与维数
本节的主定理断言:基的张量确给出张量积的基。先说明记号:对双指标列表如 \(\{e_j\otimes f_k\}_{j=1,\dots,m;\,k=1,\dots,n}\),顺序无关紧要——它们是集合式的一堆基元,任取方便的排列即可(矩阵需按行列排定顺序,是因为 \(\mathcal{M}(T)\) 依赖基的有序列表;此处无此需求)。
定理 9.74(\(V\otimes W\) 的基)。设 \(e_1,\dots,e_m\in V\),\(f_1,\dots,f_n\in W\)。
(a) 若 \(e_1,\dots,e_m\) 与 \(f_1,\dots,f_n\) 都是线性无关列表,则 \(\{e_j\otimes f_k\}_{j=1,\dots,m;\,k=1,\dots,n}\) 是 \(V\otimes W\) 中的线性无关列表。
(b) 若 \(e_1,\dots,e_m\) 是 \(V\) 的基且 \(f_1,\dots,f_n\) 是 \(W\) 的基,则 \(\{e_j\otimes f_k\}_{j=1,\dots,m;\,k=1,\dots,n}\) 是 \(V\otimes W\) 的基。
证明。先证 (a)。设两列表均线性无关。由线性映射引理 (原书 3.4),存在 \(\varphi_1,\dots,\varphi_m\in V'\) 与 \(\tau_1,\dots,\tau_n\in W'\) 使得
\[ \varphi_j(e_k)=\begin{cases}1,&j=k,\\ 0,&j\ne k,\end{cases}\qquad \tau_j(f_k)=\begin{cases}1,&j=k,\\ 0,&j\ne k,\end{cases} \](第一式中 \(j,k\in\{1,\dots,m\}\),第二式中 \(j,k\in\{1,\dots,n\}\)。)设标量组 \(\{a_{j,k}\}\) 满足
\[ \sum_{k=1}^{n}\sum_{j=1}^{m}a_{j,k}\,(e_j\otimes f_k)=0 \tag{9.75} \](原书将此显示式编号为 9.75)。注意对 \(j\in\{1,\dots,m\}\),\(k\in\{1,\dots,n\}\) 有
\[ (e_j\otimes f_k)(\varphi_M,\tau_N)=\varphi_M(e_j)\,\tau_N(f_k)=\begin{cases}1,&j=M\ \text{且}\ k=N,\\ 0,&\text{其余情形},\end{cases} \]即基元张量在 \((\varphi_M,\tau_N)\) 处的取值恰似 Kronecker 记号。把 9.75 两边作用于 \((\varphi_M,\tau_N)\),左端只剩 \(j=M,k=N\) 一项,得 \(a_{M,N}=0\)。由 \(M,N\) 任意,列表 \(\{e_j\otimes f_k\}\) 线性无关。
再证 (b)。此时 (a) 给出线性无关;又由 9.72,\(\dim(V\otimes W)=mn\) 恰等于该列表的长度 \(mn\);长度合适且线性无关的列表是基 (原书 2.38)。\(\blacksquare\)
证明中「把 9.75 作用于 \((\varphi_M,\tau_N)\)」一步值得回味:我们用对偶的 Kronecker 泛函去「探测」系数——这正是把 \(V\otimes W\) 实现为 \(\mathcal{B}(V',W')\) 的红利,检验线性无关变成逐点求值。
注(「没有多余的关系」)。9.74(a) 的线性无关刻画了这样一件事:\(V\otimes W\) 中除了由 \(\otimes\) 的双线性性 (9.73) 以及 \(V\)、\(W\) 内部可能的线性相关所导致的关系之外,再无其他关系。换言之,张量积是「让双线性恒等式成立的最宽松的空间」——这正是泛性质的雏形。
注(表示的不唯一性)。由 9.74(b),\(V\otimes W\) 的每个元素都可写成纯张量 \(v\otimes w\) 的有限和 \(\sum_k v_k\otimes w_k\)。但两个警告:其一,这种写法不唯一——由 9.73 立得 \(v\otimes w=(2v)\otimes(w/2)=v_1\otimes w+v_2\otimes w\) (其中 \(v=v_1+v_2\)) 等等;真正唯一的是元素在基 \(\{e_j\otimes f_k\}\) 下的系数。其二,当 \(\dim V\gt 1\) 且 \(\dim W\gt 1\) 时,并非每个元素都是单个纯张量,即
\[ \{v\otimes w\colon (v,w)\in V\times W\}\ne V\otimes W \](练习 6,亦可参见例 3 之后关于秩的讨论)。这一点是张量积与「普通乘法」最显著的差异,也是量子力学中「纠缠」现象的数学根源(见 9.9 节末的回望)。
计算实例:矩阵、函数与多项式
例 2(\(\mathbf{F}^{m}\) 中元素与 \(\mathbf{F}^{n}\) 中元素的张量积,原书 9.76)。设 \(m,n\) 为正整数,\(e_1,\dots,e_m\) 为 \(\mathbf{F}^{m}\) 的标准基,\(f_1,\dots,f_n\) 为 \(\mathbf{F}^{n}\) 的标准基。取 \(v=(v_1,\dots,v_m)\in\mathbf{F}^{m}\),\(w=(w_1,\dots,w_n)\in\mathbf{F}^{n}\)。由 9.73 的双线性性逐项展开:
\[ v\otimes w=\Bigl(\sum_{j=1}^{m}v_je_j\Bigr)\otimes\Bigl(\sum_{k=1}^{n}w_kf_k\Bigr)=\sum_{k=1}^{n}\sum_{j=1}^{m}(v_jw_k)\,(e_j\otimes f_k). \]于是相对于基 \(\{e_j\otimes f_k\}\),\(v\otimes w\) 的系数恰是诸 \(v_jw_k\)。把这些系数不排成列表、而排成第 \(j\) 行第 \(k\) 列元素为 \(v_jw_k\) 的 \(m\times n\) 矩阵,便把 \(v\otimes w\) 与外积矩阵 \(vw^{t}\) 认同:
\[ v\otimes w\ \longleftrightarrow\ \begin{pmatrix}v_1w_1&\cdots&v_1w_n\\ &\ddots&\\ v_mw_1&\cdots&v_mw_n\end{pmatrix}. \]这个矩阵的每一列都是 \(v\) 的固定倍数 \(w_kv\),故其秩至多为 \(1\);练习 3 将证明反向:在上述基的认同下,\(\{v\otimes w\}\) 恰对应全体秩 \(\le 1\) 的 \(m\times n\) 矩阵。从而 \(\mathbf{F}^{m}\otimes\mathbf{F}^{n}\cong\mathbf{F}^{m,n}\),而「纯张量」=「秩 \(\le 1\) 矩阵」,「张量的和」=「矩阵的和」。
数值演算:取 \(m=n=2\),则
\[ (e_1+2e_2)\otimes(f_1-f_2)=e_1\otimes f_1-e_1\otimes f_2+2e_2\otimes f_1-2e_2\otimes f_2\ \longleftrightarrow\ \begin{pmatrix}1&-1\\ 2&-2\end{pmatrix}, \]右端矩阵各行成比例 (第二行是第一行的 \(2\) 倍),正是秩 \(1\) 的体现。而 \(e_1\otimes f_1+e_2\otimes f_2\) 对应 \(\begin{pmatrix}1&0\\0&1\end{pmatrix}\),秩为 \(2\),故它不是纯张量——这给了注「并非所有元素都是纯张量」一个具体实例。
例 3(函数的张量积,补充)。设 \(X,Y\) 为任意集合,\(\mathbf{F}^{X}\)、\(\mathbf{F}^{Y}\) 分别为 \(X\)、\(Y\) 上全体 \(\mathbf{F}\) 值函数构成的向量空间 (原书 1.C)。取有限维子空间 \(V\subseteq\mathbf{F}^{X}\),\(W\subseteq\mathbf{F}^{Y}\),定义
\[ \Gamma_0\colon V\times W\to\mathbf{F}^{X\times Y},\qquad \Gamma_0(f,g)(x,y)=f(x)\,g(y). \]固定 \(g\) 后,\(f\mapsto fg\) 显然逐点线性,反之亦然,故 \(\Gamma_0\) 是双线性映射。9.79(a) (其证明只用到 \(V,W\) 的基,目标空间不限维数) 给出唯一的线性映射 \(\Psi\colon V\otimes W\to\mathbf{F}^{X\times Y}\),使
\[ \Psi(f\otimes g)(x,y)=f(x)g(y)\qquad\text{对一切 } x\in X,\ y\in Y. \]于是「函数的张量积」就是「分别依赖两个变量的函数相乘」。这个 \(\Psi\) 的像落在「可分变量函数的线性组合」所成的空间内;下一例将看到,在多项式情形它恰好是满的。
例 4(\(\mathcal{P}_{m}\otimes\mathcal{P}_{n}\) 与二元多项式,补充)。取 \(V=\mathcal{P}_{m}(\mathbf{R})\)(次数 \(\le m\) 的实多项式),\(W=\mathcal{P}_{n}(\mathbf{R})\),并沿用例 3 的 \(\Psi\colon \mathcal{P}_{m}\otimes\mathcal{P}_{n}\to\) \(\mathbf{R}\) 值函数空间。\(V\) 有基 \(1,x,\dots,x^{m}\),\(W\) 有基 \(1,y,\dots,y^{n}\) (视 \(y\) 为另一变量)。由 9.74(b),\(\{x^{j}\otimes y^{k}\}_{0\le j\le m,\ 0\le k\le n}\) 是 \(\mathcal{P}_{m}\otimes\mathcal{P}_{n}\) 的基;而 \(\Psi(x^{j}\otimes y^{k})(x,y)=x^{j}y^{k}\) 恰是二元单项式。于是 \(\Psi\) 把基映为二元多项式空间
\[ \mathcal{P}_{m,n}=\operatorname{span}\{x^{j}y^{k}\colon 0\le j\le m,\ 0\le k\le n\}\qquad \bigl(\dim=(m+1)(n+1)\bigr) \]的标准基,从而限制后得到同构 \(\mathcal{P}_{m}\otimes\mathcal{P}_{n}\cong\mathcal{P}_{m,n}\)。完整演算一例:利用 9.73 展开,
\[ (1+x)\otimes(y-y^{2})\ \longmapsto\ (1+x)(y-y^{2})=y-y^{2}+xy-xy^{2}. \]反过来,并非每个二元多项式都是单个纯张量:\(xy+1\) 就无法写成 \(f(x)g(y)\)。若 \(xy+1=f(x)g(y)\),取 \(x=0\) 得 \(1=f(0)g(y)\) 对一切 \(y\) 成立,故 \(f(0)\ne 0\) 且 \(g\) 为常数 \(c\);对称地 \(f\) 也须为常数,于是 \(xy+1\) 是常数,矛盾。这再次说明:张量的和会产生「本质上新的」对象。双线性型理论 (9.A) 中的二次型、微分几何中的度量张量、数值分析中的张量积插值,都是这一例子的变形。
双线性映射与泛性质
现在把「取值于标量」的限制去掉,引入一般的双线性映射——这是本节真正的主角登场前的最后一块铺垫 (原书 9.77)。
定义 9.77(双线性映射)。从 \(V\times W\) 到向量空间 \(U\) 的双线性映射 (bilinear map) 是指函数 \(\Gamma\colon V\times W\to U\),使得对每个 \(w\in W\),\(v\mapsto\Gamma(v,w)\) 是 \(V\to U\) 的线性映射;且对每个 \(v\in V\),\(w\mapsto\Gamma(v,w)\) 是 \(W\to U\) 的线性映射。
例 5(双线性映射选例,原书 9.78)。(a) \(V\times W\) 上的每个双线性泛函都是到 \(\mathbf{F}\) 的双线性映射。(b) 映射 \(\otimes\colon V\times W\to V\otimes W\),\((v,w)\mapsto v\otimes w\),是双线性映射 (由 9.73)。(c) 算子乘法 \(\Gamma(S,T)=ST\) 是 \(\mathcal{L}(V)\times\mathcal{L}(V)\to\mathcal{L}(V)\) 的双线性映射——第 3 章反复使用的「分配律」原本就是它。(d) 求值 \(\Gamma(v,T)=Tv\) 是 \(V\times\mathcal{L}(V,W)\to W\) 的双线性映射;例 1(c)、(d) 是它取 \(\varphi\) 后的标量化版本。
下面的定理是张量积存在的全部意义所在:双线性映射与线性映射经 \(\otimes\) 相互转化。文献中 (a) 称为张量积的泛性质 (universal property)。
定理 9.79(双线性映射转化为线性映射)。设 \(U\) 是向量空间。
(a) 设 \(\Gamma\colon V\times W\to U\) 是双线性映射。则存在唯一的线性映射 \(\hat{\Gamma}\colon V\otimes W\to U\),使得
\[ \hat{\Gamma}(v\otimes w)=\Gamma(v,w)\qquad\text{对一切 }(v,w)\in V\times W. \](b) 反之,设 \(T\colon V\otimes W\to U\) 是线性映射。则存在唯一的双线性映射 \(T^{\#}\colon V\times W\to U\),使得
\[ T^{\#}(v,w)=T(v\otimes w)\qquad\text{对一切 }(v,w)\in V\times W. \]证明。(a) 设 \(e_1,\dots,e_m\) 是 \(V\) 的基,\(f_1,\dots,f_n\) 是 \(W\) 的基。由线性映射引理 (原书 3.4)——线性映射由其在基上的取值唯一决定,且可任意指定——以及 9.74(b) (基元张量构成 \(V\otimes W\) 的基),存在唯一的线性映射 \(\hat{\Gamma}\colon V\otimes W\to U\) 满足
\[ \hat{\Gamma}(e_j\otimes f_k)=\Gamma(e_j,f_k)\qquad\text{对一切 } j\in\{1,\dots,m\},\ k\in\{1,\dots,n\}. \]现任取 \((v,w)\in V\times W\),写 \(v=\sum_{j=1}^{m}a_je_j\),\(w=\sum_{k=1}^{n}b_kf_k\)。先用 9.73 展开纯张量,再用 \(\hat{\Gamma}\) 的线性性,再用其在基元上的定义,最后用 \(\Gamma\) 的双线性性收拢:
\[ \hat{\Gamma}(v\otimes w)=\hat{\Gamma}\Bigl(\sum_{k=1}^{n}\sum_{j=1}^{m}(a_jb_k)(e_j\otimes f_k)\Bigr)=\sum_{k=1}^{n}\sum_{j=1}^{m}a_jb_k\,\hat{\Gamma}(e_j\otimes f_k) \] \[ =\sum_{k=1}^{n}\sum_{j=1}^{m}a_jb_k\,\Gamma(e_j,f_k)=\Gamma\Bigl(\sum_{j=1}^{m}a_je_j,\ \sum_{k=1}^{n}b_kf_k\Bigr)=\Gamma(v,w). \]这证明了存在性。唯一性:若线性映射 \(\tilde{\Gamma}\colon V\otimes W\to U\) 也满足 \(\tilde{\Gamma}(v\otimes w)=\Gamma(v,w)\) 对一切 \((v,w)\) 成立,则它在每个基元 \(e_j\otimes f_k\) 上与 \(\hat{\Gamma}\) 取值相同,而线性映射由基上的取值唯一决定 (3.4),故 \(\tilde{\Gamma}=\hat{\Gamma}\)。
(b) 定义 \(T^{\#}\colon V\times W\to U\) 为 \(T^{\#}(v,w)=T(v\otimes w)\)。由 9.73 (例如 \((v_1+v_2)\otimes w=v_1\otimes w+v_2\otimes w\)) 与 \(T\) 的线性性,得 \(T^{\#}(v_1+v_2,w)=T(v_1\otimes w)+T(v_2\otimes w)=T^{\#}(v_1,w)+T^{\#}(v_2,w)\);数乘与第二个变元的情形同理。故 \(T^{\#}\) 双线性。唯一性是显然的,因为等式 \(T^{\#}(v,w)=T(v\otimes w)\) 已在每一点指定了它的取值。\(\blacksquare\)
注(为什么不能直接定义?)。证明 9.79(a) 时,我们不能一上来就规定 \(\hat{\Gamma}(v\otimes w)=\Gamma(v,w)\) 再「线性扩充到全空间」:因为 \(V\otimes W\) 的元素写成纯张量的有限和的方式不唯一 (见前注),如此定义可能左右失配。原书的证明绕过这一点:先在基元张量上取值 (那里唯一确定),再线性扩充。于是构造 \(\hat{\Gamma}\) 时用到了 \(V\) 与 \(W\) 的基,但最终满足的等式 \(\hat{\Gamma}(v\otimes w)=\Gamma(v,w)\) 对一切 \(v,w\) 成立,与基的选取无关——泛性质的「自然性」正体现于此。
注(双线性映射的向量空间)。从 \(V\times W\) 到 \(U\) 的全体双线性映射按逐点运算构成向量空间,记之为 \(\mathrm{Bil}(V,W;U)\)。由 9.79 的 (a) 与 (b) 及两个方向的唯一性,对应 \(\Gamma\mapsto\hat{\Gamma}\) 与 \(T\mapsto T^{\#}\) 互逆,且都是线性的,故
\[ \mathrm{Bil}(V,W;U)\cong\mathcal{L}(V\otimes W,\,U). \]特别取 \(U=\mathbf{F}\):\(V\times W\) 上的双线性泛函空间 \(\mathcal{B}(V,W)\) 恰是张量积的对偶空间 \((V\otimes W)'\)——我们在「与全书呼应」一节将用这一等式回望行列式。
注(张量即线性映射,补充命题)。原书本节未以定理形式陈述经典同构 \(V'\otimes W\cong\mathcal{L}(V,W)\),但它是 9.79 的直接推论,值得写全。定义 \(\Gamma\colon V'\times W\to\mathcal{L}(V,W)\) 为 \(\Gamma(\varphi,w)=(v\mapsto\varphi(v)w)\);易验 \(\Gamma\) 双线性 (两个槽的线性性分别来自 \(\varphi\) 与「数乘出 \(w\)」),故由 9.79(a) 得唯一线性映射 \(\Phi\colon V'\otimes W\to\mathcal{L}(V,W)\),\(\Phi(\varphi\otimes w)(v)=\varphi(v)w\)。取 \(V\) 的基 \(e_1,\dots,e_n\) 及其对偶基 \(\varphi_1,\dots,\varphi_n\) (原书 3.114),\(W\) 的基 \(f_1,\dots,f_m\)。则 \(\Phi(\varphi_j\otimes f_k)\) 是把 \(e_j\) 送到 \(f_k\)、把其余基元送到 \(0\) 的线性映射;这类「矩阵单位」映射构成 \(\mathcal{L}(V,W)\) 的基 (3.4),而 \(\{\varphi_j\otimes f_k\}\) 是 \(V'\otimes W\) 的基 (9.74(b))。把基映为基的线性映射是同构,故 \(\Phi\) 是同构;维数核算:\((\dim V)(\dim W)=\dim\mathcal{L}(V,W)\),与 9.72 一致。「一个张量就是一个线性映射」——这一观点在张量分析 (协变/逆变指标)、矩阵的 Kronecker 积与量子力学的算子表示中无处不在。
内积空间的张量积
若 \(V\) 与 \(W\) 都是 (有限维) 内积空间 (第 6 章),则张量积上有一个自然内积。下一定理中三个空间各有一个内积,记号统一写作 \(\langle\cdot,\cdot\rangle\) (原书 9.80)。回忆本书内积约定:关于第一个变元线性、关于第二个变元共轭线性 (原书 6.A)。
定理 9.80(两个内积空间的张量积上的内积)。设 \(V,W\) 是内积空间。则 \(V\otimes W\) 上存在唯一的内积,使得
\[ \langle v\otimes w,\ u\otimes x\rangle=\langle v,u\rangle\,\langle w,x\rangle\qquad\text{对一切 } v,u\in V,\ w,x\in W. \]证明。设 \(e_1,\dots,e_m\) 是 \(V\) 的标准正交基,\(f_1,\dots,f_n\) 是 \(W\) 的标准正交基 (原书 6.B)。由 9.74(b),\(\{e_j\otimes f_k\}\) 是 \(V\otimes W\) 的基,故每个元素有唯一的系数表示。对 \(b_{j,k},c_{j,k}\in\mathbf{F}\) 定义
\[ \Bigl\langle \sum_{k=1}^{n}\sum_{j=1}^{m}b_{j,k}\,e_j\otimes f_k,\ \ \sum_{k=1}^{n}\sum_{j=1}^{m}c_{j,k}\,e_j\otimes f_k\Bigr\rangle=\sum_{k=1}^{n}\sum_{j=1}^{m}b_{j,k}\,\overline{c_{j,k}}. \tag{9.81} \](原书编号 9.81 的显示式。)由于表示唯一,9.81 无歧义地定义了一个函数。它是内积:关于第一个变元的线性与关于第二个变元的共轭线性由右端系数逐项看出;共轭对称显然;正定性给出 \(\langle z,z\rangle=\sum_{j,k}|b_{j,k}|^{2}\ge 0\),且等于零当且仅当诸 \(b_{j,k}\) 全为零、即 \(z=0\)。
现在验证纯张量上的乘法公式。设 \(v=\sum_jv_je_j\),\(u=\sum_ju_je_j\),\(w=\sum_kw_kf_k\),\(x=\sum_kx_kf_k\)。由 9.73 展开 \(v\otimes w=\sum_k\sum_j(v_jw_k)(e_j\otimes f_k)\),对 \(u\otimes x\) 同理。代入 9.81:
\[ \langle v\otimes w,\ u\otimes x\rangle=\sum_{k=1}^{n}\sum_{j=1}^{m}v_jw_k\,\overline{u_jx_k}=\Bigl(\sum_{j=1}^{m}v_j\overline{u_j}\Bigr)\Bigl(\sum_{k=1}^{n}w_k\overline{x_k}\Bigr)=\langle v,u\rangle\,\langle w,x\rangle, \]其中最后一步用了标准正交基下的内积公式 (原书 6.B)。
唯一性:若某内积满足上述纯张量乘法公式,则它在基元对上取值 \(\langle e_j\otimes f_k,e_M\otimes f_N\rangle=\langle e_j,e_M\rangle\langle f_k,f_N\rangle\),由标准正交性这是 Kronecker 记号,与 9.81 完全一致;而内积 (作为双重线性/半线性形式) 由其在基对上的取值决定,故该内积就是 9.81。\(\blacksquare\)
定义 9.82(内积空间的张量积上的内积)。设 \(V,W\) 是内积空间。\(V\otimes W\) 上的内积定义为满足
\[ \langle v\otimes w,\ u\otimes x\rangle=\langle v,u\rangle\,\langle w,x\rangle\qquad(v,u\in V,\ w,x\in W) \]的唯一内积 (其存在性与唯一性即 9.80)。在式中取 \(u=v\),\(x=w\),再开方,得范数公式
\[ \|v\otimes w\|=\|v\|\,\|w\|\qquad\text{对一切 } v\in V,\ w\in W. \]注(又一处「不能直接定义」)。与 9.79 之后的讨论平行:不能不证自明地「定义」\(\langle v\otimes w,u\otimes x\rangle=\langle v,u\rangle\langle w,x\rangle\) 再按槽线性扩充,因为表示不唯一;必须像 9.80 的证明那样先经标准正交基把内积钉死在基元对上。此外,证明中构造内积用了某组标准正交基,而下面的 9.83 说明结论对任意标准正交基都成立——两组基在陈述中记号相同,应视为不同的基。
定理 9.83(\(V\otimes W\) 的标准正交基)。设 \(V,W\) 是内积空间,\(e_1,\dots,e_m\) 是 \(V\) 的标准正交基,\(f_1,\dots,f_n\) 是 \(W\) 的标准正交基。则 \(\{e_j\otimes f_k\}_{j=1,\dots,m;\,k=1,\dots,n}\) 是 \(V\otimes W\) (带 9.82 的内积) 的标准正交基。
证明。由 9.74(b) 知该列表已是基,只须验证标准正交性。设 \(j,M\in\{1,\dots,m\}\),\(k,N\in\{1,\dots,n\}\)。由 9.82,
\[ \langle e_j\otimes f_k,\ e_M\otimes f_N\rangle=\langle e_j,e_M\rangle\,\langle f_k,f_N\rangle=\begin{cases}1,&j=M\ \text{且}\ k=N,\\ 0,&\text{其余情形},\end{cases} \]故为标准正交基。\(\blacksquare\)
练习 11 将把这一结构用于算子:对 \(S\in\mathcal{L}(V)\),\(T\in\mathcal{L}(W)\),练习 9 定义的算子 \(S\otimes T\) 满足 \((S\otimes T)^{*}=S^{*}\otimes T^{*}\)——张量积与伴随、乃至与第 7 章谱理论的互动由此展开。
多个向量空间的张量积
从两个空间到多个空间不需要任何新思想,只需稍繁的记号;原书在这一部分不再给出证明,而是把填充细节的工作留给读者 (原书 9.84 之前的说明)。以下陈述均按原书编号给出,证明模式与 \(m=2\) 情形完全平行。
记号 9.84(\(V_1,\dots,V_m\))。在本小节中,\(m\) 表示大于 \(1\) 的整数,\(V_1,\dots,V_m\) 表示有限维向量空间。
定义 9.85(\(m\)-线性泛函,\(\mathcal{B}(V_1,\dots,V_m)\))。(a) \(V_1\times\cdots\times V_m\) 上的 \(m\)-线性泛函 (\(m\)-linear functional) 是指函数 \(\beta\colon V_1\times\cdots\times V_m\to\mathbf{F}\),它在每个变元槽上 (固定其余槽) 都是线性泛函。(b) 其全体构成的向量空间记作 \(\mathcal{B}(V_1,\dots,V_m)\)。
当 \(V_1=\cdots=V_m=V\) 时,\(m\)-线性泛函就是 9.B 的 \(m\)-线性型 (原书 9.25 的 \(V^{(m)}\));「泛函/型」的用词差别与 \(m=2\) 时相同。
例 6(\(m\)-线性泛函,原书 9.86)。设对每个 \(k\in\{1,\dots,m\}\) 有 \(\varphi_k\in V_k'\)。定义
\[ \beta(v_1,\dots,v_m)=\varphi_1(v_1)\times\cdots\times\varphi_m(v_m), \]则 \(\beta\) 是 \(V_1\times\cdots\times V_m\) 上的 \(m\)-线性泛函——例 1(a) 的多重版本,也是后续一切基元构造的样板。
定理 9.87(\(m\)-线性泛函空间的维数)。
\[ \dim\mathcal{B}(V_1,\dots,V_m)=(\dim V_1)\cdots(\dim V_m). \]证明 (概要)。仿照 9.70:取各 \(V_k\) 的基,把 \(\beta\) 对应到 \(m\) 维系数阵列 \(\bigl(\beta(e^{1}_{j_1},\dots,e^{m}_{j_m})\bigr)\);反向把阵列 \(C\) 对应到 \(m\)-线性泛函 \(\beta_C=\sum C_{j_1\cdots j_m}\,\varphi^{1}_{j_1}\cdots\varphi^{m}_{j_m}\) (其中 \(\varphi^{k}_{j}\) 为 \(V_k\) 的对偶基)。两方向互逆,得同构。\(\blacksquare\)
定义 9.88(张量积,\(V_1\otimes\cdots\otimes V_m\),\(v_1\otimes\cdots\otimes v_m\))。(a) 张量积 \(V_1\otimes\cdots\otimes V_m\) 定义为 \(\mathcal{B}(V_1',\dots,V_m')\)。(b) 对 \(v_k\in V_k\),张量积 \(v_1\otimes\cdots\otimes v_m\) 是其中如下元素:
\[ (v_1\otimes\cdots\otimes v_m)(\varphi_1,\dots,\varphi_m)=\varphi_1(v_1)\cdots\varphi_m(v_m)\qquad\bigl((\varphi_1,\dots,\varphi_m)\in V_1'\times\cdots\times V_m'\bigr). \]定理 9.89(张量积的维数)。\(\dim(V_1\otimes\cdots\otimes V_m)=(\dim V_1)\cdots(\dim V_m)\)。(由 9.87 与 \(\dim V_k'=\dim V_k\),同 9.72 的两行证明。)
定理 9.90(\(V_1\otimes\cdots\otimes V_m\) 的基)。设 \(\dim V_k=n_k\) 且 \(e^{k}_{1},\dots,e^{k}_{n_k}\) 是 \(V_k\) 的基 (\(k=1,\dots,m\))。则
\[ \bigl\{e^{1}_{j_1}\otimes\cdots\otimes e^{m}_{j_m}\bigr\}_{j_1=1,\dots,n_1;\ \cdots;\ j_m=1,\dots,n_m} \]是 \(V_1\otimes\cdots\otimes V_m\) 的基。(证明仿 9.74:用各对偶空间的 Kronecker 泛函逐点探测系数。)
原书在此有一段很能说明「张量」为何重要的评论:当 \(m=2\) 时,元素在此基下的系数排成 \(n_1\times n_2\) 矩阵——由两个指标指定的数组;当 \(m\gt 2\) 时,需要由 \(m\) 个指标指定的数组。凡以多指标数组出现的对象——力学中的应力张量、计算中的多维表、统计中的协方差阵列、物理中的自旋耦合——都是某个张量积空间的元素 (或其对偶的元素)。
定义 9.91(\(m\)-线性映射)。从 \(V_1\times\cdots\times V_m\) 到向量空间 \(U\) 的 \(m\)-线性映射 (\(m\)-linear map) 是指在每个槽上 (固定其余槽) 都线性的函数 \(\Gamma\colon V_1\times\cdots\times V_m\to U\)。
定理 9.92(\(m\)-线性映射转化为线性映射)。设 \(U\) 是向量空间。
(a) 若 \(\Gamma\colon V_1\times\cdots\times V_m\to U\) 是 \(m\)-线性映射,则存在唯一的线性映射 \(\hat{\Gamma}\colon V_1\otimes\cdots\otimes V_m\to U\),使得 \(\hat{\Gamma}(v_1\otimes\cdots\otimes v_m)=\Gamma(v_1,\dots,v_m)\) 对一切 \((v_1,\dots,v_m)\) 成立。
(b) 反之,若 \(T\colon V_1\otimes\cdots\otimes V_m\to U\) 是线性映射,则存在唯一的 \(m\)-线性映射 \(T^{\#}\) 使 \(T^{\#}(v_1,\dots,v_m)=T(v_1\otimes\cdots\otimes v_m)\)。(证明逐字仿照 9.79。)
注(结合律与分配律,略述)。原书本节未讨论运算律,但它们可由 9.92 直接得到:对有限维空间,存在唯一的线性映射 \((U\otimes V)\otimes W\to U\otimes V\otimes W\) 把 \((u\otimes v)\otimes w\) 送到 \(u\otimes v\otimes w\),且它是同构 (把基映为基);故张量积在「相差一个典范同构」的意义下满足结合律。类似地,由双线性映射 \(V\times(W_1\oplus W_2)\to V\otimes W_1\oplus V\otimes W_2\) 经 9.79 得到分配型的典范同构 \(V\otimes(W_1\oplus W_2)\cong(V\otimes W_1)\oplus(V\otimes W_2)\),与维数的「乘对加的分配」吻合。练习 12、13 把 9.80–9.83 的内积结构推广到 \(m\) 个内积空间。
张量视角回望全书:多重线性型与行列式
张量积一经建立,第 9 章前三节的内容便可装入同一框架。首先,在 9.92(a) 中取 \(U=\mathbf{F}\):每个 \(m\)-线性泛函 \(\beta\in\mathcal{B}(V_1,\dots,V_m)\) 唯一地分解为 \(\beta=\hat{\beta}\circ\otimes\),其中 \(\hat{\beta}\) 是 \(V_1\otimes\cdots\otimes V_m\) 上的线性泛函;反之亦然 (9.92(b))。由于对应显然保持加法与数乘,得典范同构
\[ \mathcal{B}(V_1,\dots,V_m)\ \cong\ \bigl(V_1\otimes\cdots\otimes V_m\bigr)'. \]特别地,取 \(V_1=\cdots=V_m=V\):9.B 的 \(m\)-线性型空间 \(V^{(m)}\) 恰是 \(m\) 重张量积 \(V^{\otimes m}:=V\otimes\cdots\otimes V\) 的对偶空间。9.A 的对称双线性型、9.B 的交错 \(m\)-线性型,则是 \(V^{(m)}\) 中满足相应对称/交错条件的子空间 \(V^{(2)}_{\mathrm{sym}}\)、\(V^{(m)}_{\mathrm{alt}}\)——用张量的话说,是 \((V^{\otimes m})'\) 的子空间:多重线性代数 = 张量积空间上的线性代数。
行列式在这一图景中的位置尤为清晰。设 \(\dim V=n\),并取 9.C 中那个非零的交错 \(n\)-线性型 \(\delta\in V^{(n)}_{\mathrm{alt}}\) (由 9.B,\(V^{(n)}_{\mathrm{alt}}\) 是一维的,故 \(\delta\) 至差一个标量唯一)。在张量语言里:\(\delta\) 是 \((V^{\otimes n})'\) 中一个满足「两变元相同即为零」的元素;而原书 9.40 定义的拉回 \(\alpha_T\in V^{(n)}_{\mathrm{alt}}\),
\[ \alpha_T(v_1,\dots,v_n)=\delta(Tv_1,\dots,Tv_n), \]恰好是 \(n\) 重张量积上算子 \(T^{\otimes n}\) (练习 9 的多重版本) 的对偶作用;由一维性,\(\alpha_T=(\det T)\,\delta\) 定义出数 \(\det T\)——这就是 9.41 的行列式。于是:特征标式的关系 \(\det(ST)=(\det S)(\det T)\) (原书 9.49) 反映了 \((ST)^{\otimes n}=S^{\otimes n}T^{\otimes n}\);特征多项式、迹与行列式的联系 (原书 8.D、9.C) 则在 \((V^{\otimes n})'\) 上叠加了「交错」投影。若进一步在「交错张量」方向做商/取子空间,便通向 Graßmann 外代数 \(\bigwedge V\)——那是本册书之外的第一站。
最后是一句应用直觉:在量子力学中,复合系统的态空间正是各子系统希尔伯特空间的张量积,而练习 6 的现象——和式未必是纯张量——就是量子纠缠的数学面目;9.82 的范数乘法公式 \(\|v\otimes w\|=\|v\|\|w\|\) 则对应概率幅的相乘。数值分析与机器学习中的张量网络方法,研究的正是高维张量积空间中「低秩近似」的计算问题——本页的维数公式与基结构,是那里全部算法的出发点。
结语:Axler 路线与后续学习
本书至此走完了一条刻意铺设的路线,而张量积是它的最后一块拱顶石:
向量空间 (第 1–2 章:子空间、基、维数) → 线性映射 (第 3 章:核与像、矩阵、可逆性、商空间,以及本节反复倚仗的对偶理论 3.F) → 多项式 (第 4 章:为算子准备代数工具) → 特征值与不变子空间 (第 5 章:极小多项式、上三角化、可对角化) → 内积空间 (第 6 章:标准正交基、正交补、伪逆) → 内积空间上的算子 (第 7 章:自伴与正规、谱定理、正算子、等距与 QR、奇异值分解及其推论) → 复向量空间上的算子 (第 8 章:广义特征空间分解、若尔当形、以及作为「矩阵–算子桥梁」的迹) → 多重线性代数与行列式 (第 9 章:双线性型与二次型、交错多重线性型、行列式,以及本节的张量积)。
这条路的特点是 Axler 标举的方法论:行列式被推迟到全书尽头——特征值、谱定理、迹、若尔当形都不经行列式而直接从线性映射的结构推出;直到多线性框架齐备,行列式才作为「交错 \(n\)-线性型的体积因子」一次性登场 (9.C),并在张量积的语言中获得归宿。回头看来,本节的对偶实现 \(\mathcal{B}(V',W')\) 之所以顺畅,正因第 3 章的对偶理论与第 9 章的多线性理论在此会师;泛性质的证明之所以只有半页,正因「线性映射由基上的取值决定」 (3.4) 从第 3 章起就被磨砺成最趁手的工具。
读毕本书,自然的后续方向包括:泛函分析——把本章的有限维构造推向无限维 (拓扑张量积、算子谱论、Hilbert 空间上的算子代数),那里的泛性质需要以「连续线性」重述;多线性代数与外代数——对称张量与交错张量、Graßmann 代数、微分形式与 Stokes 定理,以及表示论中的对称幂与外幂;表示论——研究 \(\otimes\) 如何携带群作用 (Schur–Weyl 对偶),张量积成为构造新表示的基本机械;量子信息与数值张量计算——纠缠、张量网络、低秩近似。它们共享同一个起点,也就是本节那个朴素的愿望:让「分别线性」成为「线性」。
全书完。
练习
练习 9.D-1
设 \(v\in V\),\(w\in W\)。证明:\(v\otimes w=0\) 当且仅当 \(v=0\) 或 \(w=0\)。(原书练习 9D.1)
解答「\(\Longleftarrow\)」:设 \(v=0\)。任取 \((\varphi,\tau)\in V'\times W'\),有 \((0\otimes w)(\varphi,\tau)=\varphi(0)\tau(w)=0\),故 \(0\otimes w\) 是零函数,即 \(0\otimes w=0\) (它既是 \(V\otimes W\) 的加法单位元)。同理 \(v\otimes 0=0\)。
「\(\Longrightarrow\)」:设 \(v\ne 0\) 且 \(w\ne 0\)。单元素列表 \(v\) 与 \(w\) 分别线性无关,由线性映射引理 (3.4) 存在 \(\varphi\in V'\) 使 \(\varphi(v)=1\),存在 \(\tau\in W'\) 使 \(\tau(w)=1\)。于是 \((v\otimes w)(\varphi,\tau)=\varphi(v)\tau(w)=1\ne 0\),故 \(v\otimes w\ne 0\)。
练习 9.D-2
设 \(v_1,\dots,v_m\) 是 \(V\) 中的线性无关列表,\(w_1,\dots,w_m\in W\) 满足 \(v_1\otimes w_1+\cdots+v_m\otimes w_m=0\)。证明:\(w_1=\cdots=w_m=0\)。(原书练习 9D.3)
解答固定 \(j\in\{1,\dots,m\}\)。由 3.4,存在 \(\varphi\in V'\) 使 \(\varphi(v_j)=1\) 且 \(\varphi(v_k)=0\) (\(k\ne j\))。任取 \(\tau\in W'\),考虑作用 \(\Phi_{\varphi,\tau}(x\otimes y)=\varphi(x)\tau(y)\)。对每个固定的 \((\varphi,\tau)\),映射 \(z\mapsto z(\varphi,\tau)\) 是 \(V\otimes W\to\mathbf{F}\) 的线性映射 (按 \(V\otimes W=\mathcal{B}(V',W')\) 的定义,即「在点 \((\varphi,\tau)\) 处求值」)。把题设等式作用于 \((\varphi,\tau)\):
\[ 0=\sum_{k=1}^{m}\varphi(v_k)\,\tau(w_k)=\tau(w_j). \]这对一切 \(\tau\in W'\) 成立。若 \(w_j\ne 0\),则由 3.4 可取 \(\tau\in W'\) 使 \(\tau(w_j)=1\),矛盾;故 \(w_j=0\)。由 \(j\) 任意,得证。
练习 9.D-3
设 \(m,n\) 为正整数。按例 2 的方式把 \(\mathbf{F}^{m}\otimes\mathbf{F}^{n}\) 的元素认同于 \(m\times n\) 矩阵。证明:纯张量的集合 \(\{v\otimes w\colon v\in\mathbf{F}^{m},\ w\in\mathbf{F}^{n}\}\) 恰是秩 \(\le 1\) 的全体 \(m\times n\) 矩阵。(原书练习 9D.5)
解答「\(\subseteq\)」:由例 2,\(v\otimes w\) 认同于 \(vw^{t}\),其第 \(k\) 列为 \(w_kv\in\operatorname{span}(v)\),故列空间至多一维,秩 \(\le 1\) (零矩阵对应 \(v=0\) 或 \(w=0\),秩为 \(0\))。
「\(\supseteq\)」:设 \(C\) 是秩 \(\le 1\) 的 \(m\times n\) 矩阵。若 \(C=0\),取 \(v=0\) 即可。否则 \(C\) 有某非零列,记 \(v=C_{\cdot,k_0}\ne 0\)。因秩 \(\le 1\),每列 \(C_{\cdot,k}\in\operatorname{span}(v)\),即存在 \(w_k\in\mathbf{F}\) 使 \(C_{\cdot,k}=w_kv\) (且因 \(v\ne 0\),\(w_k\) 唯一确定)。于是 \(C\) 的 \((j,k)\) 元为 \(v_jw_k\),即 \(C=vw^{t}\),其中 \(w=(w_1,\dots,w_n)\in\mathbf{F}^{n}\)。由例 2 的认同,\(C\) 对应纯张量 \(v\otimes w\)。
练习 9.D-4
设 \(v_1,\dots,v_m\in V\),\(w_1,\dots,w_m\in W\) 满足 \(v_1\otimes w_1+\cdots+v_m\otimes w_m=0\)。又设 \(U\) 是向量空间,\(\Gamma\colon V\times W\to U\) 是任一双线性映射。证明:\(\Gamma(v_1,w_1)+\cdots+\Gamma(v_m,w_m)=0\)。(原书练习 9D.8)
解答由 9.79(a),存在线性映射 \(\hat{\Gamma}\colon V\otimes W\to U\) 使 \(\hat{\Gamma}(v\otimes w)=\Gamma(v,w)\) 对一切 \((v,w)\) 成立。于是
\[ \sum_{k=1}^{m}\Gamma(v_k,w_k)=\sum_{k=1}^{m}\hat{\Gamma}(v_k\otimes w_k)=\hat{\Gamma}\Bigl(\sum_{k=1}^{m}v_k\otimes w_k\Bigr)=\hat{\Gamma}(0)=0, \]中间一步用了 \(\hat{\Gamma}\) 的线性性,最后一步用了线性映射把 \(0\) 映为 \(0\)。这题说明:「张量关系」对一切双线性映射普遍成立——泛性质的日常用法。
练习 9.D-5
设 \(S\in\mathcal{L}(V)\),\(T\in\mathcal{L}(W)\)。证明:\(V\otimes W\) 上存在唯一的算子,把每个 \(v\otimes w\) 送到 \(Sv\otimes Tw\)。(原书把此算子记作 \(S\otimes T\)。)(原书练习 9D.9)
解答定义 \(\Gamma\colon V\times W\to V\otimes W\) 为 \(\Gamma(v,w)=Sv\otimes Tw\)。它是双线性的:由 \(S\) 的线性性与 9.73,
\[ \Gamma(v_1+v_2,w)=\bigl(S(v_1+v_2)\bigr)\otimes Tw=(Sv_1+Sv_2)\otimes Tw=Sv_1\otimes Tw+Sv_2\otimes Tw, \]数乘与第二个变元的情形同理。由 9.79(a),存在唯一线性映射 \(S\otimes T\colon V\otimes W\to V\otimes W\) 满足 \((S\otimes T)(v\otimes w)=Sv\otimes Tw\)。它在算子空间 \(\mathcal{L}(V\otimes W)\) 中,且由 9.79(a) 的唯一性部分,这样的算子唯一。
补充观察:在基 \(\{e_j\otimes f_k\}\) 下,\(S\otimes T\) 的矩阵是 \(\mathcal{M}(S)\) 与 \(\mathcal{M}(T)\) 的 Kronecker 积;原书练习 9D.10 进一步证明 \(S\otimes T\) 可逆当且仅当 \(S,T\) 都可逆,且此时 \((S\otimes T)^{-1}=S^{-1}\otimes T^{-1}\) (用 \((S\otimes T)(S'\otimes T')=SS'\otimes TT'\),其证明与本解同型)。
练习 9.D-6
设 \(\dim V\gt 1\) 且 \(\dim W\gt 1\)。证明:集合 \(\{v\otimes w\colon (v,w)\in V\times W\}\) 不是 \(V\otimes W\) 的子空间 (从而它 \(\ne V\otimes W\))。(原书练习 9D.4)
解答取线性无关的 \(e_1,e_2\in V\) 与线性无关的 \(f_1,f_2\in W\) (维数假设保证存在),并扩充为基 \(e_1,\dots,e_m\) 与 \(f_1,\dots,f_n\)。由 9.74(b) 与 3.4,存在线性同构 \(\Theta\colon V\otimes W\to\mathbf{F}^{m,n}\),把基元 \(e_j\otimes f_k\) 映到矩阵单位 \(E_{jk}\)。例 2 的计算表明:对 \(v=\sum_jv_je_j\),\(w=\sum_kw_kf_k\),\(\Theta(v\otimes w)\) 的 \((j,k)\) 元是 \(v_jw_k\),即 \(\Theta(v\otimes w)=ab^{t}\),其中 \(a,b\) 是 \(v,w\) 的坐标列向量;由练习 3,这类矩阵秩 \(\le 1\)。
另一方面,\(\Theta(e_1\otimes f_1+e_2\otimes f_2)=E_{11}+E_{22}\),其秩为 \(2\)。若 \(e_1\otimes f_1+e_2\otimes f_2\) 本身是纯张量 \(v\otimes w\),则两边用 \(\Theta\) 作用,得秩为 \(2\) 的矩阵等于秩 \(\le 1\) 的矩阵,矛盾。于是两个纯张量之和不是纯张量:集合对加法不封闭,故不是子空间 (它显然包含 \(0=0\otimes 0\),失效的恰是加法)。正如 9.74 之后的注所指出的,这说明 \(\{v\otimes w\}\subsetneq V\otimes W\)。