表示论

单凭线性代数只能保证 $W$ 存在某个补空间,但一般的补空间不会是 $G$不变的。马施克定理表明,我们总可以在整个群上对任意投影取平均,使其与 $G$ 作用可交换,代价是要除以 $|G|$——这正是该定理需要 $\operatorname{char}(k) \nmid |G|$ 的原因,也正是这种除法不可行的模表示论表现得如此不同的原因。

第一步(从任意补空间出发)。由普通线性代数,在 $V$ 中为 $W$ 选取任意向量空间补空间 $U$(不必 $G$不变),设 $\pi: V \to W$ 为对应的投影($\pi|_W = \mathrm{id}$,$\ker\pi = U$)。

第二步(在群上取平均)。定义 $\bar\pi = \dfrac{1}{|G|}\sum_{g \in G} \rho(g)\, \pi\, \rho(g)^{-1}$。这之所以有意义正是因为 $\operatorname{char}(k) \nmid |G|$,故 $|G|$ 在 $k$ 中可逆。

第三步($\bar\pi$ 仍是到 $W$ 的投影)。对 $w \in W$,由于 $W$ 是 $G$不变的,$\rho(g)^{-1}w \in W$,故 $\pi(\rho(g)^{-1}w) = \rho(g)^{-1}w$,每一项都给出 $\rho(g)\pi(\rho(g)^{-1}w) = w$;对这 $|G|$ 份 $w$ 取平均得 $\bar\pi(w) = w$。对一般的 $v \in V$,$\pi(\rho(g)^{-1}v) \in W$ 总成立(是 $\pi$ 的像),故由不变性 $\rho(g)\pi(\rho(g)^{-1}v) \in \rho(g)W = W$,取平均仍在 $W$ 中;因此 $\bar\pi: V \to W$ 是到 $W$ 的投影。

第四步($\bar\pi$ 与作用可交换,故其核 $G$不变)。对任意 $h \in G$,$\rho(h)\bar\pi\rho(h)^{-1} = \dfrac{1}{|G|}\sum_{g} \rho(hg)\pi\rho(hg)^{-1} = \bar\pi$,因为 $g \mapsto hg$ 只是重排求和;故 $\rho(h)\bar\pi = \bar\pi\rho(h)$。令 $W' = \ker\bar\pi$,对 $v \in W'$ 有 $\bar\pi(\rho(h)v) = \rho(h)\bar\pi(v) = \rho(h)(0) = 0$,故 $\rho(h)v \in W'$:$W'$ 是 $G$不变的,且由于 $\bar\pi$ 是到 $W$ 的投影,$V = W \oplus W'$。对 $W'$ 重复此分解(有限维保证过程终止)即把 $V$ 分解为不可约表示的直和。

舒尔引理表明不可约表示具有最强的刚性:它们之间尊重群作用的映射要么为零、要么可逆,自映射则只是纯量。正是这种刚性迫使正交关系成立,而正交关系反过来给出了一个极其实用的工具——在一张有限的数表(特征标表)上做内积检验,就能立刻判断哪些表示不可约,以及任何表示如何分解。

第一步(舒尔引理,核与像)。设 $f: V \to W$ 是 $G$等变的,即对所有 $g,v$ 有 $f(\rho_V(g)v) = \rho_W(g)f(v)$。则 $\ker f \subseteq V$ 是 $G$不变子空间(若 $f(v)=0$,则 $f(\rho_V(g)v) = \rho_W(g)f(v) = 0$),又因 $V$ 不可约,$\ker f$ 要么为 $0$ 要么为整个 $V$。

第二步(得出 $f=0$ 或 $f$ 单射进而满射)。若 $\ker f = V$,则 $f = 0$。否则 $\ker f = 0$,故 $f$ 单射;由等变性,像 $f(V) \subseteq W$ 也是 $G$不变的,又因 $W$ 不可约且 $f(V) \ne 0$(因 $f\ne0$),故 $f(V) = W$,从而 $f$ 双射,即为同构。

第三步($V=W$ 时 $f=\lambda I$)。由于 $\mathbb{C}$ 代数闭,$f$ 有特征值 $\lambda$,其特征空间 $E_\lambda = \ker(f-\lambda I) \ne 0$。由于 $f$ 是 $G$等变的,$f - \lambda I$ 也是,故 $E_\lambda$ 是不可约 $V$ 的非零 $G$不变子空间,迫使 $E_\lambda = V$;因此 $f = \lambda I$。

第四步(由取平均得正交性)。固定基,设 $f: V_j \to V_i$ 为任意线性映射;如马施克定理中那样构造等变映射 $\bar f = \dfrac{1}{|G|}\sum_{g} \rho_i(g) f \rho_j(g)^{-1}$。由第一至三步,若 $V_i \not\cong V_j$ 则 $\bar f = 0$,若 $V_i = V_j$ 则 $\bar f = \lambda I$(其中 $\lambda$ 可由迹算出)。取 $f$ 为基本矩阵单位,比较 $\bar f$ 在该等式两边的矩阵元,再对对角线求和以提取迹,恰好得到 $\dfrac{1}{|G|}\sum_{g \in G} \chi_i(g)\overline{\chi_j(g)} = \delta_{ij}$。