表現論

線形代数だけでは $W$ に対する何らかの補空間が保証されるが、一般の補空間は $G$不変ではない。マシュケの定理は、任意の射影を群全体で平均することで、それが常に $G$作用と可換になるようにできることを示す。ただしその代償として $|G|$ で割る必要があり——これがまさに定理が $\operatorname{char}(k) \nmid |G|$ を必要とする理由であり、まさにこの割り算が不可能なモジュラー表現論がこれほど異なる振る舞いをする理由である。

ステップ1(任意の補空間から始める)。通常の線形代数により、$V$ における $W$ の任意のベクトル空間としての補空間 $U$($G$不変である必要はない)を選び、$\pi: V \to W$ を対応する射影とする($\pi|_W = \mathrm{id}$、$\ker\pi = U$)。

ステップ2(群全体で平均する)。$\bar\pi = \dfrac{1}{|G|}\sum_{g \in G} \rho(g)\, \pi\, \rho(g)^{-1}$ と定義する。これは $\operatorname{char}(k) \nmid |G|$ であるからこそ意味を持ち、したがって $|G|$ は $k$ で可逆である。

ステップ3($\bar\pi$ は依然として $W$ への射影である)。$w \in W$ に対して、$W$ が $G$不変なので $\rho(g)^{-1}w \in W$ となり、$\pi(\rho(g)^{-1}w) = \rho(g)^{-1}w$ が成り立ち、各項について $\rho(g)\pi(\rho(g)^{-1}w) = w$ が得られる;この $w$ の $|G|$ 個のコピーを平均すると $\bar\pi(w) = w$ となる。一般の $v \in V$ については、$\pi(\rho(g)^{-1}v) \in W$ は常に成り立つ($\pi$ の像であるから)ので、不変性により $\rho(g)\pi(\rho(g)^{-1}v) \in \rho(g)W = W$ となり、平均も $W$ にとどまる;したがって $\bar\pi: V \to W$ は $W$ への射影である。

ステップ4($\bar\pi$ は作用と可換なので、その核は $G$不変である)。任意の $h \in G$ に対して $\rho(h)\bar\pi\rho(h)^{-1} = \dfrac{1}{|G|}\sum_{g} \rho(hg)\pi\rho(hg)^{-1} = \bar\pi$ となる。なぜなら $g \mapsto hg$ は和を並べ替えるだけだからである;よって $\rho(h)\bar\pi = \bar\pi\rho(h)$。$W' = \ker\bar\pi$ とすると、$v \in W'$ に対して $\bar\pi(\rho(h)v) = \rho(h)\bar\pi(v) = \rho(h)(0) = 0$ となり、$\rho(h)v \in W'$:$W'$ は $G$不変であり、$\bar\pi$ が $W$ への射影であるから $V = W \oplus W'$ である。この分解を $W'$ に対して繰り返す(有限次元なので必ず終了する)ことで $V$ は既約表現の直和に分解される。

シューアの補題は既約表現ができる限り硬直的であることを述べる:群作用を尊重する写像はゼロであるか可逆であるかのいずれかであり、自己写像は単なるスカラーである。この硬直性こそが直交関係を強制するものであり、それが今度は極めて実用的な道具を与える——有限な数の表(指標表)上での内積テストが、どの表現が既約であり、任意の表現がどう分解するかを即座に教えてくれる。

ステップ1(シューアの補題、核と像)。$f: V \to W$ を $G$同変とする、すなわちすべての $g,v$ に対して $f(\rho_V(g)v) = \rho_W(g)f(v)$。このとき $\ker f \subseteq V$ は $G$不変部分空間であり($f(v)=0$ なら $f(\rho_V(g)v) = \rho_W(g)f(v) = 0$)、$V$ が既約であるから $\ker f$ は $0$ か $V$ 全体かのいずれかである。

ステップ2($f=0$ または $f$ が単射、その後全射であると結論する)。$\ker f = V$ なら $f = 0$ である。そうでなければ $\ker f = 0$ なので $f$ は単射であり、像 $f(V) \subseteq W$ も(同変性により)$G$不変である。$W$ が既約で $f(V) \ne 0$($f\ne0$ より)であるから $f(V) = W$ となり、$f$ は全単射、すなわち同型である。

ステップ3($V=W$ ならば $f=\lambda I$)。$\mathbb{C}$ は代数閉体であるから、$f$ は固有値 $\lambda$ を持ち、その固有空間 $E_\lambda = \ker(f-\lambda I) \ne 0$ である。$f$ が $G$同変なので $f - \lambda I$ もそうであり、$E_\lambda$ は既約な $V$ の非零 $G$不変部分空間となり $E_\lambda = V$ を強いる;よって $f = \lambda I$。

ステップ4(平均による直交性)。基底を固定し、$f: V_j \to V_i$ を任意の線形写像とする;マシュケの定理とまったく同様に同変写像 $\bar f = \dfrac{1}{|G|}\sum_{g} \rho_i(g) f \rho_j(g)^{-1}$ を作る。ステップ1–3により、$V_i \not\cong V_j$ なら $\bar f = 0$、$V_i = V_j$ なら $\bar f = \lambda I$($\lambda$ はトレースにより計算可能)である。$f$ を基本行列単位に選び、$\bar f$ の行列成分をこの等式の両辺で比較し、対角成分について和をとってトレースを抽出すると、まさに $\dfrac{1}{|G|}\sum_{g \in G} \chi_i(g)\overline{\chi_j(g)} = \delta_{ij}$ が得られる。