群表示基本思路是建立群到一般线性群 GL(V)\text{GL}(V) 的同态映射，将复杂的群论问题转化为相对熟悉的线性代数问题。该理论主要沿着有限群表示论、李群表示论和模表示论三条脉络发展，它们分别对应于离散对称性、连续对称性，以及在素数特征域上的深入研究。这不仅丰富了数学本身，也为现代物理学和化学提供了不可或缺的理论语言和分析工具。

群表示基础

基本定义

通俗来讲，群表示就是将群元素写成矩阵的方式。例如循环群 C4={e,a,a2,a3}C_4=\{e,a,a^2,a^3\}，从几何变换出发，我们能得到矩阵群

I=[1001],M=[0−110],M2=[−100−1],M3=[01−10]I=\begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix},\quad M=\begin{bmatrix}0 & -1 \\ 1 & 0\end{bmatrix},\quad M^2=\begin{bmatrix}-1 & 0 \\ 0 & -1\end{bmatrix},\quad M^3=\begin{bmatrix}0 & 1 \\ -1 & 0\end{bmatrix}

它是二阶一般线性群 GL2(C)\mathrm{GL}_2(\Complex) 的一个子群，且与 C4C_4 同构：a↦Ma \mapsto M 。

矩阵表示：从群 GG 到一般线性群 GLn(C)\mathrm{GL}_n(\Complex) 的群同态

R:G→GLn(C)R:G \to \mathrm{GL}_n(\Complex)

称为一个矩阵表示。其中每个 R(g)R(g) 是一个可逆矩阵，且由同态性质知道

R(gh)=R(g)R(h)R(gh)=R(g)R(h)

当研究表示时，本质上尽可能不用固定的基，为此，我们引入群在一个有限维向量空间 VV 上表示的抽象概念。记 GL(V)\mathrm{GL}(V) 是 VV 上的所有可逆线性变换的集合，则 GL(V)\mathrm{GL}(V) 构成一个群，乘法则是函数复合。

群表示：从群 GG 到一般线性群 GL(V)\mathrm{GL}(V) 的群同态

ρ:G→GL(V)\rho: G \to \mathrm{GL}(V)

称为群 GG 的一个表示，常记作二元组 (ρ,V)(\rho,V) ，其中 dim⁡ρ=dim⁡V\dim \rho=\dim V 称为表示维度。若表示 ρ\rho 是单同态，则称该表示为忠实表示 (faithful)。对于任意群 GG ，将每个群元素都映射到恒等映射 ，显然是一个群表示，称为平凡表示。

选定向量空间 VV 的一组基 B=(e1,⋯ ,en)B=(\boldsymbol e_1,\cdots,\boldsymbol e_n) ，矩阵表示 RR 满足

ρ(g)(B)=BR(g)\rho(g)(B)=BR(g)

如果 x\boldsymbol x 是 v∈V\boldsymbol v\in V 的坐标向量，即 v=Bx\boldsymbol v=B\boldsymbol x ，则 R(g)xR(g)\boldsymbol x 是 ρ(g)(v)\rho(g)(\boldsymbol v) 的坐标向量。因此，若选定一组基，GG 在一个有限维向量空间的所有表示都可变为矩阵表示

GL(V)≅GLn(C),ρ(g)↦R(g)\mathrm{GL}(V)\cong\mathrm{GL}_n(\Complex),\quad \rho(g)\mapsto R(g)

本文中，将使用 ρ(g)\rho(g) 符号同时代表抽象表示和矩阵表示。当 ρ\rho 是矩阵表示时，则默认附加了一组基。

示例1：Klein四元群 V4={e,h,v,hv}V_4=\{e,h,v,hv\} 在二维笛卡尔坐标系上的几何表示

ρ(e)=[1001],ρ(h)=[−1001],ρ(v)=[100−1],ρ(hv)=[−100−1]\rho(e)=\begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix},\quad \rho(h)=\begin{bmatrix}-1 & 0 \\ 0 & 1\end{bmatrix},\quad \rho(v)=\begin{bmatrix}1 & 0 \\ 0 & -1\end{bmatrix},\quad \rho(hv)=\begin{bmatrix}-1 & 0 \\ 0 & -1\end{bmatrix}

示例2：对称群 SnS_n 的符号表示：

sgn:Sn→C2,sgn(σ)={+1,if σ is an even permutation−1,if σ is an odd permutation\mathrm{sgn}: S_n \to C_2,\quad \mathrm{sgn}(\sigma)= \begin{cases} +1,& \text{if }\sigma\text{ is an even permutation} \\ -1,& \text{if }\sigma\text{ is an odd permutation} \end{cases}

示例3：二面体群 D3=⟨r,f⟩D_3=\lang r,f\rang 的矩阵表示

ρ(e)=[1001],ρ(r)=[−12−3232−12],ρ(r2)=[−1232−32−12]ρ(f)=[−1001],ρ(fr)=[123232−12],ρ(fr2)=[12−32−32−12]\rho(e)=\begin{bmatrix}1&0\\0&1\end{bmatrix},\quad \rho(r)=\begin{bmatrix}-\frac{1}{2}&-\frac{\sqrt3}{2}\\ \frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix},\quad \rho(r^2)=\begin{bmatrix}-\frac{1}{2}&\frac{\sqrt3}{2}\\ -\frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix} \\ \rho(f)=\begin{bmatrix}-1&0\\ 0&1\end{bmatrix},\quad \rho(fr)=\begin{bmatrix}\frac{1}{2}&\frac{\sqrt3}{2}\\ \frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix},\quad \rho(fr^2)=\begin{bmatrix}\frac{1}{2}&-\frac{\sqrt3}{2}\\ -\frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix}

表示的性质

  1. 表示的限制：设 ρ:G→GL(V)\rho:G\to\mathrm{GL}(V) 是群 GG 的表示，HH 是 GG 的子群。将 ρ\rho 限制在 HH 上，得到 HH 的表示 ρ∣H:H→GL(V)\rho|_H:H\to\mathrm{GL}(V) 。
  2. 表示的复合：设 f:H→Gf:H\to G 是群同态，ρ:G→GL(V)\rho:G\to\mathrm{GL}(V) 是 GG 的表示，则复合映射 ρ∘f:H→GL(V)\rho\circ f:H\to\mathrm{GL}(V) 是 HH 的表示。

证明：(2) 群同态的复合仍是群同态，故结论成立。

G-同态

等价：令 R, R′R,\ R' 为同一个表示 ρ\rho 的两个矩阵表示，若存在可逆矩阵 PP ，对所有 g∈Gg\in G 满足

R′(g)=P−1R(g)PR'(g)=P^{-1}R(g)P

则称 R′R' 与 RR 等价 (equivalent)，记作 R′∼RR'\sim R。线性代数中，其实就是不同基下的相似变换。

表示的同态：设 ρV:G→GL(V), ρW:G→GL(W)\rho_V:G\to\mathrm{GL}(V),\ \rho_W:G\to\mathrm{GL}(W) 是群 GG 的两个表示。若线性映射 T:V→WT :V\to W 对于任意 g∈Gg\in G 满足：

T∘ρV(g)=ρW(g)∘TT\circ \rho_V(g) = \rho_W(g)\circ T

则称 TT 为 GG-同态 (GG-homomorphism)，也称为 GG-不变映射 (GG-equivariant) 或 交织算子 (intertwining operator)。若 TT 是双射，则称为 GG-同构，并称这两个表示同构 。

另外 TT 是线性映射，还需要满足

T(av+bu)=aT(v)+bT(u)T(a\boldsymbol v+b\boldsymbol u)=aT(\boldsymbol v)+bT(\boldsymbol u)

定理：设 ρV:G→GL(V), ρW:G→GL(W)\rho_V:G\to\mathrm{GL}(V),\ \rho_W:G\to\mathrm{GL}(W) 是群 GG 的两个表示，则表示 ρV,ρW\rho_V,\rho_W 同构当且仅当它们的矩阵表示等价 。

证明：取定 VV 和 WW 的基，对应的矩阵表示为 RR 和 R′R'

(⇒)(\Rightarrow) 令 T:V→WT:V\to W 是 GG-同构，其矩阵为 AA。于是对任意 g∈Gg\in G 有

AR(g)=R′(g)AAR(g)=R'(g)A

由于 TT 是双射，故 AA 可逆。因此

R′(g)=AR(g)A−1R'(g)=AR(g)A^{-1}

所以 R′∼RR'\sim R 。

(⇐)(\Leftarrow) 设存在可逆矩阵 AA 使得 R′(g)=AR(g)A−1R'(g)=AR(g)A^{-1} ，取以 AA 为矩阵的线性映射 T:V→WT:V\to W ，便可得到

T∘ρV(g)=ρW(g)∘TT\circ \rho_V(g) = \rho_W(g)\circ T

所以表示 ρV,ρW\rho_V,\rho_W 同构。

例如，循环群 C2={e,a}C_2=\{e,a\}，其表示矩阵为：

ρ(e)=[1001], ρ(a)=[0110]\rho(e)=\begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix},\ \rho(a)=\begin{bmatrix}0 & 1 \\ 1 & 0\end{bmatrix}

在复数域 C\Complex 上的一维表示 σ\sigma 为

σ(e)=1, σ(a)=−1\sigma(e)=1,\ \sigma(a)=-1

定义线性映射 T:C2→CT:\Complex^2\to\Complex，其矩阵为 (1,−1)(1,-1)。对任意向量 x=[x1x2]∈C2\boldsymbol x=\begin{bmatrix}x_1\\x_2\end{bmatrix}\in\Complex^2 ，有

T∘ρ(a)(x)=[1−1][0110][x1x2]=−[1−1][x1x2]=σ(a)∘T(x)T\circ\rho(a)(\boldsymbol x)=\begin{bmatrix}1&-1\end{bmatrix}\begin{bmatrix}0 & 1 \\ 1 & 0\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix} =-\begin{bmatrix}1&-1\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix} =\sigma(a)\circ T(\boldsymbol x)

同时 TT 是双射，因此 TT 是 GG-同构。

置换表示

从群作用的角度，群表示 ρ:G→GL(V)\rho: G \to \mathrm{GL}(V) 等价于群 GG 在向量空间 VV 上的一个线性作用：

∗:G×V→V,gv=ρ(g)(v)*:G \times V \to V,\quad g\boldsymbol v=\rho(g)(\boldsymbol v)

满足群作用的两条基本性质和线性性

  1. ev=ve\boldsymbol v = \boldsymbol v
  2. (gh)v=g(hv)(gh)\boldsymbol v = g(h\boldsymbol v)
  3. g(av+bw)=a(gv)+b(gw)g(a\boldsymbol v+b\boldsymbol w)=a(g\boldsymbol v)+b(g\boldsymbol w)

回忆Cayley定理，任意 nn 阶有限群 GG 同构于对称群 SnS_n 的一个子群，因此我们可以利用群 GG 在集合上的作用构造群 GG 的一个表示，称为置换表示。

令 VV 是一个 nn 维向量空间，取一组基 {e1,⋯ ,en}\{\boldsymbol e_1,\cdots,\boldsymbol e_n\}。定义表示 ρ(g)\rho(g) 在这个基上的作用为：

ρ(g):ei↦gei\rho(g):\boldsymbol e_i\mapsto g\boldsymbol e_i

对于任意向量

v=v1e1+⋯+vnen∈V\boldsymbol v=v_1\boldsymbol e_1+\cdots+v_n\boldsymbol e_n\in V

构造同态映射 ρ\rho

ρ(g):V→V,ρ(g)(v)=∑i=1nvi(gei)\rho(g):V\to V,\quad \rho(g)(\boldsymbol v)=\sum_{i=1}^nv_i (g\boldsymbol e_i)

即元素 g∈Gg\in G 通过置换基向量并令系数不变而作用在向量上。其中 ρ(g)\rho(g) 是描述 gg 在基向量上作用的置换矩阵——每行每列恰好只有一个1。

例如：对称群 S3S_3 作用在三维空间，置换表示

ρ((1))=[100010001],ρ((12))=[010100001],ρ((13))=[001010100],ρ((23))=[100001010],ρ((123))=[001100010],ρ((321))=[010001100],\rho((1))=\begin{bmatrix}1&0&0\\ 0&1&0\\ 0&0&1\end{bmatrix},\quad \rho((12))=\begin{bmatrix}0&1&0\\ 1&0&0\\ 0&0&1\end{bmatrix},\quad \rho((13))=\begin{bmatrix}0&0&1\\ 0&1&0\\ 1&0&0\end{bmatrix}, \\ \rho((23))=\begin{bmatrix}1&0&0\\ 0&0&1\\ 0&1&0\end{bmatrix},\quad \rho((123))=\begin{bmatrix}0&0&1\\ 1&0&0\\ 0&1&0\end{bmatrix},\quad \rho((321))=\begin{bmatrix}0&1&0\\ 0&0&1\\ 1&0&0\end{bmatrix},

正则表示

我们可以从任意有序集合 X={x1,⋯ ,xn}X=\{x_1,\cdots,x_n\} 出发，通过形式化的线性组合来定义一个复向量空间

C[X]={a1x1+⋯+anxn∣a1,⋯ ,an∈C}\Complex[X]=\left\{a_1x_1+\cdots+a_nx_n\mid a_1,\cdots,a_n\in\Complex\right\}

加法和数乘则定义为

∑iaixi+∑ibixi=∑i(ai+bi)xi,λ∑iaixi=∑i(λai)xi\sum_ia_ix_i+\sum_ib_ix_i=\sum_i(a_i+b_i)x_i,\\ \lambda\sum_ia_ix_i=\sum_i(\lambda a_i)x_i

容易验证 C[X]\Complex[X] 是向量空间。

对于有限群 GG ，向量空间 C[G]\Complex[G] 称为群空间。空间中的任意向量按基展开

v=∑g∈Gvgg,(vg∈C)\boldsymbol v=\sum_{g\in G}v_gg,\quad (v_g\in\Complex)

群 GG （左乘）作用于自身得到的表示

ρreg(g):h→gh\rho_{\mathrm{reg}}(g):h\to gh

称为正则表示 (regular representation)。显然 GG 是 C[G]\Complex[G] 的一组基，因此 dim⁡C[G]=∣G∣\dim\Complex[G]=|G| 。

示例1：设三阶循环群 C3={e,a,a2}C_3=\{e,a,a^2\}，该群同构于 S3S_3 的子群 {(1),(123),(132)}\{(1),(123),(132)\} 。其正则表示为：

ρ(e)=[100010001], ρ(a)=[001100010], ρ(a2)=[010001100]\rho(e)=\begin{bmatrix}1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{bmatrix},\ \rho(a)=\begin{bmatrix}0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0\end{bmatrix},\ \rho(a^2)=\begin{bmatrix}0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0\end{bmatrix}

示例2：Klein 四元群 V4={e,h,v,r}V_4=\{e,h,v,r\} 的正则表示

ρ(e)=[1000010000100001], ρ(h)=[0100100000010010],ρ(v)=[0010000110000100], ρ(r)=[0001001001001000], \rho(e)=\begin{bmatrix}1 & 0 & 0 & 0 \\ 0 & 1 & 0 &0 \\ 0 & 0 & 1 & 0 \\ 0&0&0&1\end{bmatrix},\ \rho(h)=\begin{bmatrix}0 & 1 & 0 & 0 \\ 1 & 0 & 0 &0 \\ 0 & 0 & 0 & 1 \\ 0&0&1&0\end{bmatrix},\\ \rho(v)=\begin{bmatrix}0 & 0 & 1 & 0 \\ 0 & 0 & 0 &1 \\ 1 & 0 & 0 & 0 \\ 0&1&0&0\end{bmatrix},\ \rho(r)=\begin{bmatrix}0 & 0 & 0 & 1 \\ 0 & 0 & 1 &0 \\ 0 & 1 & 0 & 0 \\ 1&0&0&0\end{bmatrix},\

酉表示

选定一组基，若群表示 ρ:G→GL(V)\rho:G \to \mathrm{GL}(V) 的所有矩阵都是酉矩阵，则称为酉表示（Unitary，又译为幺正）。矩阵表示记为 RgR_g ，对所有 g∈Gg\in G 满足

Rg†Rg=RgRg†=InR^\dagger_g R_g=R_gR^\dagger_g=I_n

定理：有限群 GG 的任何矩阵表示都存在等价的酉表示。

先在 VV 上随便选一个正定的Hermitian矩阵 AA ，定义一个群内积

⟨v,w⟩G=∑g∈G[Rgv]†A[Rgw]\langle\boldsymbol v,\boldsymbol w\rangle_G=\sum_{g\in G} [R_g\boldsymbol v]^\dagger A[R_g \boldsymbol w]

简写为群作用的形式

⟨v,w⟩G=∑g∈G(gv)†A(gw)\langle\boldsymbol v,\boldsymbol w\rangle_G=\sum_{g\in G}(g\boldsymbol v)^\dagger A(g\boldsymbol w)

由于

(gv)†Ag(w+w′)=(gv)†A(gw+gw′)=(gv)†A(gw)+(gv)†A(gw′)(g\boldsymbol v)^\dagger Ag(\boldsymbol w+\boldsymbol w')=(g\boldsymbol v)^\dagger A(g\boldsymbol w+g\boldsymbol w')=(g\boldsymbol v)^\dagger A(g\boldsymbol w)+(g\boldsymbol v)^\dagger A(g\boldsymbol w')

因此

⟨v,w+w′⟩G=∑g∈G(gv)†Ag(w+w′)=∑g∈G(gv)†A(gw)+∑g∈G(gv)†A(gw′)=⟨v,w⟩G+⟨v,w′⟩G\begin{aligned} \lang\boldsymbol v,\boldsymbol w+\boldsymbol w'\rang_G &=\sum_{g\in G} (g\boldsymbol v)^\dagger Ag(\boldsymbol w+\boldsymbol w') \\ &=\sum_{g\in G} (g\boldsymbol v)^\dagger A(g\boldsymbol w) +\sum_{g\in G} (g\boldsymbol v)^\dagger A(g\boldsymbol w') \\ &=\lang\boldsymbol v,\boldsymbol w\rang_G+\lang\boldsymbol v,\boldsymbol w'\rang_G \end{aligned}

定义的 ⟨,⟩G\lang,\rang_G 却是一个内积。

根据群的重排定理，易知

⟨gv,gw⟩G=∑h∈G(hgv)†A(hgw)=⟨v,w⟩G\lang g\boldsymbol v, g\boldsymbol w\rang_G=\sum_{h\in G} (hg\boldsymbol v)^\dagger A(hg\boldsymbol w)=\lang\boldsymbol v, \boldsymbol w\rang_G

对旧基关于新内积 ⟨,⟩G\lang,\rang_G 做Gram-Schmidt正交化，得到标准正交基

{e1,e2,⋯ ,en} s.t. ⟨ei,ej⟩G=δij\{\boldsymbol e_1,\boldsymbol e_2,\cdots,\boldsymbol e_n\}\quad \text{ s.t. } \lang\boldsymbol e_i, \boldsymbol e_j\rang_G=\delta_{ij}

在这组基下，ρ(g)\rho(g) 的矩阵记为 MM ，则

gej=∑iMijeig\boldsymbol e_j=\sum_i M_{ij}\boldsymbol e_i

新内积

⟨gej,gek⟩G=⟨∑iMijei,∑lMlkel⟩G=∑i,lMijMlk‾⟨ei,el⟩G=∑iMijMik‾\begin{aligned} \lang g\boldsymbol e_j, g\boldsymbol e_k\rang_G &=\left\langle \sum_i M_{ij}\boldsymbol e_i, \sum_lM_{lk}\boldsymbol e_l\right\rangle_G \\ &=\sum_{i,l}M_{ij}\overline{M_{lk}}\lang\boldsymbol e_i, \boldsymbol e_l\rang_G \\ &=\sum_{i}M_{ij}\overline{M_{ik}} \end{aligned}

由于

(M†M)jk=∑iMijMik‾=⟨ej,ek⟩G=δjk(M^\dagger M)_{jk}=\sum_{i}M_{ij}\overline{M_{ik}}=\lang\boldsymbol e_j, \boldsymbol e_k\rang_G=\delta_{jk}

故

M†M=IM^\dagger M=I

即 MM 是酉表示。

有了这个定理，对有限群的表示的所有分析都可以基于酉表示的性质。

不可约表示

子表示

子表示：设 (ρ,V)(\rho,V) 是群 GG 的一个表示，WW 是 VV 的子空间。若对任意 g∈G, w∈Wg\in G,\ \boldsymbol w\in W，都有

ρ(g)(w)∈W\rho(g)(\boldsymbol w)\in W

则称 WW 是 (ρ,V)(\rho,V) 的不变子空间 (invariant subspace)。此时，限制在 WW上的线性映射

ρW(g)=ρ(g)∣W:W→W\rho_W(g)=\rho(g)|_W:W\to W

是 GG 的一个新表示 (ρW,W)(\rho_W,W) ，称为原表示 (ρ,V)(\rho,V) 的子表示。

给全空间 VV 选适配不变子空间的基 {e1,⋯ ,em,em+1,⋯ ,en}\{\boldsymbol e_1,\cdots,\boldsymbol e_m,\boldsymbol e_{m+1},\cdots,\boldsymbol e_n\} ，前 mm 个是不变子空间WW的一组基。 此时，任意 ρ(g)\rho(g) 写成分块形式

ρ(g)=[AgBg0Cg]\rho(g)=\begin{bmatrix}A_g & B_g \\ 0 & C_g\end{bmatrix}

其中 AgA_g 就是限制表示矩阵 ρW(g)\rho_W(g) ，左下角是零块，这正是WW 不变的矩阵等价条件。

这意味着 WW 中的变量 w=(x,0)⊤\boldsymbol w=(x,0)^\top 变换后仍然在 WW 中

ρ(g)[x0]=[Agx0]\rho(g)\begin{bmatrix}x\\0\end{bmatrix}=\begin{bmatrix}A_gx\\0\end{bmatrix}

对于任意表示，都有两个平凡的不变子空间：零空间 {0}\{0\} 和全空间 VV 。

不可约表示：若表示 (ρ,V)(\rho,V) 只有平凡不变子空间，称为不可约表示(irreducible)；否则称为可约表示(reducible) 。

可约表示的表示矩阵可以通过相似变换写成上三角块矩阵，而不可约表示则不能。与不可约表示 ρ\rho 等价的表示也是不可约的，通过相似变换可以得到无穷多个与 ρ\rho 等价但不相同的不可约表示。

示例1：对于循环群 C3={e,a,a2}C_3=\{e,a,a^2\} 的正则表示。取一维子空间 W=span{[111]}W=\mathrm{span}\left\{\begin{bmatrix}1 \\ 1 \\ 1\end{bmatrix}\right\}，验证不变性：

ρreg(a)[111]=[001100010][111]=[111]∈W\rho_{\text{reg}}(a)\begin{bmatrix}1 \\ 1 \\ 1\end{bmatrix}= \begin{bmatrix}0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0\end{bmatrix} \begin{bmatrix}1 \\ 1 \\ 1\end{bmatrix}= \begin{bmatrix}1 \\ 1 \\ 1\end{bmatrix}\in W

故 WW 是不变子空间。子表示

ρW:e↦1, a↦1, a2↦1\rho_W:e\mapsto1,\ a\mapsto1,\ a^2\mapsto1

示例2：若向量 v∈Cn\boldsymbol v\in\Complex^n 是全体表示矩阵 ρ(g)\rho(g) 的公共特征向量，即 ρ(g)v=λgv\rho(g)\boldsymbol v=\lambda_g \boldsymbol v ，则 span{v}\mathrm{span}\{\boldsymbol v\} 是一维不变子空间。

示例3：二面体群 D3=⟨f,r⟩D_3=\langle f,r\rangle 。取二维表示：

ρ(r)=[ζ00ζ2],ρ(f)=[0110]\rho(r)=\begin{bmatrix}\zeta & 0 \\ 0 & \zeta^2\end{bmatrix},\quad \rho(f)=\begin{bmatrix}0 & 1 \\ 1 & 0\end{bmatrix}

其中 ζ=exp⁡(2πi/3)\zeta=\exp(2\pi\mathrm{i}/3) 。

我们来证明 ρ\rho 是不可约的：假设 ρW\rho_W 是一个非平凡子表示，dim⁡W=1\dim W=1，则 WW 在 ρ(r)\rho(r) 和 ρ(f)\rho(f) 的作用下保持不变，即它必须是这两个矩阵的公共特征子空间。但 ρ(r)\rho(r) 的特征向量为 [11]\begin{bmatrix}1 \\ 1\end{bmatrix} 和 [1−1]\begin{bmatrix}1 \\ -1\end{bmatrix} ，而 ρ(f)\rho(f) 的特征向量为 [10]\begin{bmatrix}1 \\ 0\end{bmatrix} 和 [01]\begin{bmatrix}0 \\ 1\end{bmatrix} 。二者没有公共特征向量，因此不存在这样的不变子空间 WW。

定理：设 T:V→WT:V\to W 是 GG-同态，则 ker⁡(T)\ker(T) 是 VV 的不变子空间，Im(T)\mathrm{Im}(T) 是 WW 的不变子空间。

证明：对任意 v∈ker⁡(T)⊆V\boldsymbol v\in\ker(T)\subseteq V 有 T(v)=0T(\boldsymbol v)=0 ，于是

T∘ρV(g)(v)=ρW(g)∘T(v)=0T\circ\rho_V(g)(\boldsymbol v)=\rho_W(g)\circ T(\boldsymbol v)=0

因此 ρV(g)(v)∈ker⁡(T)\rho_V(g)(\boldsymbol v)\in \ker(T) ，故 ker⁡(T)\ker(T) 是 VV 的不变子空间。

对任意 w∈Im(T)⊆W\boldsymbol w\in\mathrm{Im}(T)\subseteq W ，令 w=T(v)\boldsymbol w=T(\boldsymbol v)，于是

ρW(g)(w)=ρW(g)∘T(v)=T∘ρV(g)(v)∈Im(T)\rho_W(g)(\boldsymbol w)=\rho_W(g)\circ T(\boldsymbol v)=T\circ\rho_V(g)(\boldsymbol v)\in\mathrm{Im}(T)

因此 Im(T)\mathrm{Im}(T) 是 WW 的不变子空间。

直和表示

先回顾向量空间直和：设 V=W⊕UV=W\oplus U ，则对于任意 v∈V\boldsymbol v\in V 都可唯一的表示成 v=w+u\boldsymbol v=\boldsymbol w+\boldsymbol u 。

对于有限群 GG ，若 W, UW,\ U 都是 GG-不变子空间。定义线性映射

T:W⊕U→V,(w,u)↦w+uT:W\oplus U\to V ,\quad (\boldsymbol w,\boldsymbol u)\mapsto \boldsymbol w+\boldsymbol u

记

ρW:G→GL(W),ρU:G→GL(U)\rho_W:G\to\text{GL}(W),\quad\rho_U:G\to\text{GL}(U)

分别为 GG 在 WW和 UU 上的子表示。由定义，对于任意 w∈W, u∈U\boldsymbol w\in W,\ \boldsymbol u\in U 有

ρW(g)(w)=ρV(g)(w),ρU(g)(u)=ρV(g)(u)\rho_W(g)(\boldsymbol w)=\rho_V(g)(\boldsymbol w),\quad\rho_U(g)(\boldsymbol u)=\rho_V(g)(\boldsymbol u)

于是有如下交换图

direct-sum-of-group-representations

因此 TT 是 GG-同构，从而

ρV∼ρW⊕ρU\rho_V\sim \rho_W\oplus \rho_U

我们称 ρ\rho 是它的子表示 ρW\rho_W 和 ρU\rho_U 的直和。

取 W,UW,U 的基 {e1,⋯ ,em}\{\boldsymbol e_1,\cdots,\boldsymbol e_m\} 和 {em+1,⋯ ,en}\{\boldsymbol e_{m+1},\cdots,\boldsymbol e_n\} ，则 {e1,⋯ ,em,em+1,⋯ ,en}\{\boldsymbol e_1,\cdots,\boldsymbol e_m,\boldsymbol e_{m+1},\cdots,\boldsymbol e_n\} 显然是 V=W⊕UV=W\oplus U 的一组基。在这组基下的直和表示是分块对角阵（block-diagonal）

(ρW⊕ρU)(g)=[ρW(g)00ρU(g)](\rho_W\oplus \rho_U)(g)=\begin{bmatrix}\rho_W(g)& 0\\ 0 &\rho_U(g)\end{bmatrix}

每个块的乘法分别对应相应的子表示的作用。

这个结论可以推广到 VV 是多个 GG-不变子空间的直和的情形，相应的矩阵表示是子矩阵表示组成的分块对角矩阵。

反之，已知群 GG 的两个矩阵表示，我们可以通过分块对角阵的形式构造更大表示空间的矩阵表示。

例如：循环群 C2C_2 的二维正则表示中，取不变子空间 W=span{[11]}W=\mathrm{span}\left\{\begin{bmatrix}1 \\ 1\end{bmatrix}\right\} 的一个补空间 U=span{[1−1]}U=\mathrm{span}\left\{\begin{bmatrix}1 \\ -1\end{bmatrix}\right\} 。有

ρ(a)[1−1]=[0110][1−1]=[−11]∈U\rho(a)\begin{bmatrix}1 \\ -1\end{bmatrix}= \begin{bmatrix}0 & 1 \\ 1 & 0\end{bmatrix}\begin{bmatrix}1 \\ -1\end{bmatrix}= \begin{bmatrix}-1 \\ 1\end{bmatrix}\in U

因此 UU 也是不变子空间，且 R2=W⊕U\R^2=W\oplus U 。

取一组新的基 e1=[11], e2=[1−1]\boldsymbol e_1=\begin{bmatrix}1 \\ 1\end{bmatrix},\ \boldsymbol e_2=\begin{bmatrix}1 \\ -1\end{bmatrix} ，表示矩阵变为分块对角：

ρ(a)=[100−1]\rho(a)=\begin{bmatrix}1&0 \\ 0&-1\end{bmatrix}

Maschke定理

Maschke定理是有限群表示论中最重要的定理之一。

Maschke定理：设 (ρ,V)(\rho,V) 是有限群 GG 的一个表示，ρW\rho_W 是一个子表示，则在 VV 中必存在一个补表示 ρU\rho_U，使得 ρ∼ρW⊕ρU\rho\sim\rho_W\oplus \rho_U 。

先来回顾下投影的概念。设 VV 是向量空间，WW 是一个子空间，则存在（不唯一）补空间 UU 满足 V=W⊕UV=W\oplus U ，对于任意 v∈V\boldsymbol v\in V 都可唯一的表示成 v=w+u\boldsymbol v=\boldsymbol w+\boldsymbol u 。称

P:V→W,v↦wP:V\to W,\quad\boldsymbol v\mapsto\boldsymbol w

是 VV 在 WW 上的投影。容易验证， PP 是线性映射。

若 x∈ker⁡(P)∩W\boldsymbol x\in\ker(P)\cap W ，则 P(x)=x=0P(\boldsymbol x)=\boldsymbol x=0 ，因此 ker⁡(P)∩W={0}\ker(P)\cap W=\{0\}。又 PP 是满射，由Rank-Nullity定理

dim⁡V=dim⁡ker⁡(P)+rank(P)=dim⁡ker⁡(P)+dim⁡W\dim V=\dim\ker(P)+\text{rank}(P)=\dim\ker(P)+\dim W

因此，ker⁡(P)\ker(P) 是 WW 的补空间

V=W⊕ker⁡(P)V=W\oplus\ker(P)

若 PP 是 GG-同态，则 ker⁡(P)\ker(P) 是不变子空间。因此，我们只需要找到一个投影 P:V→WP:V\to W 是 GG-同态即可。

我们先定义一个普通的投影 P~:V→W\widetilde P:V\to W ，一般来说 P~\widetilde P 未必是 GG-同态。接着通过群平均技巧构造

P=1∣G∣∑g∈Gρ(g)∘P~∘ρ(g−1)P=\frac{1}{|G|}\sum_{g\in G}\rho(g)\circ \widetilde{P}\circ\rho(g^{-1})

由于线性变换的复合和线性变换的和仍是线性变换，因此 PP 仍是线性变换。

对任意 w∈W\boldsymbol w\in W ，因为 WW 是 GG-不变子空间，故 g−1w∈Wg^{-1}\boldsymbol w\in W，且 P~\widetilde{P} 在 WW 上是恒等映射，因此

P(w)=1∣G∣∑ggg−1w=wP(\boldsymbol w)=\frac{1}{|G|}\sum_ggg^{-1}\boldsymbol w=\boldsymbol w

故 PP 是线性投影。

任取 h∈G, v∈Vh\in G,\ \boldsymbol v\in V ，利用群元素重排求和不变的性质

P(hv)=1∣G∣∑g∈GgP~g−1(hv)=1∣G∣∑g∈Gh(g−1h)−1P~(g−1h)(v)=hP(v)\begin{aligned} P(h\boldsymbol v) &=\frac{1}{|G|}\sum_{g\in G}g \widetilde{P}g^{-1}(h\boldsymbol v)\\ &=\frac{1}{|G|}\sum_{g\in G}h(g^{-1}h)^{-1}\widetilde{P}(g^{-1}h)(\boldsymbol v) \\ &=hP(\boldsymbol v) \end{aligned}

因此，PP 是 GG-同态。

综上， U=ker⁡(P)U=\ker(P) 是 GG-不变子空间，且 V=W⊕UV=W\oplus U。又 ρW\rho_W 是子表示，故 ρ∼ρW⊕ρU\rho\sim\rho_W\oplus \rho_U 。

推论：任何有限群表示都可以分解为有限个不可约表示的直和。

ρ(g)∼ρ1(g)⊕ρ2(g)⊕⋯⊕ρr(g)\rho(g)\sim\rho_1(g)\oplus\rho_2(g)\oplus\cdots\oplus\rho_r(g)

证明：对表示空间做数学归纳。若表示本身不可约则结论成立；若存在非平凡不变子空间，则由Maschke定理拆分为两个子表示的直和。有限维空间下该分解过程必然终止。证毕。

不可约表示相当于表示论中的素数，所有表示都由不可约表示以直和的方式构造出来。

示例1：循环群 C3=⟨a⟩C_3=\lang a\rang 的正则表示

ρreg(a)=[001100010]\rho_{\text{reg}}(a)=\begin{bmatrix}0&0&1 \\ 1&0&0 \\ 0&1&0\end{bmatrix}

若 v\boldsymbol v 是 ρreg(a)\rho_{\text{reg}}(a) 的特征向量，则它也是 ρreg(a2)\rho_{\text{reg}}(a^2) 的特征向量，因此 v\boldsymbol v 是一维 GG-不变子空间。

ρreg(a)\rho_{\text{reg}}(a) 的特征向量有

v1=[111],v2=[1ζ2ζ],v3=[1ζζ2]\boldsymbol v_1=\begin{bmatrix}1\\1\\1\end{bmatrix},\quad \boldsymbol v_2=\begin{bmatrix}1\\\zeta^2\\\zeta\end{bmatrix},\quad \boldsymbol v_3=\begin{bmatrix}1\\\zeta\\\zeta^2\end{bmatrix}

因此正则表示是3个1维不可约表示的直和：

W1=span{v1},W2=span{v2},W3=span{v3}W_1=\mathrm{span}\{\boldsymbol v_1\},\quad W_2=\mathrm{span}\{\boldsymbol v_2\},\quad W_3=\mathrm{span}\{\boldsymbol v_3\}

在特征向量基组下的等价表示

ρ(a)=[1ζζ2]\rho(a)=\begin{bmatrix}1&&\\&\zeta&\\&&\zeta^2\end{bmatrix}

Schur引理

Schur引理：设 (ρV,V), (ρW,W)(\rho_V,V),\ (\rho_W,W) 是群 GG 的不可约表示

  1. 若映射 T:V→WT:V\to W 是 GG-同态，则 TT 要么是零映射，要么是 GG-同构；
  2. 若映射 T:V→VT:V\to V 是 GG-同态，则 TT 只能是标量乘法，即 T=λ⋅IdT=\lambda\cdot\text{Id}；

证明：(1) 由于 ker⁡(T)\ker(T) 是 VV 的不变子空间，且 ρV\rho_V 不可约，故 ker⁡(T)=V\ker(T)=V 或 ker⁡(T)={0}\ker(T)=\{0\}。在第一种情形下， T=0T=0 ；第二种情形下， TT 是单射，由于 Im(T)\mathrm{Im}(T) 是 WW 的非零不变子空间，且 ρW\rho_W 不可约，故 Im(T)=W\mathrm{Im}(T)=W ，从而 TT 是GG-同构。

(2) 设 λ\lambda 是 TT 矩阵的一个特征值，令 T^=T−λ⋅Id\hat{T}=T-\lambda\cdot\text{Id}，对任意 v∈Vv\in V 有

T^∘ρV(g)(v)=T∘ρV(g)(v)−λρV(g)(v)=ρV(g)∘T(v)−ρV(g)(λv)=ρV(g)∘T^(v)\begin{aligned} \hat{T}\circ\rho_V(g)(\boldsymbol v)&=T\circ\rho_V(g)(\boldsymbol v)-\lambda\rho_V(g)(\boldsymbol v) \\ &=\rho_V(g)\circ T(\boldsymbol v)-\rho_V(g)(\lambda \boldsymbol v) \\ &=\rho_V(g)\circ\hat{T}(\boldsymbol v) \end{aligned}

因此 T^\hat{T} 是 GG-同态。由于 λ\lambda 是特征值，故 ker⁡(T^)≠{0}\ker(\hat{T})\neq\{0\}。由 (1) 得 T^=0\hat T=0 ，即 T=λ⋅IdT=\lambda\cdot\text{Id}。

推论：Schur引理直接推出Abel群有限维不可约表示结构。

  1. Abel群的任意不可约表示都是一维的；
  2. Abel群的任意表示，都可在某组基下化为对角矩阵；
  3. 循环群 CnC_n 恰好有 nn 个互不同构一维不可约表示；

证明：(1) 设 GG 为Abel群，(ρ,V)(\rho,V) 是不可约表示。任取 h∈Gh\in G，考虑线性映射

ρ(h):V→V\rho(h):V\to V

对任意 g∈Gg\in G 有：

ρ(h)∘ρ(g)=ρ(gh)=ρ(hg)=ρ(g)∘ρ(h)\rho(h)\circ\rho(g)=\rho(gh)=\rho(hg)=\rho(g)\circ\rho(h)

即 ρ(h)\rho(h) 是 GG-同态。由Schur引理，存在 λh∈C\lambda_h\in\Complex 使得 ρ(h)=λhI\rho(h)=\lambda_h I。

任取非零向量 v∈V\boldsymbol v\in V，对任意 h∈Gh\in G 有

ρ(h)(v)=λhv∈span{v}\rho(h)(v)=\lambda_h \boldsymbol v\in\mathrm{span}\{\boldsymbol v\}

因此 span{v}\mathrm{span}\{\boldsymbol v\} 是一维不变子空间。但 (ρ,V)(\rho,V) 不可约，故 V=span{v}V=\mathrm{span}\{\boldsymbol v\} ，即 VV 是一维空间。

(2) 由Maschke定理，任意表示可分解为不可约表示的直和

ρ∼ρ1⊕⋯⊕ρr\rho\sim\rho_1\oplus\cdots\oplus\rho_r

由推论1知，每个 ρi\rho_i 都是一维的，故ρ\rho 可通过基变换对角化。

(3) 设 Cn=⟨a∣an=e⟩C_n=\langle a\mid a^n=e\rangle 为 nn 阶循环群，其不可约表示全为一维。一维表示由生成元 aa 的表示 ρ(a)∈C\rho(a)\in\Complex 唯一确定，且满足 ρ(a)n=1\rho(a)^n=1，即 ρ(a)\rho(a) 是 nn 次单位根。记 nn 个不同的一维不可约表示：

ρk(a)=e2πik/n(k=0,1,…,n−1)\rho_k(a)=e^{2\pi\mathrm{i}k/n}\quad (k=0,1,\dots,n-1)

一维矩阵共轭恒等，故互不同构。

例如：循环群 C4C_4 的4个一维不可约表示：

eaa2a3ρ11111ρ21i−1−iρ31−11−1ρ41−i−1i\begin{array}{c|cccc} &e&a&a^2&a^3 \\ \hline \rho_1&1&1&1&1 \\ \hdashline \rho_2&1&\mathrm i&-1&-\mathrm i \\ \hdashline \rho_3&1&-1&1&-1 \\ \hdashline \rho_4&1&-\mathrm i&-1&\mathrm i \end{array}

正交关系

由群 GG 到复数域 C\Complex 的线性映射被称为群函数。全体群函数构成复向量空间

VG={ϕ:G→C}V_G=\{\phi:G\to\Complex\}

群函数加法、数乘定义为：

(ϕ+ψ)(g)=ϕ(g)+ψ(g),(λϕ)(g)=λ⋅ϕ(g)(\phi+\psi)(g)=\phi(g)+\psi(g),\\ (\lambda\phi)(g)=\lambda\cdot \phi(g)

例如，映射到表示矩阵的一个元素就是一个群函数 ϕ:g↦ρ(g)ij\phi:g\mapsto \rho(g)_{ij} 。

一般地，把群 GG 的元素按一定顺序排列，从而把群函数值写成一个向量

ϕ=[ϕ(g1)⋮ϕ(gn)]\boldsymbol\phi=\begin{bmatrix}\phi(g_1) \\ \vdots\\ \phi(g_n)\end{bmatrix}

有限群 GG 的不可约表示的矩阵元函数，彼此之间正交。

取有限群 GG 的两个不可约表示 (ρ,V), (σ,W)(\rho, V),\ (\sigma, W) 。任取一个线性变换 T:W→VT:W\to V ，构造群平均化

T~=1∣G∣∑g∈Gρ(g)Tσ(g−1)\widetilde{T}=\frac{1}{|G|}\sum_{g\in G}\rho(g) T\sigma(g^{-1})

同Maschke定理的推理方法，易知 T~\widetilde{T} 是 GG-同态。矩阵 T~\widetilde{T} 的矩阵乘法展开为

T~ij=1∣G∣∑g∈G∑k,lρ(g)ilTlkσ(g−1)kj\widetilde{T}_{ij}=\frac{1}{|G|}\sum_{g\in G}\sum_{k,l}\rho(g)_{il}T_{lk}\sigma(g^{-1})_{kj}

(1) 若 ρ\rho 和 σ\sigma 不同构， 根据Schur引理，有 T~=0\widetilde{T}=0 。

取 TT 为矩阵单位 Tij=δiaδbjT_{ij}=\delta_{ia}\delta_{bj}，即矩阵元素只有 Tab=1T_{ab}=1，其余为 0。展开矩阵乘法

T~ij=1∣G∣∑g∈Gρ(g)iaσ(g−1)bj\widetilde{T}_{ij}=\frac{1}{|G|}\sum_{g\in G}\rho(g)_{ia}\sigma(g^{-1})_{bj}

由于 TT 的任意性，我们可以取遍所有的矩阵单位，因此对所有的 i,j,a,bi,j,a,b 都满足

∑g∈Gρ(g)iaσ(g−1)bj=0\sum_{g\in G}\rho(g)_{ia}\sigma(g^{-1})_{bj}=0

(2) 若 ρ=σ\rho=\sigma ，根据Schur引理，有 T~=λI\widetilde{T}=\lambda I 。利用矩阵迹的性质

tr(T~)=1∣G∣∑g∈Gtr(ρ(g)Tρ(g−1))=tr(T)\text{tr}(\widetilde T)=\frac{1}{|G|}\sum_{g\in G}\text{tr}(\rho(g)T\rho(g^{-1}))=\text{tr}(T)

再次取 TT 为矩阵单位 Tij=δiaδbjT_{ij}=\delta_{ia}\delta_{bj} ，则

tr(T~)=tr(T)=δab\text{tr}(\widetilde{T})=\text{tr}(T)=\delta_{ab}

另一方面，令 d=dim⁡ρd=\dim\rho，则 tr(T~)=λd\text{tr}(\widetilde T)=\lambda d 。于是

λ=1dδab\lambda=\frac{1}{d}\delta_{ab}

于是

T~ij=λδij=1dδijδab\widetilde{T}_{ij}=\lambda\delta_{ij}=\frac{1}{d}\delta_{ij}\delta_{ab}

由定义 T~\widetilde{T} 的矩阵乘法展开

T~ij=1∣G∣∑g∈Gρ(g)iaρ(g−1)bj\widetilde{T}_{ij}=\frac{1}{|G|}\sum_{g\in G}\rho(g)_{ia}\rho(g^{-1})_{bj}

因此

∑g∈Gρ(g)iaρ(g−1)bj=∣G∣dδijδab\sum_{g\in G}\rho(g)_{ia}\rho(g^{-1})_{bj}=\frac{|G|}{d}\delta_{ij}\delta_{ab}

通常取 ρ,σ\rho,\sigma 为酉表示，即 ρ(g−1)=ρ(g)†\rho(g^{-1})=\rho(g)^\dagger ，因此

∑g∈Gρ(g)iaσ(g−1)bj=∑g∈Gρ(g)iaσ(g)jb‾=⟨ρia,σjb⟩\sum_{g\in G}\rho(g)_{ia}\sigma(g^{-1})_{bj}= \sum_{g\in G}\rho(g)_{ia}\overline{\sigma(g)_{jb}} =\lang\boldsymbol\rho_{ia},\boldsymbol\sigma_{jb}\rang

合并上述两种情形，统一写为

⟨ρia,σjb⟩=∣G∣dδρ,σδijδab\lang\boldsymbol\rho_{ia},\boldsymbol\sigma_{jb}\rang=\frac{|G|}{d}\delta_{\rho,\sigma}\delta_{ij}\delta_{ab}

这个公式的意思是：两个不可约表示的任意矩阵元，其内积只有表示等价、行号列号都对应相等时才非零。

群向量的正交关系是有限群表示论中很重要的一个定理。

例如，二面体群 D3=⟨r,f⟩D_3=\langle r,f\rangle 的不可约表示序列

err2ffrfr2ρ1111111ρ2111−1−1−1ρ3[1001][−12−3232−12][−1232−32−12][−1001][123232−12][12−32−32−12]\begin{array}{c|cccccc} &e&r&r^2&f&fr&fr^2 \\ \hline \rho_1&1&1&1&1&1&1 \\ \hdashline \rho_2&1&1&1&-1&-1&-1 \\ \hdashline \rho_3&\begin{bmatrix}1&0\\0&1\end{bmatrix} &\begin{bmatrix}-\frac{1}{2}&-\frac{\sqrt3}{2}\\ \frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix} &\begin{bmatrix}-\frac{1}{2}&\frac{\sqrt3}{2}\\ -\frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix} &\begin{bmatrix}-1&0\\ 0&1\end{bmatrix} &\begin{bmatrix}\frac{1}{2}&\frac{\sqrt3}{2}\\ \frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix} &\begin{bmatrix}\frac{1}{2}&-\frac{\sqrt3}{2}\\ -\frac{\sqrt3}{2}&-\frac{1}{2}\end{bmatrix} \end{array}

验证 ρ2\rho_2 和 ρ3\rho_3 矩阵元 (1,1)(1,1) 的正交性：

1⋅1−1⋅12−1⋅12+(−1)⋅(−1)−1⋅12−1⋅12=01\cdot1-1\cdot\frac{1}{2}-1\cdot\frac{1}{2}+(-1)\cdot(-1)-1\cdot\frac{1}{2}-1\cdot\frac{1}{2}=0

特征标

在有限群表示论中，特征标是简化群表示研究的终极工具：它把复杂的矩阵表示压缩为一个群上的函数，完美保留了表示的核心等价信息。

基本性质

回忆矩阵迹的核心性质：tr(MN)=tr(NM)\mathrm{tr}(MN)=\mathrm{tr}(NM)，因此对任意可逆矩阵 PP 有：

tr(P−1MP)=tr(M)\mathrm{tr}(P^{-1}MP)=\mathrm{tr}(M)

即相似矩阵的迹相等。因此，矩阵的迹与表示空间基的选取无关。

特征标：设 (ρ,V)(\rho,V) 是群 GG 的一个表示，ρ(g)\rho(g) 的迹称作元素 gg 的特征标（Character）：

χρ:G→C,g↦tr(ρ(g))\chi_\rho: G\to\Complex,\quad g\mapsto\mathrm{tr}(\rho(g))

注意：特征标一般不是群同态，因为通常 tr(MN)≠tr(M)tr(N)\mathrm{tr}(MN)\neq \mathrm{tr}(M)\mathrm{tr}(N)。

例如 Klein四元群 V4={e,h,v,r}V_4=\{e,h,v,r\} 的一组群表示

ρ(e)=[1001],ρ(h)=[−1001],ρ(v)=[100−1],ρ(r)=[−100−1]\rho(e)=\begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix},\quad \rho(h)=\begin{bmatrix}-1 & 0 \\ 0 & 1\end{bmatrix},\quad \rho(v)=\begin{bmatrix}1 & 0 \\ 0 & -1\end{bmatrix},\quad \rho(r)=\begin{bmatrix}-1 & 0 \\ 0 & -1\end{bmatrix}

对应的特征标取值：

ehvrχρ200−2\begin{array}{c|ccc}&e&h&v&r \\ \hline \chi_{\rho} &2&0&0&-2 \end{array}

基本性质：设 χρ\chi_\rho 是群表示 ρ\rho 的特征标，令 d=dim⁡ρd=\dim\rho：

  1. 若 g,h∈Gg,h\in G 共轭，则 χρ(g)=χρ(h)\chi_\rho(g)=\chi_\rho(h)；
  2. 对任意 g∈Gg\in G 有 χρ(g−1)=χρ(g)‾\chi_\rho(g^{-1}) = \overline{\chi_\rho(g)}；
  3. 单位元的特征标 χρ(e)=d\chi_\rho(e)=d；
  4. 对任意 g∈Gg\in G，∣χρ(g)∣≤d|\chi_\rho(g)|\leq d；等号成立当且仅当存在复数 λ\lambda 使得ρ(g)=λI\rho(g)=\lambda I。

证明：

(1) 共轭元素对应相似矩阵，迹相等；

(2) 设 gg 的阶为 kk，则 ρ(gk)=I\rho(g^k)=I，故 ρ(g)\rho(g) 的特征值全为 kk 次单位根。因此，存在一组基使 ρ(g)\rho(g) 对角化，记对角元为 λ1,…,λd\lambda_1,\dots,\lambda_d，则 ∣λi∣=1|\lambda_i|=1，因此 λi−1=λi‾\lambda_i^{-1}=\overline{\lambda_i}。于是

χρ(g−1)=tr(ρ(g−1))=∑i=1dλi−1=∑i=1dλi‾=χρ(g)‾.\chi_\rho(g^{-1})=\mathrm{tr}(\rho(g^{-1}))=\sum_{i=1}^d \lambda_i^{-1}=\sum_{i=1}^d \overline{\lambda_i}=\overline{\chi_\rho(g)}.

(3) 单位元对应单位矩阵，迹为维数 dd；

(4) 沿用 (2) 的对角化记号，由三角不等式：

∣χρ(g)∣=∣∑i=1dλi∣≤∑i=1d∣λi∣=d.|\chi_\rho(g)|=\left|\sum_{i=1}^d \lambda_i\right|\leq \sum_{i=1}^d |\lambda_i|=d.

等号成立当且仅当所有 λi\lambda_i 辐角相同；而 ∣λi∣=1|\lambda_i|=1，故所有 λi\lambda_i 彼此相等，即ρ(g)=λI\rho(g)=\lambda I。

推论：设 (ρ,V)(\rho,V) 是群 GG 的一个表示，令 d=dim⁡ρd=\dim\rho。则

ρ(g)=I  ⟺  χρ(g)=d\rho(g)=I \iff \chi_\rho(g)=d

证明：(⇒\Rightarrow) 显然，单位矩阵迹为 dd。

(⇐\Leftarrow) 若 χρ(g)=d\chi_\rho(g)=d，由性质(4)知 ρ(g)=λI\rho(g)=\lambda I，代入迹得 λd=d\lambda d = d，故 λ=1\lambda=1，即ρ(g)=I\rho(g)=I。

由此，可通过特征标确定群表示 ρ\rho 的核，进而判断表示是否忠实。

运算性质：设 (ρV,V),(ρW,W)(\rho_V,V),(\rho_W,W) 是群 GG 的两个表示，它们的特征标为 χV,χW\chi_V,\chi_W：

  1. 若 ρ=ρV⊕ρW\rho=\rho_V\oplus\rho_W ，则对应的特征标 χ=χV+χW\chi=\chi_V+\chi_W ；
  2. 张量积表示 ρV⊗ρW\rho_V\otimes\rho_W 对应的特征标为 χV⋅χW\chi_V\cdot\chi_W；
  3. 对偶表示的特征标 χV∗=χV‾\chi_{V^*} = \overline{\chi_V}

证明：分别取 V,WV,W 的一组基，任取 g∈Gg\in G ，令 M, NM,\ N 是 ρV(g),ρW(g)\rho_V(g),\rho_W(g) 在这组基下的对应矩阵

(1) 直和表示 ρV⊕ρW\rho_V\oplus\rho_W 为分块对角阵[M00N]\begin{bmatrix}M&0\\0&N\end{bmatrix}，计算特征标

tr(M)+tr(N)=χV(g)+χW(g)\mathrm{tr}(M)+\mathrm{tr}(N)=\chi_V(g)+\chi_W(g)

(2) 张量积矩阵

(M⊗N)js,it=MjiNst(M\otimes N)_{js,it}=M_{ji}N_{st}

这个矩阵的迹

tr(M⊗N)=∑i,tMiiNtt=(∑iMii)(∑tNtt)=tr(M)tr(N)\mathrm{tr}(M\otimes N)=\sum_{i,t}M_{ii}N_{tt} =\left(\sum_i M_{ii}\right)\left(\sum_t N_{tt}\right) =\mathrm{tr}(M)\mathrm{tr}(N)

因此

χV⊗W(g)=χV(g)χW(g)\chi_{V\otimes W}(g)=\chi_V(g)\chi_W(g)

该公式极为实用，绝大多数张量积相关计算无需再回到线性映射定义。

(3) 对偶表示ρV∗(g)\rho_{V^*}(g) 的矩阵为 M−TM^{-T}，故

χV∗(g)=tr(M−T)=tr(M−1)=χV(g−1)=χV(g)‾\chi_{V^*}(g)=\mathrm{tr}(M^{-T})=\mathrm{tr}(M^{-1})=\chi_V(g^{-1})=\overline{\chi_V(g)}

容易计算置换表示的特征标：SS 中由 gg 保持不变的元素个数

χ(g)=∣Sg∣\chi(g)=|S^g|

正交定理

类函数：若群函数 ξ:G→C\xi:G\to\Complex 满足：

ξ(h−1gh)=ξ(g),∀g,h∈G\xi(h^{-1}gh)=\xi(g),\quad \forall g,h\in G

则称 ξ\xi 为类函数。类函数在每个共轭类上取值恒定。全体类函数构成 VGV_G 的子空间 VCl(G)V_{\text{Cl}(G)}。显然，所有特征标都是类函数。

定理：(正交关系) 设 ρ\rho 和 σ\sigma 是有限群 GG 的两个不可约表示，则

⟨χρ,χσ⟩G={1,ρ∼σ0,otherwise\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle_G=\begin{cases} 1, & \rho\sim\sigma \\ 0, & \text{otherwise} \end{cases}

证明：利用特征标的性质 χσ(g−1)=χσ(g)‾\chi_\sigma(g^{-1})=\overline{\chi_\sigma(g)} ，内积重新写为

⟨χρ,χσ⟩=∑g∈Gχρ(g) χσ(g−1)\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle=\sum_{g\in G} \chi_\rho(g)\,\chi_\sigma(g^{-1})

我们使用矩阵元素的形式

⟨χρ,χσ⟩=∑g∈G∑i,jρ(g)iiσ(g−1)jj\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle= \sum_{g\in G}\sum_{i,j}\rho(g)_{ii}\sigma(g^{-1})_{jj}

再看群函数的正交关系

∑g∈Gρ(g)iaσ(g−1)bj={∣G∣dρδijδab,ρ∼σ0,otherwise\sum_{g\in G}\rho(g)_{ia}\sigma(g^{-1})_{bj}= \begin{cases} \dfrac{|G|}{d_\rho}\delta_{ij}\delta_{ab}, &\rho\sim\sigma\\ 0, &\text{otherwise} \end{cases}

若不可约表示 ρ, σ\rho,\ \sigma 不等价，则

⟨χρ,χσ⟩=0\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle=0

若 ρ∼σ\rho\sim\sigma ，交换求和顺序，取 a=i, b=ja=i,\ b=j 。则

⟨χρ,χσ⟩=∣G∣dρ∑i,jδij=∣G∣\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle= \frac{|G|}{d_\rho}\sum_{i,j}\delta_{ij}=|G|

通常取群平均内积

⟨χρ,χσ⟩G=1∣G∣⟨χρ,χσ⟩\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle_G= \frac{1}{|G|}\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle

于是

⟨χρ,χσ⟩G={1,ρ∼σ0,otherwise\langle \boldsymbol\chi_\rho,\boldsymbol\chi_\sigma \rangle_G=\begin{cases} 1, & \rho\sim\sigma \\ 0, & \text{otherwise} \end{cases}

综上可知，不可约特征标 χ1,χ2,⋯\chi_1,\chi_2,\cdots 彼此标准正交。

定理：有限群 GG 不可约表示的数量等于群的共轭类的数量。

只需证明，若某个类函数 ϕ∈V\phi\in V 与所有不可约特征标正交，则 ϕ≡0\phi\equiv0。

设 (ρ,V)(\rho,V) 是有限群 GG 的一个表示，χρ\chi_\rho 是其特征标。定义线性映射 T:V→VT:V\to V

T=1∣G∣∑g∈Gϕ(g)‾ρ(g)T=\frac{1}{|G|}\sum_{g\in G}\overline{\phi(g)}\rho(g)

其迹为

tr(T)=1∣G∣∑g∈Gϕ(g)‾χρ(g)=⟨χρ,ϕ⟩G=0\text{tr}(T)=\frac{1}{|G|}\sum_{g\in G}\overline{\phi(g)}\chi_\rho(g)=\lang\boldsymbol\chi_\rho,\boldsymbol\phi\rang_G=0

对任意 h∈Gh\in G 有

ρ(h)T=1∣G∣∑g∈Gϕ(g)‾ρ(h)ρ(g)=1∣G∣∑g∈Gϕ(g)‾ρ(hgh−1)ρ(h)=Tρ(h)\begin{aligned} \rho(h)T&=\frac{1}{|G|}\sum_{g\in G}\overline{\phi(g)}\rho(h)\rho(g)\\ &=\frac{1}{|G|}\sum_{g\in G}\overline{\phi(g)}\rho(hgh^{-1})\rho(h) \\ &=T\rho(h) \end{aligned}

即 TT 是 GG-同态。若 ρ\rho 是不可约的，根据Schur引理得到 T=λIT=\lambda I，因为 tr(T)=0\text{tr}(T)=0 ，因此 T=0T=0 。任意表示都是不可约表示的直和，因此恒有 T=0T=0 。

考虑正则表示 ρreg\rho_{\mathrm{reg}} ，表示空间为 C[G]\Complex[G] 。由正则表示的定义 ρreg(g)(e)=g\rho_{\mathrm{reg}}(g)(e)=g，于是

T(e)=1∣G∣∑g∈Gϕ(g)‾g=0T(e)=\frac{1}{|G|}\sum_{g\in G}\overline{\phi(g)}g=0

由于 GG 的元素是 C[G]\Complex[G] 的一组基，故对所有的 g∈Gg\in G 都有 ϕ(g)‾=0\overline{\phi(g)}=0 ，因此 ϕ≡0\phi\equiv 0 。

推论：全体不可约特征标构成类函数空间 VCl(G)V_{\text{Cl}(G)}的一组标准正交基。

证明：因为不可约特征标是标准正交的，故它们是线性无关的；并且类函数空间的维度是共轭类的个数，也就是不可约特征标的个数，所以他们张成整个空间。

这个推论使得利用投影公式，可以将任意给定特征标分解为不可约特征标的线性组合。设 χ\boldsymbol\chi 是群表示 ρ\rho 的特征标，由Maschke定理，ρ\rho 同构于不可约表示 ρ1,⋯ ,ρr\rho_1,\cdots,\rho_r 的直和，记为

ρ∼n1ρ1⊕⋯⊕nrρr\rho\sim n_1\rho_1\oplus\cdots\oplus n_r\rho_r

其中 niρin_i\rho_i 代表 nin_i 个不可约表示 ρi\rho_i 的直和。则

χ=n1χ1+⋯+nrχr\boldsymbol\chi=n_1\boldsymbol\chi_1+\cdots+n_r\boldsymbol\chi_r

因为 (χ1,⋯ ,χr)(\boldsymbol\chi_1,\cdots,\boldsymbol\chi_r) 是标准正交基，于是系数可由内积提取

ni=⟨χ,χi⟩Gn_i=\lang\boldsymbol\chi,\boldsymbol\chi_i\rang_G

推论：特征标 χ\chi 不可约等价于 ⟨χ,χ⟩G=1\lang\boldsymbol\chi,\boldsymbol\chi\rang_G=1 。

证明：将 χ\chi 分解为不可约特征标的线性组合 χ=n1χ1+⋯+nrχr\boldsymbol\chi=n_1\boldsymbol\chi_1+\cdots+n_r\boldsymbol\chi_r ，由正交性

⟨χ,χ⟩G=n12+⋯+nr2\lang\boldsymbol\chi,\boldsymbol\chi\rang_G=n_1^2+\cdots+n_r^2

该值等于1当且仅当恰好一个 ni=1n_i=1，其余全为0，即χ\chi是单个不可约特征标。

特征标的内积 ⟨χ,χ⟩G\lang\boldsymbol\chi,\boldsymbol\chi\rang_G 是检验一个表示是否可约的一个实用方法。例如，

定理：设 ρi,ρj\rho_i,\rho_j 是有限群 GG 的两个表示，则

ρi∼ρj  ⟺  χi=χj\rho_i\sim\rho_j\iff \chi_i=\chi_j

证明：(⇒\Rightarrow) 若两个表示同构，则二者对应的矩阵等价，因此迹处处相等。

(⇐\Leftarrow) 特征标分解为

χi=a1χ1+⋯+arχrχj=b1χ1+⋯+brχr\boldsymbol\chi_i=a_1\boldsymbol\chi_1+\cdots+a_r\boldsymbol\chi_r \\ \boldsymbol\chi_j=b_1\boldsymbol\chi_1+\cdots+b_r\boldsymbol\chi_r

由于 χ1,⋯ ,χr\boldsymbol\chi_1,\cdots,\boldsymbol\chi_r 是线性无关的，由 χi=χj\chi_i=\chi_j 可得，对每个 kk 有 ak=bka_k=b_k ，即 ρi,ρj\rho_i,\rho_j 的不可约分解完全相同，故表示同构。

这说明特征标完全决定表示结构，是有限群表示论的核心工具。

正则表示

正则表示的征标特别简单：

  • 当 g=eg=e 时，ρreg(e)\rho_\mathrm{reg}(e) 是恒等映射，迹为 dim⁡C[G]=∣G∣\dim\Complex[G]=|G| ；
  • 当 g≠eg\neq e 时，左乘 gg 会将基向量 hh 映射到 ghgh ，没有不动点，故矩阵所有对角元均为 0，迹为 0。

综上

χreg(g)={∣G∣,g=e0,g≠e\chi_{\mathrm{reg}}(g)=\begin{cases}|G|, &g=e\\0, &g\neq e\end{cases}

例如，对于群 D3=⟨r,f⟩D_3=\lang r,f\rang ，正则表示的特征标是

erfχreg600\begin{array}{c|ccc}&e&r&f \\ \hline \chi_{\mathrm{reg}} &6&0&0 \end{array}

有限群的复表示完全可约，故正则表示可分解为不可约表示的直和：

ρreg∼n1ρ1⊕⋯⊕nrρr\rho_{\mathrm{reg}}\sim n_1\rho_1\oplus\cdots\oplus n_r\rho_r

其中而 niρin_i\rho_i 是表示 nin_i 个不可约表示 ρi\rho_i 的直和

根据特征标内积公式，重数

ni=⟨χreg,χi⟩G=1∣G∣∑g∈Gχreg(g) χi(g)‾n_i=\lang\boldsymbol\chi_{\mathrm{reg}},\boldsymbol\chi_i\rang_G= \frac{1}{|G|}\sum_{g\in G} \chi_\text{reg}(g)\,\overline{\chi_i(g)}

只有 g=eg=e 项非零，于是

ni=χi(e)‾=dim⁡ρin_i=\overline{\chi_i(e)}=\dim\rho_i

每个不可约表示 ρi\rho_i 在正则表示中出现的重数恰好等于其自身的维数 dim⁡ρi\dim\rho_i

令 di=dim⁡ρid_i=\dim\rho_i​ ，于是

ρreg∼d1ρ1⊕⋯⊕drρr\rho_{\mathrm{reg}}\sim d_1\rho_1\oplus\cdots\oplus d_r\rho_r

并且

χreg=d1χ1+⋯+drχr\boldsymbol\chi_{\mathrm{reg}}=d_1\boldsymbol\chi_1+\cdots+d_r\boldsymbol\chi_r

对上述直和取维数

∣G∣=dim⁡ρreg=∑i=1rdidim⁡ρi=∑i=1rdi2|G|=\dim\rho_{\mathrm{reg}}=\sum_{i=1}^rd_i\dim\rho_i=\sum_{i=1}^rd_i^2

Burnside定理：设不可约表示的个数为 rr ，记 di=dim⁡ρid_i=\dim \rho_i ，则 did_i 整除 ∣G∣|G| 且

∣G∣=d12+⋯+dr2|G|=d_1^2+\cdots+d_r^2

推论：不可约表示的矩阵元函数构成群函数空间的正交基。

因为不可约表示的矩阵元函数是正交的，故它们是线性无关的；并且Burnside定理说明群函数空间的维度恰好是不可约表示的矩阵元函数的个数，所以他们张成整个空间。

例如 D3D_3 群的不可约表示构成的正交基底

B=[11100111−12−3232−1211−1232−32−121−1−10011−1123232−121−112−32−32−12]B=\begin{bmatrix}\begin{array}{c:c:c:c:c:c} 1&1&1&0&0&1\\ 1&1&-\frac{1}{2}&-\frac{\sqrt3}{2}&\frac{\sqrt3}{2}&-\frac{1}{2} \\ 1&1&-\frac{1}{2}&\frac{\sqrt3}{2}&-\frac{\sqrt3}{2}&-\frac{1}{2} \\ 1&-1&-1&0&0&1 \\ 1&-1&\frac{1}{2}&\frac{\sqrt3}{2}&\frac{\sqrt3}{2}&-\frac{1}{2} \\ 1&-1&\frac{1}{2}&-\frac{\sqrt3}{2}&-\frac{\sqrt3}{2}&-\frac{1}{2} \end{array}\end{bmatrix}

特征标表

我们通常将所有不可约特征标列成特征标表。特征标表中第一行对应于平凡的特征标，完全由1组成。第一列包含表示的维数，因为 χi(e)=dim⁡ρi\chi_i(e)=\dim\rho_i 。

示例1：循环群 C3=⟨a⟩C_3=\langle a\rangle 的特征标表

eaa2χ1111χ21ζζ2χ31ζ2ζ\begin{array}{c|ccc} &e&a&a^2 \\ \hline \chi_1&1&1&1 \\ \hdashline \chi_2&1&\zeta&\zeta^2 \\ \hdashline \chi_3&1&\zeta^2&\zeta \end{array}

示例2：Klein四元群 V4={e,h,v,r}V_4=\{e,h,v,r\} 的特征标表

ehvrχ11111χ21−1−11χ311−1−1χ41−11−1\begin{array}{c|cccc} &e&h&v&r \\ \hline \chi_1&1&1&1&1 \\ \hdashline \chi_2&1&-1&-1&1 \\ \hdashline \chi_3&1&1&-1&-1 \\ \hdashline \chi_4&1&-1&1&-1 \end{array}

示例3：二面体群 D4=⟨r,f⟩D_4=\langle r,f\rangle 的特征标表

er2{r,r3}{f,fr2}{fr,fr3}χ111111χ2111−1−1χ311−11−1χ411−1−11χ52−2000\begin{array}{c|ccccc} &e&r^2&\{r,r^3\}&\{f,fr^2\}&\{fr,fr^3\} \\ \hline \chi_1&1&1&1&1&1 \\ \hdashline \chi_2&1&1&1&-1&-1 \\ \hdashline \chi_3&1&1&-1&1&-1 \\ \hdashline \chi_4&1&1&-1&-1&1 \\ \hdashline \chi_5&2&-2&0&0&0 \end{array}

利用前面的定理，仅通过共轭类信息即可求解未知的特征标取值。

例如，二面体群 D3=⟨r,f⟩D_3=\langle r,f\rangle 有3个共轭类，因而有3个不可约表示。方程 6=d12+d22+d326=d_1^2+d_2^2+d_3^2 仅有的解是 6=12+12+226=1^2+1^2+2^2 ，因而 D3D_3 有两个一维表示和一个二维表示。每个群都有一维平凡表示，记为 ρ1\rho_1 ；另一个一维表示则是同构于 S3S_3 的符号表示，记为 ρ2\rho_2 ； 二维表示的特征标可通过方程组求得。

e{r,r2}{f,fr,fr2}χ1111χ211−1χ32−10\begin{array}{c|ccc} &e&\{r,r^2\}&\{f,fr,fr^2\} \\ \hline \chi_1&1&1&1 \\ \hdashline \chi_2&1&1&-1 \\ \hdashline \chi_3&2&-1&0 \end{array}

对偶空间与张量积

对偶表示

一般地，对于向量空间 VV 的一组基 {ei}\{\boldsymbol e_i\} ，取对偶空间 V∗V^* 对应的基

ϵi(ej)=δji\boldsymbol\epsilon^i(\boldsymbol e_j)=\delta^i_j

那么，对于任意 α∈V∗\boldsymbol\alpha\in V^* 就有

α=αiϵi\boldsymbol\alpha=\alpha_i\boldsymbol\epsilon^i

其中 αi=α(ei)\alpha_i=\boldsymbol\alpha(\boldsymbol e_i) 。

设 (ρ,V)(\rho,V) 是群 GG 的一个表示，定义对偶表示 (ρ∗,V∗)(\rho^*,V^*)：

ρ∗(g):α↦α∘ρ(g−1)\rho^*(g):\boldsymbol\alpha\mapsto \boldsymbol\alpha\circ \rho(g^{-1})

若 ρ(g)\rho(g) 的矩阵为 RR，则 ρ∗(g)\rho^*(g) 在对偶基下的矩阵为 R−⊤R^{-\top}（逆转置）。

例如，设二面体群 D3=⟨r,f⟩D_3=\lang r,f\rang 的二维不可约表示 ρ\rho。在合适的基下

ρ(r)=[ζ00ζ−1],ρ(f)=[0110]\rho(r)=\begin{bmatrix}\zeta & 0\\ 0 & \zeta^{-1}\end{bmatrix},\quad \rho(f)=\begin{bmatrix}0 & 1\\ 1 & 0\end{bmatrix}

其对偶表示在对偶基下的矩阵为

ρ∗(r)=[ζ−100ζ],ρ∗(f)=[0110]\rho^{*}(r)=\begin{bmatrix}\zeta^{-1} & 0\\ 0 & \zeta\end{bmatrix},\quad \rho^{*}(f)=\begin{bmatrix}0 & 1\\ 1 & 0\end{bmatrix}

定理：表示 ρV\rho_V 不可约当且仅当对偶表示 ρV∗\rho_V^* 不可约。

张量积表示

设 V,WV,W 是向量空间，取一组基 {ai}, {bj}\{\boldsymbol a_i\},\ \{\boldsymbol b_j\} ，定义以 {ai⊗bj}\{\boldsymbol a_i\otimes \boldsymbol b_j\} 为基的张量积空间

V⊗W={∑i,jαiβj (ai⊗bj)∣αiβj∈C}V\otimes W=\left\{\sum_{i,j}\alpha_i\beta_j\, (\boldsymbol a_i\otimes \boldsymbol b_j)\mid\alpha_i\beta_j\in\Complex\right\}

设 ρV,ρW\rho_V,\rho_W 分别是 GG 在 V,WV,W 上的表示，定义张量积表示：

ρV⊗W(g)(ai⊗bj)=ρV(g)(ai)⊗ρW(g)(bj)\rho_{V\otimes W}(g)(\boldsymbol a_i\otimes \boldsymbol b_j) = \rho_V(g)(\boldsymbol a_i) \otimes \rho_W(g)(\boldsymbol b_j)

若 ρV(g)=M, ρW(g)=N\rho_V(g)=M,\ \rho_W(g)=N，则张量积对应的矩阵为克罗内克积 M⊗NM\otimes N。

例如，取 D3=⟨r,f⟩D_3=\lang r,f\rang 的二维不可约表示

ρV(r)=[ζ00ζ−1],ρV(f)=[0110]\rho_V(r)=\begin{bmatrix}\zeta & 0\\ 0 & \zeta^{-1}\end{bmatrix},\quad \rho_V(f)=\begin{bmatrix}0 & 1\\ 1 & 0\end{bmatrix}

一维符号表示

ρV(r)=1,ρV(f)=−1\rho_{V}(r)=1,\quad \rho_{V}(f)=-1

则张量积表示

ρV⊗W(r)=[ζ00ζ−1],ρV⊗W(f)=[0−1−10]\rho_{V\otimes W}(r)=\begin{bmatrix}\zeta & 0\\ 0 & \zeta^{-1}\end{bmatrix},\quad \rho_{V\otimes W}(f)=\begin{bmatrix}0 & -1\\ -1 & 0\end{bmatrix}

参考资料：

蔷薇课堂——群论
Group Representation Theory
从零开始的群世界生活
群论 (Group Theory) 终极速成 / 物理系零基础火箭级 notes