일반적으로 그 구조가 복잡한 수학적인 대상을 다룰 때 좋은 전략 중 하나는 이 대상이 다른 단순한 대상 위에 어떻게 작용하는지를 보는 것이다. 이 카테고리에서 우리는 표현론, 그 중에서도 finite group의 표현론에 대해 살펴본다.

표현론의 기본 개념들

우선 다음의 정의부터 시작하자.

정의 1 임의의 finite group $G$에 대하여, $G$의 representation표현은 유한차원 벡터공간 $V$와, group action의 조건을 만족하는 함수

\[\rho: G\times V \rightarrow V\]

가 주어져서 각각의 $\rho(g,-)$가 linear map인 것이다.

일반적으로 ground field $\mathbb{K}$는 임의의 ring $A$로 대체해도 아무런 문제는 없지만, 우리의 논의에서는 $\mathbb{K}=\mathbb{C}$로 두어도 충분하므로 이렇게 고정하기로 한다. 또, 우리는 주로 유한차원 벡터공간 $V$를 representation space로 갖는 경우를 생각하고 있음을 기억하자. 이 또한 무한차원 벡터공간으로 일반화할 수 있지만, 이를 위해서는 $V$에 topological vector space 구조를 주는 등의 표준적인 방법들이 필요하다.

위의 정의는 간략하게 $G\rightarrow\Aut(V)$가 주어진 것으로 생각할 수 있다. 우리는 약간의 abuse of notation을 통해 $\rho(g,-): V\rightarrow V$를 간단히 $\rho(g)\in \Aut(V)$로 쓰기도 하고, 더욱 표기를 생략하여 $\rho(g)v$ 대신 $g\cdot v$와 같이 쓰기도 한다. 이 표기에서 알 수 있듯, 우리는 $V$를 $G$-module처럼 생각하며, 이러한 관점에서 (스칼라곱은 암묵적으로 주어졌다고 하고) $V$를 $G$의 representation이라 간단히 말하기도 한다.

Finite group $G$를 고정하고, 두 representation $V,W$가 주어졌다 하자. 그럼 $V$에서 $W$의 morphism은 다음의 diagram

G-equivariant_maps

으로 주어진다. 이는, 식으로 표현하면, 간단히

\[L(g\cdot v)=g\cdot L(v)\qquad\text{for all $g\in G$ and $v\in V$}\]

으로 적을 수 있다.

한편 $V$에 적용되는 선형대수학의 언어를 차용하면 다음을 정의할 수 있다.

정의 2 Group $G$의 representation $G\times V\rightarrow V$에 대하여 다음을 정의한다.

  1. $V$의 subspace $W$가 $G$-invariant$G$-불변공간라는 것은 임의의 $g\in G$와 임의의 $w\in W$에 대하여 $g\cdot w\in W$가 항상 성립하는 것이다.
  2. 임의의 $G$-invariant subspace $W$에 대하여, representation $G\times W\rightarrow W$를 $V$의 subrepresentation부분표현이라 부른다.
  3. 만일 $V$가 zero representation이 아니고 $V$의 subrepresentation들이 trivial subrepresentation들, 즉 자기 자신과 $G\times\{0\}\rightarrow\{0\}$ 뿐이라면 $V$를 irreducible representation기약표현이라 부른다.

이와 마찬가지 관점에서 우리는 임의의 representation $V,W$에 대하여, 이들의 벡터공간에서의 연산을 이용하여 $V\oplus W$, $V\otimes W$ 등을 정의할 수 있다. 다음 정의에서 다소 주의할 것은, 위의 정의 2와는 다르게 $V\otimes W$ 등에서는 자연스러운 $G$-action이 존재하지 않을 수도 있다는 것으로, 우리는 이 때문에 각 벡터공간 위에 $G$-action을 명시적으로 정의해준다.

정의 3 $G$-representation $V, W$에 대하여, 다음의 $G$-action을 통해 새로운 $G$-representation들을 정의한다.

  1. Direct sum $V\oplus W$; $G$-action $g\cdot(v,w)=(g\cdot v,g\cdot w)$
  2. Tensor product $V\otimes W$; $G$-action $g\cdot(v\otimes w)=(g\cdot v)\otimes (g\cdot w)$, 그리고 이로부터 얻어지는 exterior power $\bigwedge^k V$, symmetric power $\operatorname{Sym}^k V$와 그 위의 $G$-action들
  3. $\Hom_\mathbb{C}(V,W)$; $G$-action $(g\cdot f)(v)=g\cdot f(g^{-1}\cdot v)$
  4. 3번에서 $W=\mathbb{C}$로 두어 얻어지는 dual representation $V^\ast$
  5. 스칼라곱을 conjugate으로 바꾸어 얻어지는 conjugate representation $\overline{V}$ (동일한 $G$-action)

Category $\lMod{\mathbb{C}[G]}$

위의 [정의 3]에서 tensor product와 $\Hom$의 경우 다소 그 정의가 인위적으로 보일 수 있는데, 이를 탐구하기 위해서는 group algebra의 언어가 유용하다. ([대수적 구조] §대수, ⁋정의 5) 이를 간단히 리뷰하자면, 집합으로서 $\mathbb{C}[G]$는 $G$에서 $\mathbb{C}$로의 함수들의 모임이었다. 각각의 $x\in G$에 대하여 $\delta_x:G\rightarrow \mathbb{C}$를

\[\delta_x(y)=\begin{cases}1&\text{if $y=x$}\\0&\text{otherwise}\end{cases}\]

으로 정의하면, 임의의 $\varphi\in\mathbb{C}[G]$는

\[\phi=\sum_{x\in G}\phi(x)\delta_x\]

로 나타낼 수 있으므로 $\delta_x$들이 $\mathbb{C}[G]$의 basis를 이룬다. 우리가 다룰 $\mathbb{C}[G]$가 단순히 $G$에서 $\mathbb{C}$로의 함수들이 이루는 ring과 같지 않은 부분은 이 위에 정의된 곱셈이다. 두 함수 $\phi,\psi$의 곱셈을

\[(\phi\psi)(x)=\phi(x)\psi(x), \qquad \text{for all $x\in G$}\]

으로 정의하는 대신 이 위에는 convolution product

\[(\phi\ast \psi)(x)=\sum_{y\in G}\phi(y)\psi(y^{-1}x)\]

가 곱셈을 정의한다. 만일 우리가 위의 delta function $\delta_x$와 $x\in G$를 identify한다면, 다음의 식

\[\left(\sum_{x\in G}\phi(x)\cdot x\right)\left(\sum_{y\in G} \psi(y)\cdot y\right)=\sum_{x,y\in G} \phi(x)\psi(y) \cdot(xy)=\sum_{z\in G}\left(\sum_{x\in G} \phi(x)\psi(x^{-1}z)\right)\cdot z\]

이 성립하므로 이러한 곱셈을 선택하는 것이 자연스럽다. 가령 $\delta_x$와 $\delta_y$의 곱은 $0$이지만, 이 둘의 convolution은 $\delta_{xy}$이므로, group action에 포함되는 다음의 식

\[(\delta_x\ast \delta_y)\cdot v=\delta_x\cdot(\delta_y\ast v)\]

와 같은 것들이 말이 되기 위해서는 이러한 선택이 필연적이다.

임의의 $G$-representation $\rho:G\rightarrow \Aut(V)$에 대하여, 다음의 식

\[\widetilde{\rho}\left(\sum_{x\in G} \phi_x x, v\right)= \sum_{x\in G} \phi_x\rho(x)v\]

은 $V$ 위에 $\mathbb{C}[G]$-module 구조를 준다. 거꾸로 임의의 $\mathbb{C}[G]$-module $V$가 주어졌다 하면, 각 $x\in G$에 대하여 $x$가 $V$에 작용하는 방식을 통해 $G$-representation을 얻을 수 있다.

명제 4 위의 대응들은 categorical equivalence

\[\Rep_\mathbb{C}(G)\cong \lMod{\mathbb{C}[G]}\]

을 준다.

즉 우리가 $G$-module이라 부르던 것은, 엄밀히 말하자면 $\mathbb{C}[G]$-module 구조에서 $G\hookrightarrow \mathbb{C}[G]$가 주어졌을 때의 action만 본 것이라 생각할 수도 있다.

실제로 위에서 논의한 대부분의 것들이 이 categorical equivalence로 설명될 수 있다. 가령 임의의 $G$-representation $V$에 대하여, $V$의 subrepresentation은 $V$의 $G$-submodule (정확히는 $\mathbb{C}[G]$-submodule)이다. 또, 정의 3의 tensor product도 납득할만한데, 일반적으로 coproduct $\Delta:A\rightarrow A\otimes A$가 주어진 $\mathbb{K}$-algebra $A$와 두 $A$-module $M,N$에 대하여 이들의 텐서곱을 정의하기 위해서는 $\Delta$를 활용하여

\[A\otimes (M\otimes N)\rightarrow (A\otimes A)\otimes (M\otimes N)\rightarrow (A\otimes M)\otimes (A\otimes N)\rightarrow M\otimes N\]

을 사용해야 하고, 이 때 사용하는 coproduct $A\rightarrow A\otimes A$이 $\mathbb{C}[G]$의 경우에는

\[\mathbb{C}[G]\rightarrow \mathbb{C}[G]\otimes \mathbb{C}[G]\]

이기 때문이다. 그럼 마찬가지로 정의 3에서 정의한 $\Hom$이 이 $\otimes$와 adjunction 관계에 있고, 이러한 이유로 다소 인위적으로 보이는 정의 3의 $G$-action들이 등장하는 것이다.

특별히 $G$의 subrepresentation과 $\mathbb{C}[G]$-submodule이 같은 것이라는 것을 생각하면, $V$가 irreducible representation인 것은 $V$가 simple $\mathbb{C}[G]$-module인 것과 같다.

마슈케의 정리

이제 우리는 유한군의 표현에 필요한 기본적인 개념들은 대충 살펴보았다. 본격적인 이야기를 시작하기 전에, 임의의 representation $V$에 대하여 다음의 부분공간

\[V^G=\{v\in V\mid g\cdot v=v\text{ for all $g\in G$}\}\]

을 생각하자. 이 공간은 $G$-action에 의해 고정되는 벡터들의 공간이며, $G$-invariant space이기도 하지만 그보다 우리가 관찰하고 싶은 것은 자명한 projection map

\[p: V\rightarrow V^G;\qquad v\mapsto \frac{1}{\lvert G\rvert}\sum_{g\in G}g\cdot v\]

이 존재한다는 것이다. 특히 이 projection map에 담긴 아이디어, 즉 $G$의 작용들을 모두 더한 후 평균내어 $G$-invariant한 대상을 얻어내는 아이디어는 중요하게 사용된다.

정의 5 $G$-representation $V$ 위의 Hermitian inner product $\langle-,-\rangle$이 $G$-invariant라는 것은 임의의 $g\in G$와 $u,v\in V$에 대하여

\[\langle g\cdot u,g\cdot v\rangle=\langle u,v\rangle\]

이 성립하는 것이다. $G$-invariant inner product를 갖는 representation을 unitary representation이라 부른다.

만일 이러한 $G$-invariant inner product가 주어졌다면, 임의의 $g\in G$에 대하여 $\rho(g)\in \Aut(V)$는 unitary operator이다. 이를 관찰하기 위해 $G$-invariant inner product $\langle -,-\rangle$가 주어졌다 하고, 임의의 $g\in G$에 대해

\[\langle v,w\rangle=\langle \rho(g) v,\rho(g) w\rangle=\langle \rho(g)^\dagger \rho(g)v,w\rangle\]

모든 $v,w\in V$에 대해 성립하기 때문이다.

한편, 유한차원 $G$-module $V$는 $G$-invariant inner product를 갖는다. 이는 위에서 언급한 아이디어를 활용하여 증명할 수 있다.

명제 6 임의의 representation $V$는 $G$-invariant inner product를 갖는다. 즉 임의의 representation은 unitary representation이다.

증명

$V$ 위의 임의의 Hermitian inner product $\langle -,- \rangle$에 대하여,

\[\langle\kern-1.5pt\langle u,v\rangle\kern-1.5pt\rangle = \frac{1}{|G|}\sum_{g \in G} \langle g\cdot u, g\cdot v \rangle\]

을 통해 새로운 inner product $\langle\kern-1.5pt\langle-,-\rangle\kern-1.5pt\rangle$를 정의하면 된다. 그럼 임의의 $h\in G$에 대하여

\[\langle\kern-1.5pt\langle h\cdot u, h\cdot v\rangle\kern-1.5pt\rangle = \frac{1}{|G|}\sum_{g \in G} \langle gh\cdot u, gh\cdot v \rangle = \langle\kern-1.5pt\langle u, v\rangle\kern-1.5pt\rangle\]

이므로 이 inner product는 $G$-invariant이다.

어쨌든 이번 섹션의 핵심적인 정리는 위의 명제로부터 따라나온다.

따름정리 7 (Maschke) 임의의 유한차원 $G$-representation $V$와 $G$-invariant subspace $W$에 대하여, 적당한 $G$-invariant subspace $W’$가 존재하여 $V = W \oplus W’$이도록 할 수 있다. 따라서, 귀납적으로, 임의의 유한차원 $G$-representation은 irreducible representation들의 direct sum으로 분해된다.

증명

$W’$를 $W$의 orthogonal complement로 잡으면, $W’$ 또한 $G$-invariant subspace이며 $V = W \oplus W’$가 성립한다.

앞서 우리는 categorical equivalence

\[\Rep_\mathbb{C}(G)\cong \lMod{\mathbb{C}[G]}\]

을 살펴보았다. 그럼 따름정리 7이 주장하는 것은 임의의 유한차원 $G$-representation $V$는 항상 semisimple $\mathbb{C}[G]$-module이라는 것이다. 따라서 $\mathbb{C}[G]$는 그 자체로 Artinian semisimple ring이 되며 (semisimple) 따라서 Artin-Wedderburn 정리 (artin-wedderburn)에 의하여 simple module들로의 decomposition

\[\mathbb{C}[G]\cong \bigoplus_{i=1}^r \Mat_{n_i}(\mathbb{C})\tag{1}\]

이 존재한다는 것을 안다.

슈어 직교성

다음 글에서 우리는 decomposition (1)에 표현론적인 의미를 부여한다. 이를 위한 준비작업으로 우리는 다음 보조정리를 증명한다.

보조정리 8 (Schur) (Compact) group $G$와 irreducible $G$-module들 $V,W$가 주어졌다 하자. 그럼 다음이 성립한다.

  1. 임의의 $G$-map $V\rightarrow W$는 zero map이거나 isomorphism이다.
  2. 임의의 $G$-automorphism $f\in \Aut_G(V)$는 $f(v)=\lambda v$의 꼴이다.
  3. $G$-map들의 모임 $\Hom_G(V,W)$은 $\mathbb{C}$이거나 $0$이다.
증명
  1. 이는 kernel과 image를 각각 생각하면 자명하다.
  2. 주어진 $f$는 $G$-linear map이기 이전에 $\mathbb{C}$-linear map이므로, $f$의 eigenvalue $\lambda$가 존재한다. 이제 이 eigenvalue에 대응되는 eigenspace를 $W$라 하고, 이것이 실은 $G$-submodule이 됨을 보이면 된다.
  3. 위의 두 명제에 의해 자명하다.

이를 사용하면 우리는 다음 명제를 얻는다.

명제 9 위와 같은 상황에서, 다음의 함수

\[d=\bigoplus_{W\in\Irr(G, \mathbb{C})} d_W:\bigoplus_{W\in \Irr(G, \mathbb{C})}\Hom_G(W,V)\otimes_\mathbb{C}W\rightarrow V\]

는 isomorphism이다.

이에 대한 증명은, $V$가 irreducible decomposition $V=\bigoplus V_j$을 가지므로 다음의 식

\[\Hom_G(W, V)=\Hom_G\left(W, \bigoplus V_j\right)\cong \bigoplus \Hom_G(W, V_j)\]

보조정리 8에 의해 자명하다. 즉 복잡하게 써 두기는 했지만, 위의 $d$는 각각의 irreducible $G$-module $W$(의 isomorphism class)들이 $V$ 안에 얼마나 들어있는지를 세는 것이며, 따라서 다음 정의가 자연스럽다.

정의 10 위의 함수에 의한 $W\in\Irr(G, \mathbb{C})$의 image를 $V$의 $W$-isotypical summand라 부르고, $\Hom_G(W, V)$를 $W$의 multiplicity라 부른다.

약간의 믿음을 가지면 이러한 표현이 유일하다는 것도 납득할 수 있다. 즉, 우리는 임의의 representation $V$가 주어졌을 때 이를 다음의 decomposition

\[V=V_1^{\oplus r_1}\oplus\cdots\oplus V_k^{\oplus r_k}\]

의 형태로 나타낼 수 있는 것을 안다.

댓글남기기