표현의 지표

이번 글에서 우리는 character function을 정의하고 이들의 성질에 대해 살펴본다. 이들은 representation을 분류하는 우리의 목표에 큰 도움을 줄 것이다.

군 표현의 지표

정의 1 $G$의 representation $\rho:G\rightarrow\Aut(V)$에 대응하는 character_지표 $\rchi_\rho:G\rightarrow\mathbb{C}$를

\[\rchi_\rho(g)=\tr(\rho(g))\]

으로 정의한다.

즉, 각각의 $g\in G$를 받아서 이것이 정의하는 linear map $\rho(g):V\rightarrow V$의 trace를 내 주는 것이 이 함수가 하는 일이다. 앞으로 살펴보겠지만, 이 함수는 $G$의 representation을 설명하는데 큰 역할을 한다. 가령, 당장 볼 수 있는 것은 이 함수가 $V$의 차원을 담고 있는 것이다.

\[\rchi_\rho(e)=\tr(\rho(e))=\tr(\id_V)=\dim V.\]

비슷하게 우리는 두 linear map

\[L_V:V\rightarrow V,\qquad L_W:W\rightarrow W\]

이 주어졌을 때 이들의 direct sum $L_V\oplus L_W: V\oplus W\rightarrow V\oplus W$, 이들의 tensor product $L_V\otimes L_W: V\otimes W \rightarrow V\otimes W$ 등이 어떻게 정의되는지 알고 있고, 이들의 trace가 어떻게 되는지 또한 (가령 행렬로 두고 계산하면) 알고 있다. 이로부터 다음의 명제를 얻는다.

명제 2 Representation $V, W$에 대해 다음이 성립한다.

1. $\rchi_{V\oplus W}=\rchi_V\oplus \rchi_W$
2. $\rchi_{V\otimes W}=\rchi_V\rchi_W$
3. $\rchi_{V^\ast}=\overline{\rchi}_V$

특히 첫 번째 식에 의하여, 임의의 representation은 irreducible decomposition

\[V\cong V_1^{\oplus a_1}\oplus\cdots\oplus V_r^{\oplus a_r}\]

을 가지므로 임의의 representation의 character는

\[\rchi_V=a_1\rchi_{V_1}+\cdots+a_r\rchi_{V_r}\]

로 표현할 수 있음을 안다.

한편 정의에 의하여

\[\rchi_\rho(hgh^{-1})=\tr(\rho(h)\rho(g)\rho(h)^{-1})=\tr(\rho(g))=\rchi_\rho(g)\]

가 성립하므로 ([선형대수학] §특성다항식, ⁋정리 5), 우리는 이로부터 $\rchi_\rho$가 $G$의 conjugacy class들 위에서 상수임을 안다. 이러한 함수들에도 이름이 있다.

정의 3 함수 $\rchi:G\rightarrow\mathbb{C}$가 class function_유함수이라는 것은 $\rchi(hgh^{-1})=f(g)$가 모든 $g,h\in G$에 대해 성립하는 것이다. $G$ 위에 정의된 모든 class function들의 모임을 $\mathbb{C}_\class(G)$으로 적는다.

정의에 의해 class function들은 각 conjugacy class들 위에서의 함수값에 의해 결정되며, 따라서 벡터공간으로서 $\mathbb{C}_\class(G)$는 $G$의 conjugacy class의 개수만큼의 차원을 갖는다. 한편 앞선 글에서 우리가 중요하게 생각했던 아이디어는 어떠한 값이 주어졌을 때, 이를 $G$ 전체에 대하여 평균내주어 $G$-invariant한 값을 얻어낼 수 있다는 것이었는데, 이를 이용하면 $\mathbb{C}_\class(G)$ 위에 다음과 같은 정의를 해줄 수 있다.

정의 4 임의의 class function들 $\rchi_1,\rchi_2: G\rightarrow \mathbb{C}$에 대하여,

\[\langle \rchi_1,\rchi_2\rangle=\frac{1}{\lvert G\rvert}\sum_{g\in G} \rchi_1(g)\overline{\rchi_2(g)}\]

으로 정의한다.

이는 단순히 target space $\mathbb{C}$에 정의된 standard Hermitian product를 $\mathbb{C}_\class(G)$ 위에 옮겨준 것에 불과하다. 한편, 어떠한 representation $\rho$의 character $\rchi_\rho$에 대해서는, 임의의 $g\in G$에 대하여

\[\rchi_\rho(g^{-1})=\tr(\rho(g^{-1}))=\tr(\rho(g)^{-1})=\tr(\rho(g)^\dagger)=\overline{\tr(\rho(g))}=\overline{\rchi_\rho(g)}\]

이 성립하므로, 두 character $\rchi_1,\rchi_2$에 대해서는 다음 식

\[\langle \rchi_1,\rchi_2\rangle=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rchi_1(g)\overline{\rchi_2(g)}=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rchi_1(g^{-1})\overline{\rchi_2(g^{-1})}=\frac{1}{\lvert G\rvert}\sum_{g\in G}\overline{\rchi_1(g)}\rchi_2(g)=\langle \rchi_2,\rchi_1\rangle\]

이 성립하는 것을 안다. 즉 character들로 제한했을 때 이 inner product는 실수값을 가진다.

지표의 직교성

앞선 글에서 살펴봤듯, 임의의 representation $U$에 대하여, 다음의 fixed point들의 subspace

\[U^G=\{u\in U\mid g\cdot u=u\text{ for all $g\in G$}\}\]

가 존재하며, 이 때

\[p:U\rightarrow U^G;\qquad u\mapsto \frac{1}{\lvert G\rvert}\sum_{g\in G}g\cdot u\]

이 $U$에서 $U$로의 $G$-invariant projection을 정의하고, 그 image는 $U^G$이다. 그 정의에 의하여, $U^G$ 위에 정의된 subrepresentation은 정확히 trivial representation

\[G\rightarrow \Aut(U^G);\quad g\mapsto \id_{U_G}\]

이므로, 우리는 이로부터 representation $U$를 trivial representation $U^G$와 그렇지 않은 부분 $W$로 분해하여

\[U=U^G\oplus W\]

를 얻을 수 있다.

뿐만 아니라, 우리는 $U^G$의 차원 또한 계산할 수 있다. 위의 decomposition에서 $U^G$와 $W$의 적절한 basis를 사용하여 이를 block matrix

\[\begin{pmatrix}\id_{U^G}&0\\0&0\end{pmatrix}\]

의 꼴로 나타낼 수 있으므로 $\varphi: U\rightarrow U$의 trace는 $\dim U^G$와 같다. 이제 정의에 의하여,

\[\dim U^G=\tr(\varphi)=\tr\left(\frac{1}{\lvert G\rvert}\sum_{g\in G}\rho(g)\right)=\frac{1}{\lvert G\rvert}\sum_{g\in G}\tr(\rho(g))=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rchi(g)\tag{1}\]

이다.

더 일반적으로, 우리는 §유한군의 표현론, ⁋정의 3에서 임의의 $G$-representation $V,W$에 대하여, 이들의 (underlying $\mathbb{C}$-벡터공간으로서의) $\Hom$-set $\Hom_\mathbb{C}(V,W)$에 $G$-action

\[(g\cdot f)(v)=g\cdot f(g^{-1}\cdot v)\qquad\text{for all $v\in V$}\]

을 정의하였다. 그럼 다음의 식

\[\Hom_\mathbb{C}(V,W)^G=\Hom_G(V,W)\]

이 성립하며, 따라서 식 (1)을 $U=\Hom(V,W)$와 그에 대응되는 trace map $\varphi$에 적용하면

\[\dim \Hom_G(V,W)=\tr(\varphi)=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rchi_{\Hom(V,W)}(g)\]

임을 안다. 한편 $\Hom_G(V,W)=V^\ast\otimes W$임을 활용하면 우변의 character는 다음의 식

\[\rchi_{\Hom_G(V,W)}(g)=\overline{\rchi_V(g)}\rchi_W(g)\]

을 통해 얻어지므로, 위의 식을 다시

\[\dim\Hom_G(V,W)=\frac{1}{\lvert G\rvert}\sum_{g\in G}\overline{\rchi_V(g)}\rchi_W(g)=\langle \rchi_W, \rchi_V\rangle\]

으로 쓸 수 있다. 한편, 마지막으로 $V,W$가 irreducible representation들이라 가정하면 $\Hom_G(V,W)$는 §유한군의 표현론, ⁋보조정리 8으로부터 $V\cong W$라면 $1$차원, 그렇지 않다면 $0$차원이므로

\[\dim \Hom_\mathbb{C}(V,W)^G=\dim \Hom_G(V,W)=\begin{cases}1&\text{if $V\cong W$,}\\0&\text{otherwise}\end{cases}\]

이고 이로부터 다음의 식

\[\langle \rchi_W,\rchi_V\rangle=\delta_{VW}\]

을 얻는다. 즉 정의 4의 inner product에 대하여 irreducible character들은 orthonormal set이다. 우리는 $\mathbb{C}_\class(G)$가 $G$의 conjugacy class들의 개수만큼의 차원을 가지고 있는 것을 알고 있으므로, 이로부터 irreducible representation들은 $G$의 conjugacy class의 개수보다 많을 수 없다는 것을 안다. 뿐만 아니라, 이 inner product를 사용하면 우리는 임의의 representation $V$의 character $\rchi_V$와, 고정된 irreducible representation $V_i$의 character $\rchi_{V_i}$을 내적하여 $V$ 안에서 $V_i$의 multiplicity를 계산할 수 있다.

Regular representation

이 섹션에서 우리는 지난 글에서 고려했던 Artin-Wedderburn decomposition (§유한군의 표현론, 식 (1))을 character를 이용해 얻어낸다. 이를 위해, 우선 $\mathbb{C}[G]$는 자기자신 위에 정의된 left $\mathbb{C}[G]$-module이고 따라서 categorical equivalence

\[\Rep_\mathbb{C}(G)\cong \lMod{\mathbb{C}[G]}\]

로부터 $G$의 representation이기도 하다는 것을 관찰하자. 이는 단순히 $\mathbb{C}[G]$ 위에 정의된 module 구조, 즉 $\mathbb{C}[G]$의 ring으로서의 곱셈 구조를 $G$로 제한하여 얻어지는 것으로, 명시적으로 임의의 $g\in G$의 $\mathbb{C}[G]$에서의 image $\delta_g=\sum_{x\in X}\delta_g(x)x$를 사용하면

\[g\cdot \left(\sum_{y\in G} \phi(y)y\right)=\left(\sum_{x\in X}\delta_g(x)x\right)\left(\sum_{y\in G}\phi(y)y\right)=\sum_{z\in G}\left(\sum_{x\in G}\delta_g(x)\phi(x^{-1}z)\right)z=\sum_{z\in G}\phi(g^{-1}z)z=\sum_{z\in G}\phi(z)(gz)\]

으로 쓸 수 있고, 이러한 representation을 regular representation이라 부른다.

이제 $\mathbb{C}[G]$를 분해하기 위해 regular representation의 character theory를 생각한다. 위와 같이 $\mathbb{C}[G]$를 $g\in G$들(정확히는 $\delta_g$들)을 basis로 갖는 벡터공간으로 보고, 이를 통해 regular representation $\rho_\reg$가 주는 각각의 linear operator $\rho_\reg(g)$를 행렬로 나타내어 그 trace를 생각하면

\[\rchi_{\mathbb{C}[G]}(g)=\begin{cases}\lvert G\rvert&\text{if $g=e$}\\0&\text{otherwise}\end{cases}\tag{2}\]

이다. 이제 만일 $V_i$가 $\mathbb{C}[G]$의 irreducible subrepresentation이라면,

\[\langle\rchi_{\mathbb{C}[G]}, \rchi_{V_i}\rangle=\frac{1}{\lvert G\rvert}\sum_{g\in G}\rchi_{\mathbb{C}[G]}(g)\rchi_{V_i}(g)=\frac{1}{\lvert G\rvert} \rchi_{\mathbb{C}[G]}(e)\rchi_{V_i}(e)=\dim V_i\]

이 성립한다. 즉, 우리는 다음의 decomposition

\[\mathbb{C}[G]\cong \bigoplus_{i=1}^r V_i^{\dim V_i}\]

을 얻는다. 뿐만 아니라 $\mathbb{C}[G]$는 자기 자신 위에 곱셈으로 작용하고, 이 작용 하에서 §유한군의 표현론, ⁋보조정리 8 $V_i$는 $V_i$로만 간다는 것을 생각하면 각각의 $V_i^{\dim V_i}$이 정확하게 matrix algebra $\Mat_{d_i}(\mathbb{C})$라는 것을 알고, Artin-Wedderburn theorem의 유일성으로부터 이것이 곧

\[\mathbb{C}[G]\cong \bigoplus_{i=1}^r\Mat_{d_i}(\mathbb{C})\]

과 같다는 것을 확인할 수 있다.

Projection formula

앞서 우리는 $\mathbb{C}_\class(G)$ 안에서 irreducible representation들의 character가 orthonormal set을 이룬다는 것을 보았다. 이제 우리는 이들이 $\mathbb{C}_\class(G)$의 orthonormal basis가 된다는 것을 보인다.

보조정리 5 임의의 함수 $\phi:G\rightarrow \mathbb{C}$와 임의의 representation $\rho:G\rightarrow\Aut(V)$이 주어졌다 하자.

\[\rho_\phi=\sum_{g\in G} \phi(g)\rho(g): V\rightarrow V\]

으로 정의하면, $\rho_\phi$가 $G$-map인 것과 $\phi$가 class function인 것이 동치이다.

증명

$\rho_\phi$가 $G$-map이기 위해서는 임의의 $h\in G$와 임의의 $v\in V$에 대하여 다음 식

\[\rho_\phi(h\cdot v)=h\cdot\rho_\phi(v)\]

이 성립해야 한다. 좌변을 직접 계산해보면

\[\rho_\phi(h\cdot v)=\sum_{g\in G}\phi(g)\rho(g)(h\cdot v)\]

이며, 이 합을 $hgh^{-1}$에 대하여 취해도 같은 합이므로

\[\rho_\phi(hv)=\sum_{g\in G}\phi(hgh^{-1})\rho(hgh^{-1})(h\cdot v)=\sum_{g\in G}\phi(hgh^{-1})\rho(h)\rho(g)(v)=\rho(h)\left(\sum_{g\in G}\phi(hgh^{-1})\rho(g)v\right)\]

로 쓸 수 있다. 이제 이것이

\[h\cdot\rho_\phi(v)=\rho(h)\rho_\phi(v)=\rho(h)\left(\sum_{g\in G}\phi(g)\rho(g)(v))\]

와 같기 위해서는 정확히 $\phi(g)=\phi(hgh^{-1})$, 곧 $\phi$가 class function이어야 한다.

이제 우리는 이를 사용하여 모든 class function이 irreducible character들의 일차결합으로 나타난다는 것을 보인다. 즉 만일 class function $\phi$에 대하여, $\langle \rchi_V,\phi\rangle=0$이 모든 irreducible character $\rchi_V$에 대해 성립한다면 $\phi=0$이라는 것을 보여야 한다.

이를 위해 위의 보조정리를 class function $\phi$와 irreducible representation $\rho:G\rightarrow\Aut(V)$에 사용하자. $\phi$가 class function이므로 $\overline{\phi}$도 그러하고, 따라서 $\rho_{\overline{\phi}}$는 $G$-map이며 §유한군의 표현론, ⁋보조정리 8에 의하여 $\rho_{\overline{\phi}}$는 $\lambda\id_V$의 꼴이다. 이제 여기에 trace를 취하면

\[(\dim V)\lambda=\tr(\rho_{\overline{\phi}})=\tr\left(\sum_{g\in G}\overline{\phi(g)}\rho(g)\right)=\sum_{g\in G}\overline{\phi(g)}\rchi_V(g)=\lvert G\rvert\langle \rchi_V,\phi\rangle=0\]

임을 안다. 이제 임의의 representation은 irreducible decomposition을 가지므로, $\sum \overline{\phi(g)}g$는 임의의 representation 위에서 $0$으로 작용해야 하는 것을 알고, 특히 regular representation $\mathbb{C}[G]$에서도 그러해야 한다. 그런데 regular representation에서 이 원소를 $\delta_e$에 작용시키면 그 값은

\[\left(\sum\overline{\phi(g)}g\right)\cdot \delta_e=\sum_{g\in G}\overline{\phi(g)}g\]

이고 따라서 $\overline{\phi(g)}=0$이 모든 $g$에 대해 성립해야 한다.

예시: $S_3$

우리는 이전 글부터 세운 이론을 살펴보는 예시로 이 글을 마무리한다. 우선 임의의 abelian group $G$에 대해서는 irreducible representation이 $1$차원 representation 뿐임이 자명하므로 우리의 이론을 테스트하기 위해서는 non-abelian group이 필요하다. 계산의 편의상 가장 작은 non-abelian group인 $S_3$을 생각하자. 명시적으로

\[S_3=\{(\;),\,(1\;2),\,(1\;3),\,(2\;3),\,(1\;2\;3),\,(1\;3\;2)\}\]

이다. 우선 다음의 두 representation

\[\rho_0: S_3 \rightarrow \Aut(\mathbb{C})\qquad \sigma\mapsto \id_\mathbb{C}\]

그리고

\[\rho_\sgn: S_3 \rightarrow \Aut(\mathbb{C})\qquad \sigma\mapsto \sgn(\sigma)\id_\mathbb{C}\]

이 $\sigma$의 두 irreducible representation이 되는 것은 자명하다. 한편 $S_3$은 $\mathbb{C}^3$ 위에 permutation을 통해

\[\sigma\cdot(x_1,x_2,x_3)=(x_{\sigma(1)},x_{\sigma(2)},x_{\sigma(3)})\]

으로 작용한다. 그런데 이 action은 $(1,1,1)$이 span하는 직선을 따라서는 trivial action이며, 이 직선에 직교하는 subspace

\[V_\std=\{(x_1,x_2,x_3)\mid x_1+x_2+x_3=0\}\]

위에서 모든 작용이 이루어지는 것으로 볼 수 있으며 이 subrepresentation이 irreducible인 것도 확인할 수 있다. 이를 $S_3$의 standard representation이라 부른다.

이들 세 representation은 각각 $1,1,2$차원이고,

\[\lvert S_3\rvert=6=1^2+1^2+2^2\]

이므로 irreducible decomposition의 차원이 맞는 것을 확인할 수 있다. 조금 더 나아가기 위해 이들 세 irreducible representation의 character들을 계산하자. 이를 위해 $S_3$의 conjugacy class

\[A_1=\{(\;)\},\qquad A_2=\{(1\;2),\,(1\;3),\,(2\;3)\},\qquad A_3=\{(1\;2\;3),\,(1\;3\;2)\}\]

을 생각하자. 표기의 편의를 위해, character $\rchi$가 $A_1,A_2,A_3$ 위에서 값 $a_1,a_2,a_3$을 갖는다면 이를 벡터 $(a_1,a_2,a_3)$ 형태로 쓰기로 하자.

• $\rho_0$은 $S_3$의 모든 원소를 $\id_\mathbb{C}\in \Aut(\mathbb{C})$으로 보내고, 이 $1\times 1$ 행렬의 trace는 $1$이므로 $\rchi_0$은 $(1,1,1)$이다.
• $\rho_\sgn$은 $S_3$의 odd permutation들 (즉 $A_2$의 원소들)만 $-\id_\mathbb{C}\in\Aut(\mathbb{C})$으로 보내고, 나머지 원소들은 $\id_\mathbb{C}\in \Aut(\mathbb{C})$으로 보내므로 $\rchi_\sgn$은 $(1,-1,1)$이다.

Standard representation $\rho_\std$의 character $\rchi_\std$를 계산하는 데에는 두 가지 방법이 있으며 이 방법을 모두 소개하기로 한다.

우선 이를 직접 계산하기 위해 $V_\std$의 basis

\[\{e_1=(1,0,-1), e_2=(0,1,-1)\}\]

을 택하자. 그럼 $(\;)$는 이 basis를 건드리지 않으므로 당연히 $\rchi_\std$는 $A_1$ 위에서 값 $2$를 갖는다. $A_2$ 위에서는, 가령, $(1\;2)$를 작용하면 이는 basis를 서로 바꿔주므로 다음 행렬

\[\rho_\std((1\;2))\begin{pmatrix}0&1\\1&0\end{pmatrix}\]

에 대응되며 그 trace는 $0$이다. 참고로 만일 $(1\;3)$이 이 basis 위에 작용한다면, $e_1$은 $-e_1$으로, $e_2$는 $(-1,1,0)=-e_1+e_2$로 옮겨지므로 다음 행렬

\[\rho_\std((1\;3))=\begin{pmatrix}-1&-1\\0&1\end{pmatrix}\]

에 대응되며 이 행렬의 trace 또한 $0$이므로 character function이 class function이라는 것을 계산으로 확인할 수 있다. $A_3$의 경우 $e_1$을 $(-1,1,0)=-e_1+e_2$, $e_2$을 $(-1,0,1)=-e_1$으로 옮기므로

\[\rho_\std((1\;2\;3))=\begin{pmatrix}-1&-1\\1&0\end{pmatrix}\]

이 되어 $\rchi_\std$는 $(2,0,-1)$임을 안다.

더 편리한 계산방법은 decomposition

\[V_\perm=V_0\oplus V_\std\]

을 이용하는 것이다. 우리는 이미 $V_0$의 character가 $(1,1,1)$임을 알고 있다. 이제 $V_\perm$의 action을 생각해보면,

\[\rho_\perm((\;))=\begin{pmatrix}1&0&0\\0&1&0\\0&0&1\end{pmatrix},\quad \rho_\perm((1\;2))=\begin{pmatrix}0&1&0\\1&0&0\\0&0&1\end{pmatrix},\quad \rho_\perm((1\;2\;3))=\begin{pmatrix}0&1&0\\0&0&1\\1&0&0\end{pmatrix}\]

이므로 $\rchi_\perm$은 $(3,1,0)$임을 알고 이제 명제 2로부터 $\rchi_\perm=\rchi_0+\rchi_\std$이므로 $\rchi_\std$이 $(2,0,-1)$임을 알 수 있다. 이렇게 구한 세 개의 character들

\[\rchi_0=(1,1,1),\qquad \rchi_\sgn=(1,-1,1),\qquad \rchi_\std=(2,0,-1)\]

는 (예상대로) orthonormal이다.

우리는 regular representation의 character의 계산으로부터

\[\rho_{\mathbb{C}[S_3]}(g)=\begin{cases}6&\text{if $g=e$}\\0&\text{otherwise}\end{cases}\]

임을 안다. (식 (2)) 이는 반드시 위의 세 character들의 $\mathbb{Z}^{\geq 0}$-linear combination이어야 할 것이며 실제로

\[\rchi_{\mathbb{C}[S_3]}=\rchi_0+\rchi_\sgn+2\rchi_\std\]

임을 확인할 수 있다. 또한 이는 regular representation에서 각각의 irreducible factor의 multiplicity가 자기 자신의 차원과 같아야한다는 위의 논의와도 일치하는 결과이다.