역사적 배경

우리가 배우는 수학의 기초로서의 집합론은 19세기 칸토어로부터 시작했다고 해도 과언이 아니다. 칸토어의 소박한 집합론은 다음과 같은 철학으로 요약할 수 있다.

임의의 성질 $P$에 대하여, $P$를 만족하는 모든 원소들의 집합 $Y=\{x\mid P(x)\}$가 존재한다.

그러나 수학자들은 이러한 접근이 다양한 모순을 이끌어낸다는 것을 알게 된다.

예시 1 (러셀의 역설) 집합 $\mathcal{S}$를 $x\not\in x$를 만족하는 모든 $x$들의 모임으로 정의하자. 그럼 $\mathcal{S}$는 자기 자신의 원소이거나, 자기 자신의 원소가 아니다.

  • $\mathcal{S}$가 자기 자신의 원소라 가정하자. 그럼 $\mathcal{S}$의 정의 ($x\not\in x$)를 $\mathcal{S}$도 만족해야 하므로, $\mathcal{S}\not\in\mathcal{S}$이다. 이는 $\mathcal{S}$가 자기 자신의 원소라는 가정에 모순이므로, $\mathcal{S}$는 자기 자신의 원소가 될 수 없다.
  • 그러므로 $\mathcal{S}$는 자기 자신의 원소가 아니어야 한다. 즉 $\mathcal{S}\not\in\mathcal{S}$여야 한다. 그런데 이 또한 모순이다. $\mathcal{S}$는 $x\not\in x$를 만족하는 모든 원소들의 모임이므로, 이를 만족하는 $\mathcal{S}$도 $\mathcal{S}$에 속해있어야 하기 때문이다.

따라서, $\mathcal{S}$가 자기 자신의 원소이든 아니든, 어떤 경우에도 모순이 생기게 된다. 이를 러셀의 역설이라 부른다.

이러한 역설이 생기는 것을 방지하기 위하여, 집합을 단순히 원소들의 모임 대신 엄밀한 방법으로 정의해야 한다. 이를 위한 체계가 공리적 집합론이다.

집합론 카테고리의 글들은 공리적 집합론을 소개하기 위한 것은 아니지만, 이 글들을 시작하는 주제로서 가장 널리 쓰이는 공리계인 ZFC 공리계를 간단하게 소개하는 것은 좋은 선택인 듯하다.

ZFC 공리계

집합이라는 대상이 아예 존재하지 않는다면, 우리가 집합에 대해 어떠한 명제를 적더라도 그 명제는 참이다. 논리식 $P\implies Q$는 $P$가 거짓이라면 $Q$의 참거짓에 상관 없이 항상 참이 되기 때문이다. 따라서, 우리의 첫 번째 공리는 이 세상에 어떤 집합이 적어도 하나는 존재한다는 것이다.

The Axiom of Existence.존재 공리 어떠한 원소도 갖지 않는 집합이 존재한다.

어떠한 원소도 갖지 않는 집합에 공집합이라는 이름을 붙여주기 위해서는 먼저 이 집합이 유일하다는 것을 보여야 한다. 다음 공리가 이를 정당화한다.

The Axiom of Extensionality.외연 공리 두 집합 $A,B$에 대해 $A$의 모든 원소가 $B$의 원소이고, $B$의 모든 원소가 $A$의 원소라면 두 집합은 서로 같다.

명제 2 어떠한 원소도 갖지 않는 집합은 많아야 하나 존재한다.

증명

집합 $A$와 $B$가 어떠한 원소도 갖지 않는 집합이라 하자. 그럼 두 개의 명제

\[((x\in A)\implies (x\in B)),\qquad ((x\in B)\implies (x\in A))\]

가 모두 참이다. 따라서 axiom of extensionality에 의하여 $A=B$이다.

Axiom of existence로부터 위와 같은 집합이 적어도 하나 존재한다는 것을 알고 있으므로, 어떠한 원소도 갖지 않는 집합의 존재성과 유일성이 모두 보장된다. 이제 이 집합을 공집합이라 부르고 $\emptyset$이라는 기호를 줄 수 있다.

다음 공리는 특히 예시 1을 방지해준다는 점에서 기억할 만하다.

The Axiom schema of Comprehension.분류 공리꼴 임의의 집합 $A$와 명제 $P$가 주어졌다 하자. 그럼 $x\in B$인 것$x\in A$이고 $P(x)$인 것이 동치이도록 하는 집합 $B$가 존재한다.

형식적으로 보았을 때, 위의 공리는 모든 명제 $P$에 대해서 어떤 성질이 만족된다는 주장을 하고 있다. 이를 1차 형식논리에서 표현하는 것은 불가능하기 때문에, 이를 하나의 단일한 공리 대신 공리들의 모임이라 생각하고 axiom schema of comprehension이라 부른다.

Comprehension schema가 정의하는 집합 $B$는 유일하다. 만일 $B’$가 이를 만족하는 다른 집합이라면

\[x\in B'\iff ((x\in A)\wedge P(x))\iff x\in B\]

이고 따라서 $B=B’$이기 때문이다. 이러한 집합을 $\{x\in A\mid P(x)\}$와 같이 적으면 적절할 것이다.

예시 3 소박한 집합론에서 모순을 만들었던 것은 다음의 가정이다.

$P$가 $x$에 대한 명제라 하자. 그럼 $x\in B$인 것$P(x)$인 것이 동치이도록 하는 집합 $B$가 존재한다.

이제 새로 도입한 comprehension schema에 따르면, 예시 1과는 달리 $\mathcal{S}=\{x\mid x\not\in x\}$를 바로 정의할 수는 없고, 이미 존재하는 집합 $A$에 대해

\[B=\{x\in A\mid x\not\in x\}\]

만을 정의할 수 있다. 하지만 집합 $\mathcal{S}$와는 달리 이 집합은 어떠한 모순도 만들지 않는다.

  • 만일 $B\in B$라면 정의에 의해 $B\not\in B$이고 $B\in A$이므로 모순이다.
  • 만일 $B\not\in B$라면 $B\not\in A$ 이거나 $B\in B$이다.

둘째 경우에서 $B\in B$라면 모순이므로 반드시 $B\not\in A$이고, 이를 통해 러셀의 역설과 같은 모순이 예방된다.

예시 4 위의 예시는 집합 $A$가 주어졌을 때, $A$에 속하지 않는 집합 $B$가 항상 존재한다는 것을 보여준다. 특히 모든 집합들의 집합, 즉 전체집합은 존재하지 않는다.

명제 $P$를 적당하게 잘 잡아주면 comprehension schema로부터 우리가 알고 있는 여러 집합들을 만들 수 있다. 이들이 유일하다는 것은 extensionality에 의해 자명하다.

예시 5 임의의 집합 $A$, $B$에 대하여, $x$에 대한 성질 $P$가 $x\in B$로 주어졌다 하자. 그럼 집합

\[\{x\in A\mid P(x)\}\]

은 $A$와 $B$에 동시에 속하는 원소들의 모임이다. 이 집합을 우리는 $A$와 $B$의 교집합이라 부르고, $A\cap B$로 적는다.

예시 6 이번에는 주어진 두 개의 집합 $A$, $B$에 대하여, $x$에 대한 성질 $Q$가 $x\not\in B$로 주어졌다 하자. 그럼 집합

\[\{x\in A\mid Q(x)\}\]

은 $A$에 속하고 $B$에는 속하지 않는 원소들의 모임이다. 이를 $A$에 대한 $B$의 차집합이라 부르고 $A\setminus B$로 적는다.

혹은, $A\setminus B$를 $A$에 대한 $B$의 여집합이라고도 부른다.1

공집합 이외의 다른 집합이 존재한다는 것이 보장되지 않는다면 위의 두 예시들은 별 쓸모가 없다. 다음 공리들은 공집합이 아닌 집합들을 만드는 방법을 보여준다.

The Axiom of Pair.짝 공리 임의의 집합 $A$, $B$에 대하여, $x\in C$인 것$x=A$이거나 $x=B$인 것이 동치이도록 하는 집합 $C$가 존재한다.

역시 이 집합은 extensionality에 의해 유일하며, 이를 $\{A,B\}$로 표기한다. 이제 $A=B=\emptyset$으로 두면,

\[x\in \{\emptyset\}\iff x=\emptyset\iff (x=\emptyset)\wedge(x=\emptyset)\iff x\in \{\emptyset,\emptyset\}\]

로부터 $\{\emptyset, \emptyset\}=\{\emptyset\}$임을 안다. 또 $\emptyset\not\in \emptyset$이므로 $\emptyset\neq\{\emptyset\}$이다.

The Axiom of Union.합집합 공리 임의의 집합 $\mathcal{S}$에 대하여, $x\in U$인 것어떤 $A\in\mathcal{S}$에 대하여 $x\in A$인 것이 동치이도록 하는 집합 $U$가 존재한다.

예를 들어, 만일 $\mathcal{S}=\{A,B\}$였다면 $U$는 $x\in A$이거나 $x\in B$인 원소들의 집합, 즉 $A\cup B$가 된다는 것을 확인할 수 있다. 이를 표기상 $\bigcup\mathcal{S}$와 같이 쓰기도 한다.

The Axiom of Power set.멱집합 공리 임의의 집합 $S$에 대하여, $X\in \mathcal{P}$인 것$X\subseteq S$인 것이 동치이도록 하는 집합 $\mathcal{P}$가 존재한다.

이 집합을 $S$의 멱집합, 즉 power set이라 부르고 $\mathcal{P}(S)$와 같이 표현한다.

ZFC 공리계에는 이들 외에도 몇몇 공리들이 더 있지만, 이들은 필요할 때에 꺼내쓰기로 한다.


참고문헌

[HJJ] K. Hrbacek, T.J. Jeck, and T. Jech. Introduction to Set Theory. Lecture Notes in Pure and Applied Mathematics. M. Dekker, 1978.
[Bou] N. Bourbaki. Elements of the History of Mathematics. Springer, 2013
Wikipedia, Naive set theory, Set-theoretic definition of natural numbers.


  1. 공리적인 집합론에서 단순히 $B$의 여집합이라는 것은 존재하지 않는다. 이를 정의하기 위해서는 전체집합이 필요하기 때문이다. 

댓글남기기