열린집합

열린집합과 위상

대수적인 구조들에는 우리가 공간이라고 할 때 흔히 생각하는 거리와 같은 개념들이 잘 정의되지 않을 수도 있다. 한편, 수학자들이 관심을 갖는 공간들은 이렇게 흔히 생각하는 공간들과 다를 수 있는데, 예를 들어 거리를 주는 것이 불가능한 공간들이 많이 존재한다. 이번 글에서는 어떠한 방식으로 공간을 정의하는지를 살펴본다.

정의 1 집합 $X$ 위에 정의된 위상_topology이라는 것은 다음의 조건을 만족하는 $\mathcal{P}(X)$의 부분집합 $\mathcal{T}$를 의미한다.

1. $\emptyset,X\in\mathcal{T}$가 성립한다.
2. $\mathcal{T}$의 원소들의 임의의 합집합은 $\mathcal{T}$에 속한다.
3. $\mathcal{T}$의 원소들의 유한한 교집합은 $\mathcal{T}$에 속한다.

이렇게 위상이 주어진 집합 $X$를 위상공간_{topological space}이라고 부르고, 이 때 $X$의 원소들을 점_point들, 그리고 $\mathcal{T}$의 원소들을 열린집합_{open set}들이라 부른다.

[집합론] §합집합과 교집합에서의 관례를 도입하면 위 정의의 둘째 조건과 셋째 조건에서 두 집합

\[\bigcup_{U\in\emptyset}U=\emptyset,\qquad\bigcap_{U\in\emptyset}U=X\]

이 반드시 $\mathcal{T}$에 속해야 한다는 것을 보일 수 있지만, 혼동을 피하기 위해 첫째 조건 또한 명시해주는 것이 일반적이다.

예시 2 임의의 집합 $X$에 대하여, $X$ 위에 정의된 위상 중 가장 작을 수 있는 것은 $\{\emptyset,X\}$이다. 실제로 이 집합으로 정의된 구조는 정의의 1번부터 3번 조건을 모두 만족하므로 위상공간이 된다. 이를 trivial topology_{자명한 위상}라 부른다.

반대로, $X$ 위에 정의된 위상 중 가장 클 수 있는 것은 $\mathcal{P}(X)$이다. 이 또한 위상공간을 이루며, 우리는 이를 discrete topology_이산위상라 부른다.

일반적으로 $X$ 위에 주어진 위상에 대한 혼동의 여지가 없을 경우, 간단하게 위상공간 $X$와 같은 표현을 사용한다.

정의 3 어떤 집합 위에 두 위상 $\mathcal{T}_1$, $\mathcal{T}_2$가 주어졌고 이들이 $\subset$으로 비교가능하다고 하자. 만일 $\mathcal{T}_1$, $\mathcal{T}_2$에 대하여 $\mathcal{T}_1\subset\mathcal{T}_2$가 성립한다면 $\mathcal{T}_2$가 $\mathcal{T}_1$보다 강한 위상_{stronger topology}이라고 하고, $\mathcal{T}_1$은 $\mathcal{T}_2$보다 약한 위상_{weaker topology}이라고 한다.

예를 들어, 집합 $X$ 위에 정의된 임의의 위상 $\mathcal{T}$는 $X$ 위의 discrete topology보다는 항상 약하고, $X$ 위의 trivial topology보다는 항상 강하다.

$X$에 멀고 가까움의 개념을 주기 위해서 가장 좋은 도구는 거리지만, 거리를 줄 수 있는 공간은 매우 적기 때문에 더 일반화된 개념이 필요하다. $\mathcal{T}$에 의해 정의되는 일종의 멀고 가까움을 두 점이 얼마나 많은 열린집합에 공통적으로 포함되는지를 통해 살펴보면 거리가 주어진 것과 비슷한 이야기를 할 수 있다.

우선 trivial topology의 경우를 살펴보자. 만약 $X=\{x,y\}$이고 $X$에 trivial topology가 주어졌다면, $X$의 두 점 $x,y$는 위상공간의 관점에서는 완벽하게 동등하다. 이는 위상구조를 이용해서¹ 두 점 $x,y$를 구별할 수 없기 때문이다. 이렇게 위상공간 $X$의 두 점 $x,y$가 정확히 동일한 열린집합들에 포함된다면 이 두 점이 위상적으로 구별불가능_{topologically indistinguishable}하다고 말한다.

반면 동일한 집합 $X$에 discrete topology를 준다면 두 점 $x$와 $y$는 이 위상공간들에서는 구별이 가능해진다. 점 $x$는 포함하지만 $y$는 포함하지 않는 열린집합 $\{x\}$가 존재하기 때문이다. 이런 측면에서, trivial topology 상에서는 모든 점들이 가까이 붙어있지만 discrete topology 상에서는 모든 점들이 서로 떨어져 있다고 생각할 수 있다.

위의 논증에서 점 $x$를 포함하는 열린집합은 앞으로도 자주 사용해야 하므로, 다음과 같이 이름을 붙이는 것이 좋다.

정의 4 위상공간 $X$가 주어졌다 하고, $X$의 임의의 부분집합 $A$가 주어졌다 하자. $A$를 포함하는 임의의 열린집합을 $A$의 열린근방_{open neighborhood}이라 부른다. $X$의 임의의 부분집합 $S$가 집합 $A$의 근방_neighborhood이라는 것은 $A$의 적절한 열린근방 $U$가 존재하여 $U\subseteq S$인 것이다.

특별히 $A$가 한점집합 $\{x\}$일 경우, $A$의 열린근방과 근방을 각각 $x$의 열린근방과 근방이라 부르기도 한다.

많은 경우 위상수학의 성질들은 열린근방만 살펴보면 충분하고, [Mun]과 같은 경우에는 아예 열린근방을 간단히 근방이라 줄여 말하기도 한다. 그러나 위상수학의 몇몇 결과들을 잘 서술하기 위해서는 이들을 구별하는 것이 필수적이다. 어쨌든 이 일반적인 세팅이 특별히 어려울 일은 없으므로 우리는 이를 명확히 구별하기로 한다.

명제 5 위상공간 $X$의 부분집합 $U$가 열린집합인 것은 $U$가 임의의 $x\in U$의 근방인 것과 동치이다.

증명

정의 4을 통해 뒤의 조건을 풀어쓰면

임의의 $x\in U$가 주어질 때마다, $U$에 포함되는 $x$의 열린근방 $V$가 존재한다.

는 것과 같다.

우선 $U$가 열린집합이라면, $U$ 자기자신이 $U$에 포함되는 $x$의 열린근방이므로 증명할 것이 없다. 따라서 반대방향만 보이면 충분하다. 임의의 $x\in U$마다, $U$에 포함되는 $x$의 열린근방이 존재한다 하고, $x$에 대한 의존성을 나타내기 위해 이를 $V(x)$라 하자. 즉 $V(x)$는 열린집합이며, $\{x\}\subseteq V(x)\subseteq U$를 만족한다. 이제 $U$가 열린집합이라는 것은 다음 등식

\[U=\bigcup_{x\in U}\{x\}\subseteq\bigcup_{x\in U} V(x)\subseteq\bigcup_{x\in U} U=U\]

으로부터 명확하다.

Neighborhood filter

위상공간 $X$와 한 점 $x\in X$가 주어졌다 하고, $\mathcal{N}(x)$를 $x$의 모든 근방들의 모임으로 정의하자.

명제 6 위상공간 $X$와 $\mathcal{N}(x)$는 다음 성질을 만족한다.

1. $\mathcal{N}(x)$의 원소를 포함하는 집합은 $\mathcal{N}(x)$에 포함된다.
2. $\mathcal{N}(x)$의 임의의 원소의 유한한 교집합은 다시 $\mathcal{N}(x)$에 포함된다.
3. $\mathcal{N}(x)$의 임의의 원소는 $x$를 포함한다.
4. $\mathcal{N}(x)$의 임의의 원소 $V$가 주어질 때마다 적당한 $W\in\mathcal{N}(x)$가 존재하여, 임의의 $y\in W$에 대해 $V\in\mathcal{N}(y)$이도록 할 수 있다.

거꾸로, 임의의 집합 $X$의 각 원소 $x\in X$마다 위의 조건을 만족하는 집합 $\mathcal{N}(x)\subseteq\mathcal{P}(X)$가 주어졌다 하자.² 그럼 이들 $\mathcal{N}(x)$들이 $x$의 모든 근방들의 모임이도록 하는 $X$ 위에서의 위상 $\mathcal{T}$가 유일하게 존재한다.

증명

첫 번째 성질과 세 번째 성질은 정의에 의해 자명하다.

둘째 성질을 보이기 위해, $V_1,\ldots, V_n\in\mathcal{N}(x)$가 주어졌다 하자. 그럼 $x\in V_i\subseteq U_i$이도록 하는 $x$의 열린근방들 $U_1,\ldots, U_n$이 존재한다. 이제 정의 1의 셋째 조건에 의하여 이들의 유한한 교집합 $U_1\cap\cdots\cap U_n$도 열린집합이고, 따라서

\[x\in \bigcap_{i=1}^n U_i\subseteq\bigcap_{i=1}^n V_i\]

이므로 $\bigcap V_i$는 $x$의 근방이다.

넷째 성질의 경우, $W$를 $V$에 속하는 $x$의 열린근방으로 잡으면 된다.

이제 반대방향을 보여야 한다. 위의 조건을 만족하는 $\mathcal{N}(x)$들이 주어졌다 하자. 그럼 명제 5에 의하여, $\mathcal{T}$의 원소는 다음 조건

임의의 $x\in U$에 대하여, $U\in\mathcal{N}(x)$

를 만족해야 한다. 이로부터 $\mathcal{T}$가 유일해야 한다는 것이 자명하다.

존재성을 보이기 위해, 위의 조건을 만족하는 모든 집합들의 모임을 $\mathcal{T}$라 하고 이 모임이 정의 1의 조건들을 만족한다는 것을 보이자. 우선 $\emptyset$과 $X$가 위의 조건을 만족하는 것은 자명하다. $\mathcal{T}$의 원소들 $(U_i)_{i\in I}$이 주어졌다 하자. $U=\bigcup U_i$라 하고, 임의의 $x\in U$를 택하자. 그럼 $x\in U_i$를 만족하는 $U_i$에 대하여, $U_i\in\mathcal{N}(x)$이고 $U_i\subseteq U$이므로 첫째 조건에 의하여 $U\in\mathcal{N}(x)$이고, 따라서 $U\in\mathcal{T}$이다. 이와 비슷하게 $\mathcal{T}$의 유한한 원소들의 교집합이 $\mathcal{T}$에 속한다는 것을 보일 수 있다.

존재성의 증명을 완료하기 위해서는 이렇게 만든 위상공간 $(X,\mathcal{T})$에 대하여, $\mathcal{N}(x)$가 실제로 각 점 $x$의 모든 근방들의 모임과 같음을 보여야 한다. $\mathcal{T}$의 정의에 의하여, $x$의 임의의 열린근방 $U$는 $\mathcal{N}(x)$에 속하고, 따라서 $x$의 임의의 근방은 첫째 조건에 의해 $\mathcal{N}(x)$에 속한다.
거꾸로 $\mathcal{N}(x)$에 속하는 임의의 집합 $V$를 택하자. $V$가 $\mathcal{T}$에서 $x$의 근방임을 보이기 위해서는 $x$의 적당한 열린근방 $U\subseteq V$를 찾아야 한다. $U$를 $V\in\mathcal{N}(y)$를 만족하는 모든 $y\in X$들의 모임으로 정의하자.

• $V\in\mathcal{N}(x)$이므로, $x\in U$인 것은 자명하다.
• 임의의 $y\in U$를 택하자. $U$의 정의에 의해 $V\in\mathcal{N}(y)$이고, $\mathcal{N}(y)$의 셋째 조건으로부터 $y\in V$이다. 즉 $x\in U\subseteq V$이다.
• 마지막으로 $U\in\mathcal{T}$임을 보여야 한다. 즉, 임의의 $y\in U$에 대해 $U\in\mathcal{N}(y)$임을 보이자. 그럼 $V\in\mathcal{N}(y)$이므로, 넷째 조건으로부터 적당한 $W\in\mathcal{N}(y)$가 존재하여, 임의의 $z\in W$에 대해 $V\in\mathcal{N}(z)$가 성립하도록 할 수 있다. 따라서 $z\in U$이므로, $W\subseteq U$이고 이로부터 $U\in\mathcal{N}(y)$임을 안다.

위 명제의 첫째와 둘째 성질은 $\mathcal{N}(x)$가 ordered set $(\mathcal{P}(X),\subseteq)$ 위에 정의된 filter라는 것을 보여주며, 세 번째 성질은 이 filter가 공집합 $\emptyset$을 포함하지 않는다는 것을 보여준다. 이 세 조건을 만족하는 $\mathcal{P}(X)$의 부분집합을 위상공간 $X$ 위에 정의된 filter라 부른다. 특별히 filter $\mathcal{N}(x)$들은 neighborhood filter라 부른다.

---

참고문헌

[Bou] N. Bourbaki, General Topology. Elements of mathematics. Springer, 1995.

---

1. 즉, $\mathcal{T}$의 원소들인 열린집합들을 이용해서 ↩

2. 둘째 조건이 $\bigcap_{V\in\emptyset} V=X\in\mathcal{N}(x)$를 내포하는 것으로 생각한다. ↩