위상수학 topology의 사고방식

대학교에서 수학전공을 하지 않는다면 접할 일이 거의 없는 분야 중 하나가 위상수학이죠. 특히 전공자들도 어려워하는 분야기도 하구요.

위상수학은 연속함수 continuous function를 다루는 학문이에요. 물론 흔히 알고 있는 실수의 부분집합을 정의역과 치역으로 하는 연속함수가 아니라 이걸 일반화한 것이죠. 위상수학을 처음 배울 때 이 점을 놓쳐 어려워하는 사람이 많다고 생각해요.

연속함수를 일반적인 집합에서 정의하려면 어떤 것이 필요할까요? 우선 실수에서 연속을 어떻게 정의하는지 생각해 봐야겠죠.

$(a,b)=\{x\in\R:a<x<b\}$에서 정의된 함수 $f$가 $p\in(a,b)$에서 연속이라는 것은 어떤 $\eps>0$에 대해서도 다음을 만족하는 $\delta>0$가 존재한다는 거죠.\[|x-p|<\delta\implies\abs{f(x)-f(p)}<\eps.\]

위의 조건을 집합으로 바꾸면 어떨까요?\[x\in(p-\delta,p+\delta)\implies f(x)\in\p{f(p)-\eps,f(p)+\eps}\]라고 표현할 수 있겠네요. 이 명제의 가정과 결론에 대한 진리집합을 정의역에서 나타낼 수 있겠죠. 즉,\[(p-\delta,p+\delta)\cap(a,b)\sube f^{-1}\p{f(p)-\eps,f(p)+\eps}\]라는 거죠. 여기서 $(a,b)$를 교집합해 주는 것은 위의 조건에서는 구간이 정의역의 부분집합이 아니라도 함숫값이 정의되려면 정의역의 원소를 가져와야 하기에 상관없지만, 이 식에서는 정의역의 부분집합이 아니면 성립하지 않기 때문이죠.

위의 연속에 대한 정의에서도 표현된 $(a,b)$와 같은 집합을 열린 구간 또는 개구간 open interval이라고 하죠. 또한 $[a,b]=\{x\in\R:a\le x\le b\}$는 닫힌 구간 또는 폐구간 closed interval이라고 하구요. (그러고 보면 구간 區間도 한자어인데 요즘은 굳이 열린 구간, 닫힌 구간이라고 표현하는 데가 많은 것 같더라구요.)

이 개구간과 비슷한 구조를 일반적인 집합에서 정의할 수 있다면, 위에서 부분집합으로 표현한 연속의 조건을 사용해 연속함수를 정의하는 것이 가능해지겠죠.

개구간의 가장 큰 특징은 구간의 끝 점을 포함하지 않는다는 것이죠. 이런 특징 때문에 개구간끼리 아무리 합집합을 해도 하나의 개구간이나 서로 떨어진 개구간의 합집합으로 나타나죠. 반대로 교집합의 경우는 그렇지 않을 수 있어요.\[\bigcap_{n=1}^\infty\p{-\frac1n,\frac1n}=\{0\}.\]위의 식과 같이 무한교집합에 대해서는 개구간이 아닌 형태가 될 수 있다는 거죠. 물론 유한교집합에서는 공집합만 되지 않는다면 개구간의 형태를 유지해요.

그래서 이런 개구간과 비슷한 구조를 위의 특징들로 정의한 것이 바로 위상 topology이죠.

집합 $X$의 다음 성질들을 만족하는 부분집합족(원소가 모두 주어진 집합의 부분집합인 집합) $\T$를 위상이라고 하죠.

• $X,\emp\in\T$.
• $U,V\in\T\implies U\cap V\in\T$.
• 모든 $i\in I$에 대해 $U_i\in\T$이면 $\cup_{i\in I}U_i\in\T$.

유한교집합은 둘 씩 여러 번 연산한 것으로 생각할 수 있겠죠. $I$는 첨수집합 index set이라고 하는데 연산할 대상의 갯수가 정해진 것이 없을 때 이런 방식으로 표현하곤 해요. $I$의 정의에 따라 가산일 수도 있고 비가산일 수도 있죠.

첫 번째 조건은 왜 필요한가 생각하시는 분이 있을지도 모르겠네요. $X$의 부분집합만 다루기에 $X$는 전체집합이고 여기에 어떤 집합을 교집합해도 그 집합이 그대로 유지되죠. 합집합에서 $\emp$도 마찬가지구요. 그래서\[\bigcap_{i\in\emp}U_i=X,\quad\bigcup_{i\in\emp}U_i=\emp\]라고 표현할 수 있죠. 어떤 집합도 교집합 하지 않은 것을 전체집합, 어떤 집합도 합집합 하지 않은 집합을 $\emp$라고 하는 거죠. 대수학의 항등원 identity과 같은 개념이에요.

대수학에서 군 group을 정의할 때 항등원이 들어가야 하는 것처럼 위상도 교집합과 합집합 연산에 닫혀있는 구조로서 항등원 역할을 할 대상이 필요한 거라고 보면 될 것 같네요.

즉, 열린 집합 또는 개집합 open set이라고 부르는 위상의 원소는 실수에서 개구간의 합집합으로 표현할 수 있는 부분집합들에 해당하는 것으로 이를 이용해 연속함수를 정의할 수 있게 되죠.

물론 공부하다 보면 깨닫게 되는 것들이긴 하지만 깨닫기 전에 포기하는 학생들도 있으니 미리 이런 사고과정을 염두에 둔다면 아무래도 위상수학 공부가 쉬워지지 않을까 하네요.