계승혁 〈집합과 수의 체계〉 교재 요약 및 후기

개요

나는 평소에 집합론과 같이 논리의 뼈대를 구성하는 수학에 관심이 많았다. 집합론 입문 서적으로 잘 알려진 이 책은 서울대학교의 "집합과 수리논리" 강의에서 사용하는 책인데, 격년으로 열리는 강의라서 수강신청을 하기가 쉽지 않았다. 근데 어차피 휴학해서 강의도 못 듣는데 그냥 책만 사서 혼자 공부하면 되는거 아닌가?.. 현대대수학으로 과열된 머리도 좀 풀겸 책을 구매했다. 11박 12일의 황금연휴였던 추석을 맛있게 녹일 수 있었던 책이다.

이번 글에서는 〈집합과 수의 체계〉 교재의 내용을 요약하고, 느낀 점을 기록하려고 한다. 교재 내용의 요약과 내 개인적인 생각이 섞여있는데, 쉽게 구분할 수 있도록 작성했다.

공부 기간: 9/29 ~ 10/13 (2주)

책 요약

1장. 기본 개념

명제와 집합, 동치관계, 함수, 순서 등 "수학을 하기 위한 기본적인 도구"들을 설명한다. 이 파트는 본격적인 수학을 하기 전의 준비운동이라고 생각하면 되는데, 어느정도 수학에 익숙한 사람이라면 술술 읽어나갈 수 있다. 나 또한 선형대수, 해석학 등을 공부하며 어느정도 짬이 찬 상태였기에 어렵지 않게 이해할 수 있었다.

참고로 동치관계와 순서는 계속해서 등장하는 개념이므로 확실하게 이해해놓자. 각각의 정의는 다음과 같다.

동치관계
관계 $R \subset X \times X$ 이 다음 성질들을 만족하면 이를 동치관계라고 부른다.

임의의 $x \in X$ 에 대하여 $(x,x) \in R$ 이다.

$(x,y) \in R$ 이면 $(y,x) \in R$ 이다.

$(x,y) \in R$ 이고 $(y,z) \in R$ 이면 $(x,z) \in R$ 이다.

순서
관계 $R \subset X \times X$ 이 다음 성질들을 만족하면 이를 순서라고 부른다.

임의의 $x \in X$ 에 대하여 $(x,x) \in R$ 이다.

$(x,y) \in R$ , $(y,x) \in R$ 이면 $x=y$ 이다.

$(x,y) \in R$ 이고 $(y,z) \in R$ 이면 $(x,z) \in R$ 이다.

2장. 수의 체계

자연수, 정수, 유리수, 실수 집합을 엄밀하게 정의한다.

2.1 자연수

자연수는 초등학교 교육과정에서부터 배울 뿐만 아니라 실생활에서도 개수를 셀때 이용하기에 아주 익숙한 수 체계이다. 또한 우리는 교환법칙, 결합법칙 등의 규칙들이 자연수에서 성립한다는 것을 경험적으로 잘 알고 있다. 그렇기에 대부분의 사람들은 자연수의 더욱 엄밀한 정의의 필요성을 느끼지 않는다. 그러나 수학자들은 이것만으로 만족하지 않았다.

자연수 집합은 어떻게 정의하여야 하며, 더하기, 곱하기 연산은 어떻게 정의할 수 있는가?
나아가 정수, 유리수, 실수 집합은 어떻게 구성하여야 우리가 익히 알고 있는 "직관적인 성질"들이 잘 성립하게 할 수 있는가?

이번 챕터에서는 이러한 질문들에 대한 해답을 제시한다.

폰 노이만은 집합으로부터 자연수를 정의하는 방법을 생각했다. 집합 $A$ 에 대해 새로운 집합 $A^+$ 를 $A^+ = A \cup \{A\}$ 와 같이 정의하자. 이제 공집합부터 출발해 $0=\varnothing$ 라 두고, $1=0^+$ , $2=1^+$ , …로 정의한다. 즉,

\begin{equation*} \begin{split} 0&=\varnothing, \\ 1&=0^+=0 \cup \{0\}=\varnothing \cup \{0\}=\{0\} \\ 2&=1^+=1 \cup \{1\}=\{0\} \cup \{1\}=\{0,1\} \\ 3&=2^+=2 \cup \{2\}=\{0,1\} \cup \{2\}=\{0,1,2\} \end{split} \end{equation*}

와 같다. 조금 더 엄밀하게 말하면, 다음 두 성질

\varnothing \in \mathcal{A}, \qquad A \in \mathcal{A} \implies A^+ \in \mathcal{A}

를 만족하는 집합 $\mathcal{A}$ 들 전체의 교집합을 $\N$ 이라 쓰고, 이 집합의 원소들을 자연수라고 부른다. 이 때 정의로부터 다음과 같은 성질을 관찰할 수 있고, 이는 수학적 귀납법을 사용할 수 있는 근거가 된다.

자연수들의 집합 $X \subset \N$ 가 다음 두 성질
$0 \in X, \qquad n \in X \implies n^+ \in X$
을 만족하면 $X=\N$ 이다.

수학적 귀납법은 아주 강력한 도구인데, 증명하고 싶은 명제 $P(n)$ 에 대하여 $P(0)$ 이 성립하고 $P(n) \implies P(n^+)$ 임을 보이면 임의의 자연수 $n$ 에 대해 $P(n)$ 이 성립함을 보일 수 있기 때문이다. "재귀적"인 정의의 정당성 또한 여기에서 도출해낼 수 있다. 이로부터 더하기와 곱하기, 나아가 제곱 연산까지 재귀적으로 정의할 수 있으며 또한 자연수의 교환 법칙 $m+n=n+m$ , 결합 법칙 $(m+n)+k=m+(n+k)$ 등도 "증명"할 수 있게 된다. 물론 해당 증명들은 연습문제에서 주구장창 시킨다.

2.2-2.4 정수, 유리수, 실수

이제 정수 집합을 살펴보자. 이는 자연수 집합에 동치 관계를 정의한 뒤 그 동치류로서 정의된다. 집합 $\N \times \N$ 에 $(m,n) \sim (m',n') \iff m+n'=n+m'$ 과 같이 관계를 정의하면 이는 $\N \times \N$ 의 동치관계가 됨을 알 수 있다. 이제 동치류들의 집합 $\N \times \N /\sim$ 을 정수 $\Z$ 라고 정의한다. 직관적으로 봤을 때 새로운 정수 집합의 $[(m,n)]$ 은 의미상 $m-n$ 과 대응된다는 걸 알 수 있다.

이렇게 동치관계를 정의한 이유는 다음과 같다. 우리는 자연수 집합을 정수로 확장할 때, $m < n$ 인 경우에도 $m-n$ 이 잘 정의되기를 바란다. 그러나 이 수는 더 이상 자연수 집합 안에 속하지 않으므로, $m-n$ 를 의미하는 수를 순서쌍 $(m,n)$ 으로 표시하자는 아이디어이다.

그런데 여기서 같은 숫자 1을 뜻하는 순서쌍이 $(2,1), (3,2), ...$ 로 무수히 많아진다는 문제점이 생긴다. 따라서 동치 관계를 이용해 이들을 모두 같은 것으로 취급한다. 두 순서쌍 $(m,n), (m',n')$ 이 같은 정수를 의미할 조건은 $m-n = m'-n'$ 인데, 실제로 우리가 다루고 있는 수 $m,n,m',n'$ 는 자연수이므로 이항을 통해 $m+n'=n+m'$ 과 같이 쓰면 관계가 잘 정의된다.

정수에서 유리수를 정의하는 것 또한 유사하게 집합 $\Z \times (\Z \setminus \{0\})$ 에 동치관계 $(a,b) \sim (c,d) \iff ad=cb$ 를 주어서 $\mathbb{Q} = \Z \times (\Z \setminus \{0\})/ \sim$ 로 정의한다. 마찬가지로 $[(a,b)]$ 는 의미상 $a/b$ 와 대응되며, 이제는 $0$ 이 아닌 임의의 원소에 역원이 존재하게 되어 유리수 집합은 체가 된다는 것도 알 수 있다.

유리수에서 실수를 정의하는건 조금 더 복잡하다. 데데킨트 절단을 이용하는 방법과 코시수열을 이용하는 방법, 총 두 가지 방법을 소개한다. 이때 두 가지 방법으로 구성한 실수 집합이 서로 다른것 아니냐고 생각할 수 있지만, 실제로 각 방법으로 구성한 실수 집합은 "사실상 같다".

2.5 완비순서체

그 이유를 알아보기 위해 완비순서체에 대해 다룬다. 완비순서체는 아래와 같은 완비성을 만족하는 순서체를 뜻한다.

완비성
비어 있지 않은 집합 $A \subset F$ 가 위로 유계이면 $A$ 는 상한을 가진다.

이제 임의의 완비순서체 $F$ , $G$ 에 대해, 전단사 $f:F \to G$ 가 있어

임의의 $x,y \in F$ 에 대하여
$f(x+y)=f(x)+f(y), \quad f(xy)=f(x)f(y)$
이 성립하고
$f(P_F)=P_G$ (단, $P_F$ 는 체 $F$ 의 양수들의 집합)

를 보여 사실상 완비순서체가 유일함을 보인다. 또한 두 방법으로 구성한 실수 각각이 모두 완비순서체의 조건을 만족하고, 따라서 두 방법이 동일한 결과를 준다는 것을 알게 된다.

3장. 무한 집합

3.1-3.2 선택 공리

무한을 다룰 때에 필수적으로 등장하는 선택 공리에 대해 다룬다.

선택 공리
집합 $X$ 의 분할 $\mathcal{P}$ 에 대해, 각 $A \in \mathcal{P}$ 에 대하여 $g(A) \in A$ 를 만족하는 함수 $g:\mathcal{P} \to X$ 가 존재한다.

그리고 선택공리와 동치인 명제들을 소개하고 그 증명을 제시한다.

소른 도움정리
공집합이 아닌 순서집합 $X$ 의 모든 사슬이 상계를 가지면 $X$ 는 극대원소를 가진다.

하우스도르프 극대 원칙
임의의 순서집합 $X$ 는 극대 사슬을 가진다.

체르멜로 정렬정리
임의의 집합에는 정렬순서가 존재한다.

선택 공리는 간단히 말해, 여러개의 (공집합이 아닌) 집합들이 주어지면 각 집합에서 원소를 하나씩 선택할 수 있다는 것이다. 이는 생각해보면 아주 당연해보인다. 집합이 아무리 많든지, 각각의 집합은 공집합이 아니므로 그냥 하나씩 고르는걸 반복하면 되는 것 아닌가?

이에 대한 내 의견은, 애초에 공리라는게 당연해보이는 명제들을 모아놓은 모임이라는 것이다. 이를테면 "공집합이 존재한다"라는 존재 공리, "임의의 집합 $X$ , $Y$ 에 대하여 $X \cup Y$ 도 집합이다"라는 짝공리 또한 당연한 이야기들이다. 그러나, 여기서 "당연하다"라는 말에도 층위가 있다고 생각한다.

만약 어떤 명제가 다른 공리로부터 논리적으로 유도 가능하다면, 그것은 "정말로 당연한" 것이다. 예를 들어 "적어도 하나의 집합이 존재한다"라는 존재 공리 2는 존재 공리로부터 논리적으로 유도 가능하다. 따라서 이는 "정말로 당연한" 명제이고, '존재 공리 2'라는 새로운 공리는 필요하지 않다.

그러나 어떤 명제가 다른 공리로부터 논리적으로 유도 불가능하다면, 그것은 당연해보이지만 당연하지 않은 것이다. 이런 경우에는 그 명제를 새로운 공리로 등장시켜야 한다. 선택 공리도 마찬가지다. 만약 집합들의 개수가 유한개라면 그러한 선택들이 존재한다는 것이 다른 공리들로부터 논리적으로 유도 가능하지만, 무한개인 경우에는 유도가 불가능하다. (수식으로 표현하자면 $\exist^\infty$ 같은 느낌이다.) 그래서 새로운 공리가 필요한 것이다.

이 선택 공리는 수학의 많은 분야에서 등장하는데, 위에서 말했듯이 "무한번 선택하는 것"과 관련이 있으면 심심치 않게 볼 수 있다. 현재 내가 공부하고 있는 현대대수학에서도 "임의의 체 F에 대해 algebraic closure $\overline{F}$ 가 존재한다"와 같은 명제의 증명에서 활용된다. 왜냐하면 algebraic closure를 만들기 위해서는 (이를 테면 $F=\mathbb{Q}$ 일 때) $\sqrt{2}, \sqrt{3}, \sqrt{5}, …$ 와 같이 무한개의 원소를 추가해야 하는데, 이 과정이 마치 "무한번 선택하는 것"과 같은 의미이기 때문이다.

아무튼 선택 공리가 증명에 사용될 때는 위 명제 그대로 사용되지는 않고 동치명제인 소른 도움정리가 많이 쓰인다. 증명 흐름은 대체로 다음과 같다.

$V$ 의 부분구조 $V_0$ 에서 정의된 ('특정 조건'을 가진) 함수 $f$ 를 $V$ 로 확장하고 싶다.
$V_0$ 를 품는 $V$ 의 부분구조 $V_\iota$ 와 $f_\iota|_{V_0} = f$ 를 만족하는 함수의 순서쌍 $(V_\iota, f_\iota)$ 전체의 집합을 $X$ 라 한다.
이 $X$ 에는 $(V_0,f)$ 이 들어있으므로 공집합이 아니다.
$X$ 에 순서관계를 $(V1,f1)\le(V2,f2) \iff V1 \subset V2, f_2 |_{V_1} = f_1$ 와 같이 준다.
소른 보조정리를 사용하기 위해 $\mathcal{C}$ 가 $X$ 의 사슬이라고 하자.
$V' = \bigcup V$ 는 $V$ 의 부분구조가 되고, $f'(x) = f_\iota (x) \enspace \text{if} \enspace x \in V_\iota \enspace \text{for some} \enspace \iota$ 라고 정의하면 이는 잘 정의되며 '특정 조건'을 만족함을 보인다.
소른 보조정리에 의해 $X$ 에는 극대 원소 $(W, g)$ 가 존재한다.
이제 $W \lneq V$ 라고 가정하면 $x \in V\setminus W$ 가 존재하는데, 이 $x$ 를 활용해 모순이 발생함을 보인다.
따라서 $W=V$ 이고, $g$ 는 우리가 원하던 $V$ 로 확장된 ('특정 조건'을 가진) 함수이다.

여기서 함수 $f$ 의 특정 조건은 선형함수 또는 전단사함수 등이 될 수 있다. 또한 함수 $f$ 대신에 " $V_0 \times V_0$ 의 순서쌍들의 집합"과 같이 다른 객체가 올 수도 있다. 증명하고 싶은 명제에 따라서 조금씩 변형하여 사용하면 된다.

3.3-3.6 서수와 기수

서수는 정렬집합의 원소들이 어떻게 나열되어있는지를 설명한다. 기수는 원소의 개수가 얼마나 많은지를 설명한다.

우선 서수는 정렬집합들 사이의 순서를 정의하는 과정에서 자연스럽게 등장한다. 정렬집합 $A$ 와 $x \in A$ 에 대하여

S_x = \{ a \in A : a < x \}

와 같이 정의된 집합 $S_x$ 를 $A$ 의 절편이라고 한다. 또한 두 정렬집합 $A, B$ 에 대해 $f$ 와 $f^{-1}$ 이 모두 증가함수인 전단사함수 $f:A \to B$ 가 존재하면 $A$ 와 $B$ 는 순서동형이라고 말하고, $A \approxeq B$ 라고 쓴다. 이 때 다음과 같은 사실이 성립한다.

두 정렬집합 $A, B$ 에 대해 다음 중 정확히 하나가 성립한다.

$A$ 와 $B$ 는 순서동형이다,

$A$ 는 $B$ 의 절편과 순서동형이다,

$B$ 는 $A$ 의 절편과 순서동형이다.

이는 서수를 정의할 때 핵심 명제인데, 이로써 임의의 정렬집합 $A$ 에 대해 다음 성질

A_1 \approxeq A_2 \iff \text{ord}(A_1) = \text{ord}(A_2)

이 만족하도록 서수 $\text{ord}(A)$ 를 대응시킬 수 있으며, 또한 서수들 사이의 순서가 잘 정의된다는 것을 알 수 있다.

한편 기수는 순서와 상관없이 단순히 원소의 개수만을 따진다. 두 집합 $X$ 와 $Y$ 사이에 전단사함수가 존재하면 두 집합이 대등하다고 말하고, $X \approx Y$ 라고 쓴다. 기수의 경우에는 다음 정리가 중요한 역할을 한다.

칸토어-슈뢰더-베른슈타인 정리
만일 $A$ 에서 $B$ 로 가는 단사함수와 $B$ 에서 $A$ 로 가는 단사함수가 존재하면 $A \approx B$ 이다.

이 명제를 바탕으로 기수들 사이의 순서 또한 잘 정의됨을 증명할 수 있다.

마지막으로 3.6절에서는 서수와 기수의 정의를 엄밀하게 다시 정의한다. 이를테면 서수는

정렬집합 $\alpha$ 가 다음 성질
$\xi \in \alpha \implies S_\xi = \xi$
을 만족할 때, 이를 서수라고 부른다.

와 같이 정의한다. 이렇게 처음부터 정의를 다루는 것이 아니라 서수와 기수가 어떤 배경에서 등장했는지를 예시와 함께 먼저 설명한 이후에 엄밀한 정의를 제시함으로써 더욱 쉽게 정의를 이해할 수 있도록 돕고 있다.

4장. 공리계

마지막으로 집합론을 논리적으로 지탱하는 공리계가 어떻게 구성되어 있는지 알아본다.

이를 위해 유명한 러셀의 역설을 살펴보자. 집합 $S$ 를 $S=\{x: x \notin x\}$ 라고 정의한다. $S \in S$ 이면 정의에 의하여 $S \notin S$ 인데, $S \notin S$ 이면 다시 정의에 의해 $S \in S$ 이다. 즉 어느 경우에도 모순을 얻는다. 이렇게 집합을 단순히 대상들의 모임으로 이해하는 소박한 집합론(naive set theory)에서는 모순이 생기게 되며, 수학자들은 공리들을 통해 더욱 엄밀한 집합론을 세우게 되었다. 대표적 예시인 ZFC 공리계는 총 8개의 공리들로 이루어져 있는데, 이를 통해 러셀의 역설이나 베리의 역설을 해결할 수 있었다.

한편, 공리계를 도입할 때에는 중요한 조건이 있다. 첫 째는 공리들로부터 모순이 생기지 않아야 하는데, 이를 무모순성이라고 한다. 또한 어느 한 공리는 다른 공리들로부터 유도되지 않아야 하는데, 이를 독립성이라고 한다. 한편 어떤 공리계 안에서 명제 $P$ 를 증명하는 것도 불가능하고, 부정 $\neg P$ 를 증명하는 것도 불가능하면 $P$ 는 그 공리계 안에서 결정불가능하다고 한다. 우리는 결정불가능한 명제를 가지지 않는 공리계, 즉 완전성을 가진 공리계를 원한다. 그러나 괴델의 불완전성 정리에 의하면 이는 불가능하다.

괴델의 불완전성 정리
페아노 공리계가 무모순이면 그 공리계 안에서 결정불가능한 명제가 존재한다.

이렇게 산술 체계의 무모순성과 완전성은 양립할 수 없다. 더 나아가 ZF 공리계가 무모순이면 ZFC 공리계도 무모순이며, 심지어는 임의의 자연수 $n$ 에 대하여 ZFC + $(\frak{c} = \aleph_n)$ 공리계도 무모순이라는 흥미로운 사실을 제시하며 책을 마치게 된다.

책 후기

집합론을 처음 입문하는 데에 아주 적절한 책이며, 결과적으로 굉장히 잘 산 책이라고 생각한다. 이 책은 한 주제를 깊게 다루는 전공서보다는 일종의 이정표와 더 가까운데, "집합론이라는 분야는 이러한 주제들을 다루며 더 깊게 들어가고 싶다면 이런 주제들을 파보면 된다~" 라는 느낌을 받았기 때문이다. 일단 나는 이 책을 읽으며

수리논리학, 서수와 기수, 공리계, 불완전성 정리

와 같은 주제들에 흥미를 느꼈다. 복소해석학이나 현대대수학이 불닭볶음면 같은 자극적인 맛이라면, 집합론은 능이백숙같은 슴슴하면서도 구수한 매력이 있는 것 같다. 앞으로는 <Kunen - Set Theory>와 같은 책을 통해 집합론을 더욱 깊게 공부해볼 계획이다.