Didactical Approach on Topology -Centered on convergence and continuity-

위상에 대한 교수학적 접근 -수렴성과 연속성을 중심으로-

Abstract

The purpose of this study is to show that the topology is closely related to some subjects learned in school mathematics and then to give motivations for learning of the topology. To do this, it is showed that the topology is an abstracted device that deal with structure of limit and continuity introduced in school mathematics. This study took a literature study. The results of this study are as follows. First, the formal definition of general topology to structure open sets was examined. The nearness relation together with the closure operation was introduced and used to characterize for construction of general topology. Second, as definitions for continuity of function, we considered the intuitive definition, definition, structured definitions using open intervals and definition using open sets and then we investigated their roles. We also examined equivalent definition using the nearness relation which is helpful to understand continuity of function. Third, the sequence and its limit are treated in terms of continuous functions having the set of natural numbers and its extended set as domains. From these, it can be concluded that the convergence of sequence and the continuity of function are identified as functions that preserve the nearness relation and that the topology is a specialized tool for dealing with convergence and continuity.

Ⅰ. 서론

위상수학은 20세기 중반이 되어서 수학의 중요한 한 분야로 정립되었다. 오늘날 현대 수학의 가장 활발한 수학 영역들 중 하나이며 위상적인 개념은 기하학, 해석학, 대수학과 더불어 수학의 주요한 기본 분과가 되어 고유 영역을 가지게 되었다. 현대 수학의 거의 모든 영역들에 사용되며 수학의 다른 분야와도 강한 연계를 갖고 있어 위상수학은 가치를 지닌 교과임을 알 수 있다. 그럼에도 ‘위상수학은 무엇이며 위상의 개념을 왜 학습하는가? 학교수학과 어떤 연계성을 가지고 있는가?’의 질문에 대학에서 위상수학을 학습한 바 있는 예비교사나 교사들 중 상당수가 선뜻 답하지 못하였다. 다시 말해 위상수학의 교수학습 내용이 학교수학의 어떤 내용과 깊은 연계성을 가지고 있는지, 위상교과목의 특성을 이해하지 못하고 있다고 할 수 있다.

수학은 구체적인 것에서 추상적이고 형식적인 수학으로 발달되고, 직관적인 것에서 논리적이고 엄밀한 것으로 발전되어가면서 직관과 현실에서 멀어진다. 수학의 개념들이 점진적인 논리화, 형식화, 추상화되는 과정이 가지는 의미를 소홀히 하고 기성의 수학을 배우는 것이 수학 자체로 인식되는 경향(우정호, 2008)이 위상수학에서도 일어나고 있다고 보여 진다. 수학의 점진화가 일어난 과정의 진정한 수학적 사고 및 의미를 상실하고 의미 없이 어려워진 수학을 학습하면서 왜 이런 것을 하는지, 어디에 사용할 것인지에 대한 의문에 설득력 있는 답변을 하는데 소홀히 하기도 한다. 이러한 현상은 학교수학과 대학에서 배우는 학문수학 간의 단절에서 찾아볼 수 있다. Klein은 이중 단절의 용어를 사용하여 학교수학과 학문수학의 단절을 설명한 바 있다(우정호, 2010). 위상수학은 학교수학과 연계성이 없고 Klein이 주창한 이중 단절된 교과의 전형처럼 말하는 교사도 있었다. 이처럼 학교수학에 연계된 위상수학에 대한 학습동기가 약하다는 인식은 본 연구를 하게 된 계기를 주었다.

이에 따라 본 연구는 학교수학의 어떤 내용에 위상의 개념이 작동되고 있는지 혹은 학교수학의 어떤 내용이 위상의 개념을 생각하게 하는지 및 학교수학의 개념이 위상의 개념으로 어떻게 발전되어 가는지의 문제 인식과 해결이 예비교사나 교사들에게 위상수학의 학습에 대한 동기나 교과 이해에 도움을 줄 수 있는 것이라 기대하며 위상에 대한 교수학적 접근을 모색하는 데 있다. 위상의 교수학적 접근은 위상수학에서 학교수학이 가지는 수학적 지식의 본질을 기반으로 하여 위상수학에 내포된 수학적 지식을 드러내는 교수학습의 방법을 탐구한다는 것을 의미한다.

한편, ‘위상수학은 무엇인가’에 일부 예비교사들이 위상적인 성질을 공부하는 과목이라고 하였으며 위상적인 불변량에 대한 언급은 없었다. 학교수학의 시각에서는 거리감이 있어 보이나 범주론이나 Klein의 Erlangen 프로그램의 시각에서 위상수학의 특성을 보면 위상수학의 범주에는 위상동형의 관계와 위상동형의 함수가 있고 위상동형 함수는 원초적으로 함수의 연속성 개념에 의존하고 있다. 이것으로부터 학교수학에서 위상의 개념이 작용되거나 개념 출현의 동기가 되는 교과 내용은 극한과 연속과 관련되어 있음을 예견할 수 있다.

2009개정 교육과정(교육과학기술부, 2011)에서 <미적분 I>을 통해 수열의 극한, 함수의 극한 및 연속에 관한 내용을 도입하고 있으며 2015개정 교육과정(교육부, 2015)에서는 <수학 II>에서 함수의 극한과 연속을 도입하고, 수열의 극한은 <미적분학>의 내용으로 옮겨서 다루고 있어 수열의 극한과 급수를 함수의 극한 이후에 도입하고 있다. 학교수학에서는 ‘한없이 가까워진다.’는 위치관계의 동적 상황을 직관적으로 이해하는 수준에서 정의와 성질을 다루도록 하고 있다. 함수의 극한과 연속이나 수열의 극한은 한없이 가까워지거나 한없이 작아지거나 커지는 현상과 같은 무한을 수학적으로 다루는 도구임을 지적하고 있다. 특히 기호표현을 강조하면서 \(\lim _{n \rightarrow \infty} a_{n}=a \text { 과 } \lim _{x \rightarrow a} f(x)=f(a)\)을 도입시켰다.

직관을 중시하는 학교수학의 입장에서는 끝없이 진행되는 동적인 과정에 기반을 두고 있으며 엄밀함이 강조된 대학수학과 같은 학문적 수학으로 넘어오면서 완결한 값(극한)을 인정하고 이 값을 중심으로 한 엄밀한 정의와 형식화된 정의를 도입시키고 있다. 이처럼 직관에서 엄밀함으로 옮겨지면서 ‘동적 접근성’이 ‘정적 근접성’으로 변모하였다. Cantor는 1872년의 논문에서 삼각함수의 급수를 가지고 주어진 함수를 확장하는 것과 근사하는 것을 연구하는 동안 이들 함수를 실직선으로 제한하더라도 거리의 개념을 사용하지 않는 정의들과 개념들이 필요하였다. 이에 처음으로 거리가 없는 근접성에 관하여 생각하게 되었다(Scoville,2018). 이를 시점으로 근방의 개념, 극한점, 도집합, 폐포, 경계, 닫힌집합, 열린집합 등의 여러 위상의 개념을 도입시키고 19세기와 20세기로 넘어오면서 일반위상(점-집합 위상)의 개념과 일반위상수학의 출현을 촉진시켰다(Moore, 2008;O’Connor & Robertson, 1996). 일반위상에서 다루어지는 기본적인 구성 성분들은 근접성과 밀접한 관계를 맺고 있음을 주지하고 본 연구는 위상과 위상수학은 근접성의 문제를 다루는 도구이고 교과임을 명시화한다. 이를 위해 근접 관계의도입과 이것에 의한 특성화 문제를 다루어 보고 위상구조의 본유가 극한과 함수의 연속성을 다루는 도구임을 보이도록 한다.

Ⅱ. 연구방법

본 연구는 교수학적 분석의 방법론을 취하여 학교수학과 위상수학의 연결을 수렴성과 연속성에서 찾고자 하였다. 이들 특정 주제에 대한 교수-학습의 방법을 조직하는 데 유용한 시사를 얻고자 이 주제의 본질을 여러 측면에서 분석하고자 하였다(우정호 외, 2006). 주로 문헌분석 연구의 형태로 이루어졌다.

교육과정에 관련된(교육과학기술부, 2011; 교육부, 2015; 김남희 외, 2017). 대학의 미적분학(Harcharras & Mitrea, 2007; Foerster, 2010; Stewart, 2016), 해석학 (Bartle & Sherbert, 2011) 및 위상수학(Hocking & Young, 1961; Lipschutz, 2012; Munkres, 1975)등의 여러 교재들과 선행 연구들이 분석에 활용되는 중요한 문헌들이다. 위상수학의 수학사적 자료(Moore, 2008; O’Connor & Robertson,1996) 및 Wikipedia의 인터넷 자료와 Quora의 묻고 답하기에서 제시된 다양한 의견들이 본 연구자의 이해와 결합하여 위상과 위상교과에 대한 이해를 높이는 교수학적 분석을 하는 데 참고로 활용하였다.2) 본 연구를 하게 된 계기에는 2016년과 2018년의 여름학기에서 교육대학원생들을 대상으로 실시한 ‘위상교과로부터 무엇을 배웠으며 학교수학과는 어떤 관계가 있는지’에 대한 설문이 작용하였다. 위상이 무엇인지의 특성을 극한과 연속을 다루는 도구임에 주목하고 이를 명료화하기 위하여 다음의 세 가지 연구문제를 설정하고 이들을 분석하고 논의한다.

[1] 추상화된 일반위상의 특성화에 어떤 개념이 활용되고 있는가?

[2] 실직선 에서 연속의 직관적인 정의, 엄밀하고 형식화된 정의들은 어떤 역할을 하는가? 위상을 특성화하는 도구인 근접관계는 연속성을 어떻게 명시화하는가?

[3] 함수로서 수열과 수렴은 연속 함수로써 다루어지는가?

관점 [1]의 분석과 논의는 ‘Ⅲ. 위상공간의 특성화와 근접관계’에서, 관점 [2]의 분석과 논의는 ‘Ⅳ. 연속 개념에 대한 교수학적 분석’에서, 관점 [3]의 분석과 논의는 ‘Ⅴ. 연속함수로서의 수열과 그 극한’에서 다룬다.

Ⅲ. 위상공간의 특성화와 근접관계

대학교 학부과정에서 다루어지는 위상공간의 개념들은 실직선과 유클리드공간 의 연구와 연속함수의 연구로부터 성장하였다(Munkres, 1975). 일반위상공간은 점들 간의 거리를 재는 척도인 거리함수를 가진 거리공간의 일반화이다. 기하적인 표상으로 수직선을 가지는 실수의 집합 \(R\)에서 \(d(x, y)=|x-y|\)로 절댓값에 의해 정의된 거리 \(d\)에 의해 근접함이 논의되고 이러한 논의에는 거리 \(d\)로부터 얻어지는 열린구간들이 중요한 역할을 한다. \(R\)에서의 위상은 거리 \(d\)에 의해 생성되는 거리위상이 되면서, 열린구간을 통상의 순서관계에 의해 구성되는 것으로 본다면 순서 위상이기도 하다. 여기서 형성되는 열린구간들의 합집합으로 표현되는 것을 열린집합이라 하고 이런 집합을 모두 모은 집합족을 \(\mathscr{W}\)로 나타내고 보통위상이라 한다. 이 위상에서는 열린구간뿐 아니라 열린집합이 거리를 대신하여 근접에 대한 척도의 역할을 하도록 한다. 이에 따라 거리를 대신하는 열린집합의 개념에 초점을 맞추며 열린집합의 구조를 어떻게 정의할 것인가가 중요하며 이를 위하여 최소의 공리로 구성된 위상이 도입된다. 보통위상 \(\mathscr{W}\)에서 ① \(\mathscr{W}\)에 포함된 유한개의 (열린)집합의 교집합이 다시 \(\mathscr{W}\)에 포함되고, ② \(\mathscr{W}\)에 포함된 임의 개의 집합의 합집합이 다시 \(\mathscr{W}\)에 포함되며, ③ 공집합 ∅와 전체 집합 \(R\)가 \(\mathscr{W}\)에 포함된다. 이들 3가지 성질은 \(\mathscr{W}\)가 성질들의 일부로 일반위상으로 발전시켜가는데 필요한 최소의 공리적 성질들로 선택되었다. 이 같은 한정된 공리들로 열린 집합의 구조를 주는 일반위상의 개념을 도입한다. 여기서 공리의 수를 최소화함으로써 근접함을 다룰 수 있는 대상들을 늘리는 전형적인 추상화가 일어난다. 수학에서 추상화와 일반화는 수학을 발전시켜가는 하나의 방식이다.

점-집합 \(X\)에서 일반위상(general topology, point-set topology)은 다음의 세 공리 \(O\)1, \(O\)2, \(O\)3을 만족하는 \(X\)의 부분집합들로 구성된 집합족 \(\mathscr{F}\)이다. 이 \(\mathscr{F}\)에 속하는 집합을 열린집합이라 하고 위상 \(\mathscr{F}\)을 가진 집합을 쌍 (\(X\),\(\mathscr{F}\))으로 나타내고 위상공간이라 하며 이 위상공간을 간단히 \(X\)로 나타내기도 한다.

(\(O\)1) 유한개의 열린집합의 교집합이 열린집합이다.

(\(O\)2) 임의개의 열린집합의 합집합이 열린집합이다.

(\(O\)3) 공집합 ∅와 전체 집합 \(X\)가 열린집합이다.

공리 \(O\)1, \(O\)2로부터 공집합과 전체 집합 \(X\)가 열린집합이라는 공리 \(O\)3이 유도 될 수 있으나 일반적으로 공집합과 전체 집합이 열린집합임을 공리로 사용하는 경향이다. 이같이 열린집합에 기초하여 위상공간을 정의하는 데엔 Bourbaki학파가 공헌하였다. 일반위상은 점열의 수렴성과 함수의 연속성, 연결성 및 컴팩트성을 다루기 위해 필요한 최소 개의 공리들로 구성된 구조를 가지고 매우 단순하게 추상화된 개념이다. 일반위상에서 열린집합의 구조를 다루는 직관적인 개념은 존재하지 않는다. 실직선 \(R\)에서 열린구간들의 합집합으로 표현되는 모든 집합을 모은 집합족인 보통위상(usual topology) \(\mathscr{W}\)을 겸비한 보통위상공간 (\(\mathscr{W}\),\(\mathscr{W}\))은 일반위상의 사례이다. 집합 \(X\)에서 일반위상 \(\mathscr{F}\)는 \(\mathscr{W}\)와 세 가지 정의적 공리 \(O\)1, \(O\)2, \(O\)3를 공통적으로 가지긴 하나 보통위상 \(\mathscr{W}\)가 가지는 많은 성질들을 가지지 않는다. 이들의 성질을 하나씩 공리적으로 규정하면서 보통위상공간 (\(R\),\(\mathscr{W}\))을 포함한 유클리드 공간에 대한 통찰을 새롭게 할 수 있다. 지금처럼 유클리드공간에서 거리공간으로 그리고 일반 위상공간으로 표준화된 위상공간의 정의들이 고유한 형태로 정착하기까지는 꽤 오래 걸렸으며 19세기말에서 20세기 초기의 여러 수학자들이 공헌하였다(Atanasov, 2010).

실직선에서 다루어지는 극한점, 폐포, 수열의 수렴성 및 함수의 연속성 등의
개념들은 열린구간들에 의해 다루어지다가 열린구간들의 합집합인 열린집합을
사용함으로써 다루게 되었고 열린집합을 활용하면서 이들의 개념들은 일반위상
의 개념으로 자리매김할 수 있었다(Munkres, 1975). 보통위상공간 \(R\)에서 다루어
진 열린집합에 포함된 어떤 점에서든 이 집합 내에서 벗어나지 않는 조그마한
움직임을 할 수 있고 이에 자신의 경계를 전혀 포함하고 있지 않다. 자신의 경
계를 포함하지 않는 열린집합은 위상의 구조를 다루는 가장 기본적으로 활용되
는 개념으로 열린집합의 특성을 이해하는 것이 위상에 딸린 여러 개념을 다루어
가는 첫 단계라 할 수 있다. 위상공간 \(X\)에서 점 \(p\)의 열린 근방은 \(p\)를 포함하는
열린집합을 의미한다. 보통 위상공간 (\(R\),\(\mathscr{W}\))에서는 \(p\)를 중심으로 하는 열린구간
\((p-\epsilon, p+\epsilon)\)을 \(p\)의 \(\epsilon-\)근방이라 한다. \(p\)의 모든 열린 근방에는 적절한 \(p\)의 \(\epsilon-\)
근방인 열린구간이 내재하고 있다.

위상공간 \(X\)에서 어떤 부분집합 \(A\)의 폐포 \(\bar{A}\)에 점 \(p\)가 포함되기 위해선 \(p\)
의 모든 열린 근방이 집합 \(A\)의 점을 가지고 있는 경우로 규정하고, \(A\)의 폐포는
\(A\)에 ‘가까이 있는(근접한)’ 모든 점들의 집합이라 할 수 있다. 특히 부분집합
\(A\), \(B\)에 대하여, \(\bar{\bar A \cup \bar B}=\bar{A} \cup \bar{B}\) , \(A \subset \bar{A}, \bar{\varnothing}=\varnothing\)이고 \(\bar{A}=\bar{A}\)가 성립한다.

Kuratowski는 집합 \(X\)의 멱집합 \(\mathscr{F}\)(\(X\))에서 멱집합 \(\mathscr{F}\)(\(X\))으로의 함수 \(\kappa\)가 다
음의 4가지의 성질을 만족할 때 \(\kappa\)을 \(X\)의 폐포연산자라 하였다(Lipschutz, 2012).

(1) \(A, B\)  \(\in\) \(\mathscr{F}\)(\(X\))에 대하여, \(\kappa\)\((A \cup B)=\kappa(A) \cup \kappa(B)\)
(2) \(A\) ∈ \(\mathscr{F}\)(\(X\))에 대하여, \(A \subset \kappa(A)\)
(3) \(\kappa(\varnothing)=\varnothing\)
(4) \(A \in \mathscr{P}(X)\)에 대하여, \(\kappa(\kappa(A))=\kappa(A)\).

이 폐포연산자는 열린집합을 구조화하여 위상을 정의하는 하나의 장치이다. 폐
포연산자 \(\kappa\)를 가지는 집합은 \(\kappa\)로부터 하나의 위상이 구성되어 위상공간이 된다.
여기서 폐포연산자 \(\kappa\)에 의해 구성되는 위상 \(\mathscr{F}\)는 \(\{G \mid \kappa(X-G)=X-G\}\) 로 주어진다. 이 위상공간에서 부분집합 \(A\)의 폐포 \(\bar{A}\)와 폐포연산자에 의해 주어지는
\(\kappa(A)\)는 일치한다. 또한 \(\mathfrak{T}\)를 \(X\)위의 모든 위상들을 모은 집합족이라 하고 \(\widehat{\mathfrak{A}}\)를
\(X\)위의 모든 폐포연산자의 모임을 나타내면 이들 간에 자연스런 일대일 대응관
계에 있다. 폐포는 위상을 구성하고 위상의 본질을 이해하게 하는 개념이라 할
수 있다(Lipschutz, 2012).

 

[표 1] “함수 f ; R → R이 a에서 연속”에 대한 국소적 정의

[표 2] “D ⊂ R 이고 함수 f ; R →R이 a∈D에서 연속”에 대한 국소적 정의

[표 3] R에서의 수열 < a_n >의 수렴성에 대한 정의들