극한까지 가버린 극한 1 - Introduction

Post 1 -Introduction

안녕하세요! 극한의 엄밀한 정의와 그 응용에 대한 소개를 맡은 공우 12기 자유전공학부 Jubby입니다. 수리과학과 컴퓨터공학을 전공하고 있습니다.

수학에 관심이 있거나, 수학 1과 같은 과목에서 미적분학 교재를 사용하여 공부하신 분들은 그 유명한 ‘입실론-델타($ϵ-\delta$) 논법’ 혹은 ‘입실론-N($ϵ-N$) 게임’에 대해 접하셨을 수도 있는데요. 그러한 경험이 없거나, 해당 내용을 곱씹어 볼 기회가 없었던 분들한테는, 고등학교 시절 배웠던 극한의 개념이 불완전하고 얼렁뚱땅(?) 넘어간다는 느낌을 받으셨을 수도 있겠다고 생각합니다. (물론 그냥 자연스러운 개념이라고 받아들이셨을 수도 있습니다. 제가 그랬거든요 ㅎㅎ)

그러한 의문을 가지고 계셨던 분들, 혹은 아무 이유 없이 머리 속이 복잡해지는 경험을 해보고 싶으신 분들께

1. 극한의 엄밀한 정의가 왜 필요한지 소개하고,
2. 수열을 통해 극한을 엄밀하게 정의해본 후

극한의 엄밀한 정의를 응용하여, 고등학교 수학에서 가장 중요하다고 할 수도 있는

3. 함수의 연속성을 정의를 소개하는 것과
4. 미분가능성의 정의를 소개하는 것

이 본 포스팅의 목표입니다!

이번 글에서는 고등학교 때 배운 극한에 대해 설명하고, 어느 부분이 ‘얼렁뚱땅’ 넘어갔던 부분인지 짚어보는 것이 목표입니다. 저는 한국에서 고등학교를 나오지 않았기 때문에, 이 부분에서는 조금 다르게 접근할 수 있습니다만, 최대한 다음 세 개의 포스트에 동기부여가 될 수 있는 예시들을 위주로 설명해보도록 하겠습니다.

서론이 길었는데, 마지막으로 수학에 보다 관심이 있는 분들을 위해 첨언하자면, 극한의 엄밀한 정의는 고급 미적분학 수업 혹은 해석학 수업에서 처음 배우게 될 내용입니다. 사실 너무나 기본적인 정의이고 개념이라 분류하기도 애매하지만, 증명 없이 사용해왔던 미적분학의 기본적인 원리들을 엄밀하게 정의하기 위한 과목인 해석학의 초반에 극한, 함수의 연속 등에 대해 열심히 배우실 기회가 있으실 겁니다. 이제 각설하고, 본론으로 들어가보죠.

Naïve Definition of Limits

다들 극한은 어떻게 처음 배우셨나요? 처음 배운게 언젠지 기억은 가물가물하지만, 극한의 정의를 위키피디아에 검색해보면 다음과 같이 나옵니다:

In Mathematics, a limit is the value that a function “approaches” as the input “approaches” some value.

가장 눈에 띄는 것은, 상당히 엄밀하지 못한 형용사인 "approaches"를 사용한다는 점입니다. 하지만 이 이상 자세하게 증명하는 것은 고등학교 수학의 범위를 넘어갔고, 직관에 호소하는 이 정의가 큰 문제는 없어 보였죠.

이제 '직관’에 호소하여 다음 몇 가지 극한 문제들을 풀어보겠습니다.
$$\text{if }{a}_n=n,\underset{n\to 5}{\lim }{a}_n=?$$
아직까진 너무 간단합니다. $a_n$은 $n$이 5일 때 정의되어있고, 그 값은 $5$입니다. 따라서 $n$이 $5$로 근접하면 $a_n$은 $5$가 되겠죠.

두 번째 문제입니다.
$$\text{if }f:(0,1)\to \mathbb{R}\text{ and }f(x)=x,\underset{x\to 1}{\lim }f(x)=?$$
즉, $f$가 열린구간 $(0,1)$에서 정의된 함수일 때, $\underset{x\to 1}{\lim }f(x)$를 계산하는 문제입니다. 다들 답이 $1$임은 쉽게 아실 수 있을텐데, 무언가 이상한 부분이 있습니다.

이번 문제는 위의 경우와 달리, $f(x)$가 $x=1$에서 정의되지 않기 때문에, 단순히 값을 대입하여 답을 얻을 수 없어야만 할 듯 합니다. 그러나 다시 한번 우리의 '직관’에 호소하면, 극한값이 $1$임은 너무나 자명한 듯 보입니다.

세 번째 문제는 더 이상한 것 같습니다. 함수 $f$를 우선 다음과 같이 정의합니다.
$$f:\mathbb{R}\to \mathbb{R},f(x)=\{\begin{array}{ll}2& \text{if x=1}\\ x& \text{otherwise}\end{array},\underset{x\to 1}{\lim }f(x)=?$$
이 문제를 풀 때 1번 문제를 풀 때와 같이 $x=1$에서의 함수 값으로 계산하면 답이 틀립니다. 다시 한번 직관에 호소하면, $\underset{x\to 1}{\lim }f(x)=1$이 됩니다.

마지막 문제는 제일 이상합니다. 다시 한번 수열 $a_n$을 잡아보겠습니다.
$$a_n=1/n,\underset{n\to \infty }{\lim }{a}_n=?$$
우리의 직관과 문제풀이 경험을 통해 답은 $0$임을 잘 알고 있습니다. 근데, 모든 자연수 $n$에 대해 $a_n=1/n$은 $0$보다 큽니다. 그렇다면 무슨 근거로 극한값이 0이라고 주장할 수 있는 것일까요?

아직 우리는 수열이나 함수의 극한값이 발산하거나, $a_n=(-1{)}^n$과 같이 진동하는 경우는 살펴보지도 않았습니다. 극한이 ‘잘 정의된’ 것 같은 예시들만 살펴보았음에도 불구하고, 이미 많은 부분에서 찜찜한 부분들이 보입니다. 이제 이러한 부분들을 한 번에 해결할 수 있는 극한의 엄밀한 정의를 다음 포스팅에서 소개하도록 할텐데요, 그러기에 앞서 무한과 '게임’의 개념에 보다 친숙해질 필요가 있습니다.

무한(Infinity) 이란?

무한? 무야호

이제 위의 정의를 사용하여 다음과 같은 함수 혹은 수열의 극한을 생각해 보겠습니다.
$$\underset{x\to \infty }{\lim }x=?$$
우선 $a_n=n\text{ for all n}\in \mathbb{N}$ 을 생각해보면, $a_n$은 $1,2,3,\dots$ 이므로 무한대로 '발산’한다는 것은 자연스럽게 알 수 있습니다. 비슷한 이유로 위의 수열도 무한대로 발산하겠죠. 여기서 '무한대’란 무엇일까요?

무한대의 개념을 제대로 이해하기 위해서는, 일단 어떠한 실수도 무한이 아님을 이해해야 합니다. 제가 엄청 큰 실수를 찾아서, 과연 이 실수가 무한일까? 라는 질문을 던지는 순간, 저의 친구 A가 그 실수에 1을 더하면, 더 큰 실수가 생겨나겠죠. 즉, 무한은 어떠한 숫자로 존재하는 것이 아닙니다. 세상에 존재하는 어떠한 실수보다 큰 실수는 없기 때문이죠. 그렇다면 무한은 어떻게 이해해야 할까요?

가장 큰 실수를 찾았다고 주장하던 저에게 태클을 걸던 친구 A가 이제 반대로, 위에서 정의된 수열 $a_n$이 무한대로 발산하지 않는다고 주장한다고 생각해보죠. 이제는 반대로 친구 A가 엄청 큰 실수를 찾아와야하는 입장에 놓였습니다. 우리의 전략은 간단합니다. 친구 A가 엄청 큰 실수를 찾아올 때 까지 놀면서 기다리다가,

오~ 근데 그 수를 반올림하고 1을 더해서 $n$을 잡으면 $a_n$이 이제 더 커지는데?

라고 하면 됩니다.

즉, 어떤 수열의 극한이 무한대로 발산한다, 혹은 어떤 점에서의 함수값이 무한대로 발산한다는 의미는, 누군가가 어떠한 큰 실수를 가져오더라도 언젠가는 그 수열이나 함수의 값이 그 실수보다 커진다는 것을 의미합니다. 앞에서 무한대란 어떤 수가 아니라고 했으니, 당연히 수열이나 함수의 값이 정의되지는 않습니다.

어떻게 하면 이 과정을 보다 쉽게 설명할 수 있을지 고민해보다 생각난 비유에 대해 알려드리고 이 글을 마치고자 합니다. 앞서 큰 비중을 차지한 친구 A와 함께, 보따리에서 공을 하나씩 꺼낸다고 생각합시다. 친구 A가 가지고 있는 공에는 모든 실수가 적혀있고, 제 공에는 $a_n$의 값이 적혀있다고 합시다. 둘이 번갈아가면서 공을 하나씩 찾아서 꺼내는데, 상대가 꺼낸 공보다 더 큰 숫자가 적힌 공을 꺼내지 못하면 지는 겁니다. $a_n=n$이라고 두면, 당연히 평생가도 이 게임이 끝나지 않습니다. 반대로, $a_n=10$과 같은 경우, 친구 A가 11이라는 숫자를 꺼내면 게임이 끝나겠죠. 즉, 이러한 게임이 끝나지 않는 상태에 도달하게 될 것이 확실할 때, 우리는 $a_n$이 발산한다고 말할 수 있습니다.

수학 포스팅인데 글이 더 많아서 지루하셨나요? 글이 너무 길어져 발산하는 경우에 대해서만 중점적으로 설명하였는데, 위에서 말한 '게임’이라는 개념에 보다 익숙해지실 필요가 있습니다. 극한의 정의에서 'approaches’라는 단어를 제거하기 위해, 제가 설명한 '게임’과 비슷한 개념이 도입됩니다 (서론에 "입실론-N 게임"이라고 말씀드렸었죠 ㅎㅎ 세상에서 제일 재미없는 게임입니다). 극한이 수렴하는 경우에, 제가 설명한 게임의 개념이 어떻게 적용될 수 있을지 고민해보시면 이해에 아주 큰 도움이 될 것이라 생각합니다. 그러면 다음 글에서는 본격적으로 $limit$를 정의하고, 해당 정의를 활용한 간단한 계산 등의 예시를 소개하겠습니다.