자연대 홍보기자단 자:몽 7기 | 김태원
      
   

직관과 수학

  처음 수학을 배울 때를 떠올려 보면, 한 개부터의 개수를 1, 2, ...이라는 수로 정의하였다. 이후 각각의 사칙연산을 약속하였고, 이를 간단히 실제 식에 적용하는 것부터 시작하였다. 점점 약속의 개수가 늘어났으며, 약속 간의 연결인 직관을 중요하게 여겼다. 이 과정에서는 관찰 또한 중요한 도구가 되었다. 예를 들어, 제곱수라는 개념을 처음 배운 후, 1, 4, 9, 16과 같은 제곱수를 관찰하면 4로 나눈 나머지가 모두 0 또는 1이라는 사실을 관찰할 수 있다. 이를 다른 약속, 즉 홀수와 짝수를 일반적으로 나타내는 식과 응용하여 관찰 사실을 입증할 수 있다. 이러한 관찰을 통한 귀납적 생각과 직관은 크게 연결이 되어 있었으며 실제 수학적 귀납법의 논증 방법과 유사한 경향이 있다. 하지만, 이러한 귀납적 생각은 명확하게 증명하지 않으면 몇 가지 사례로 일반화하는 오류를 저지를 수 있다. 즉, 명확한 근거 없이 단순한 관찰을 통한 결론 도출은 수학에서는 위험한 행위이다. 
   
  이처럼 직관이 오류가 나는 경우는 대부분 수학에서의 약속을 어겨서 비롯된다. 달리 말하면, 엄밀한 정의를 정확하게는 기억하지 못하는 것이다. 한편, 대학교 수준에서의 수학은 직관적으로 생각하지 못하는 것들에 대하여 해답을 내놓는다. 본 글에서는 직관에 반하는, 또는 직관적으로 생각하지 못하는 수학적 현상들을 바라본다.
    

무한과 크기

  수학에서 크기는 가장 직관적인 개념 중 하나이다. 초콜릿 3개보다 5개가 많고, 10명보다 20명이 많은 것은 자명하게 받아들일 수 있다. 이러한 크기에 대한 직관은 유한한 체계에서는 성립한다. 하지만, ‘무한’에 대해서는 이러한 직관이 성립하지 않는다. 가장 대표적인 예가 자연수 집합과 정수 집합, 유리수 집합의 크기가 모두 같다는 것이다. 정수는 자연수 이외에도 음수와 0을 포함하고, 유리수는 정수 이외에도 수많은 수를 포함하는 데 세 집합의 크기가 같다는 것은 다소 의아하게 들린다.
 
  수학적 정의에서 집합의 크기는 원소 간의 포함관계가 아니라, 집합 간의 전단사함수가 존재하는가에 따라 결정된다. 이는 유한집합에서는 우리가 생각하는 직관과 일치한다. 유한집합 A, B에 대하여 A의 원소가 m개, B의 원소가 n개가 있고, m보다 n이 큰 자연수라 가정하자. 이때, A에서 B로 가는 임의의 함수를 생각해 보면, 함수는 정의역 한 개의 원소당 한 개의 치역의 원소에 대응되므로 최대 m개의 B의 원소에 대응되기에 A의 상은 B보다 작다. 따라서, B가 A보다 더 큰 집합이며 이는 직관과 일치한다. (B에서 A로 대응되는 함수는 쉽게 찾을 수 있다.)
 
  이번에는 정수 집합과 자연수 집합 사이의 전단사함수를 찾자. 정수 집합을 0을 기준으로 한 수직선 위에 있다고 생각하고 0, +1, -1, +2, -2 순으로 각각 1, 2, 3, 4, 5...를 배열하면 0은 1로, 자연수 N은 2N으로, 음의 정수 –N은 2N+1로 대응된다. 유리수의 경우에는 마찬가지로, 0을 1로 대응시킨 후 0이 아닌 유리수를  ( : 자연수,  : 0이 아닌 정수,  : 서로소)로 나타낼 수 있으므로, 의 순서가 작고 가 작으며 가 양수인 것부터 자연수에 대응시킬 수 있다. 즉, 은 2로, 은 3으로, 은 4로, 은 5와 같이 대응시켜 나갈 수 있다. 이때, 와 같이 기약분수가 아닌 것들은 중간중간 제외하게 되어서 간단한 함수 꼴로는 나타내기는 어렵지만, 두 집합 사이의 전단사함수가 존재함은 명확하다. 유리수 집합과 정수 집합간의 전단사함수는 각각 자연수 집합과의 전단사함수의 합성을 이용하면 되기 때문에 세 집합의 크기는 같다.
 

복소수의 복소수제곱
 

, 일 때 의 그래프
 

  고등학교에서 가장 직관적으로 와닿지 않는 개념은 아마도 허수일 것이다. 허수는 말 그대로 상상 속에서나 존재하는 수로, 을 만족하는 수로 정의한다. 이 허수를 가지고 사칙연산을 진행하는데, 바로 계산하지 않는 것이 허수제곱이다. 허수제곱을 계산하는 것은 다소 의미 없는 일처럼 보이기도 한다. 음수의 유리수 제곱 자체도 다루지 않는데, 크기조차 비교할 수 없는 허수를 지수에 올리는 것에 대해 의문이 있을 수도 있다. 하지만, 실제로 존재하지 않는 수인 허수도 고차방정식의 해를 구하기 위해서 도입되었는데, 허수제곱이라고 해서 쓸모가 아예 없을 리가 만무하다. 실제로, 허수의 허수제곱은 계산이 가능하며, 는 놀랍게도 이다.
 
  허수의 거듭제곱을 구하기 위해서 가장 먼저 알아야 할 것은 오일러 등식이다. 오일러 등식은 로, 의 에서의 테일러 전개를 생각해 보면 떠올릴 수 있다. 이 식에 의하면 이므로로 나오게 된다. 실수가 나오는 것 또한 직관에 반하지만, 는 크기가 1인 복소수임에도 는 1보다 작은 실수가 된다는 것 또한 주목할 만하다. 다만, 이 경우는 의 편각을 가 아닌 , 와 같이 여러 개의 실수로 정의할 수 있기 때문에, 이에 따른 가 유일하게 존재하지 않게 된다는 문제점을 가진다.
 
  크기가 1인 복소수  의 제곱을 고려해보자. 이므로 가 성립한다. 따라서, 크기가 이고 편각이 인 복소수로 나오게 된다. 크기가 라는 점은 가 양수일 때는 즉,  일 때는 에서와 같이 크기가 1보다 작음을 의미한다. 반대로,   일 때는 지수가 양수로 나오게 되며, 특히 일 때는 그 값이 이며 약 111에 해당한다. 복소수의 힘이 어느 정도인지를 체감할 수 있는 부분이다. 이를 그래프로 표현하면 위와 같다. 단순히 복소평면 상의 단위원에 위치한 복소수의 제곱만으로도 이렇게 큰 형태의 곡선이 생긴다는 것은 실수에서는 관찰하기 어려운 복소수만의 특별한 아름다움이라 칭할 만하다.
 

증가 상태와 증가함수
 

와 그 도함수의 그래프
 
  

  증가 상태와 증가함수는 어떤 면에서는 같은 말처럼 들린다. 그 구간의 모든 점에서 증가 상태라면, 그 구간에서 함수가 증가함수라는 것은 증명가능하다. 반대로, 어떤 함수가 특정 구간에서 증가 함수라면, 모든 점에서 증가 상태라는 것도 명확하다. 또한, 어떤 한 점이 증가 상태일 때, 그 점을 포함하는 매우 작은 구간을 잡으면 그 함수는 증가함수인 것처럼 보인다. 하지만, 마지막 명제는 실제로 성립하지 않는다. 
 
  먼저, 증가 상태와 증가함수의 개념을 명확히 해보자. 함수 f가 점 c에서 증가 상태라는 것은 구간 (a, b)에서 정의된 함수 과 구간 상의 점 가 있을 때, 양수 가 존재하여  를 만족하는 것이다. 증가함수란 구간 (a, b)에서 이면 항상 를 만족하는 것이다.

  하지만, 여기에 매우 특이한 함수 가 있다. 이 함수는 양수 를 어떻게 잡아도  에 대하여  이므로 항상 0보다 작으며,   이 되어 항상 0보다 크므로 0에서 증가 상태이다. 또한, 위 함수는 에서는 미분가능한 함수의 합성 및 합으로 이루어져 있으므로 미분가능하고 연속이다.  에서도  으로 존재하므로 실수 전체 범위에서 미분가능하다. 일반적인 인식으로는 0에서 증가 상태이고 도함수가 존재하면, 이 적어도 0 이상이며 주변 구간에서 증가해야 할 것으로 보인다. 하지만, 0을 포함하는 임의의 열린 구간 (a, b)를 잡아도  를 만족하는 자연수 을 잡을 수 있으며, 가 되어 0을 포함하는 임의의 구간을 잡더라도 증가함수는 아니다.
 
  이 함수에서 더욱 특이한 것은 그 도함수이다. 도함수를 미분을 이용하여 구하면  이 된다. 이 도함수는 위의 아이디어와 비슷하게  가 –1과 1이 되는 값을 잡을 수 있으며, 이에 따라 도함수의 부호가 0의 양끝에서 계속해서 진동하게 된다. 즉, 도함수가 계속해서 음수와 양수를 반복함에도 0에서는 증가 상태에 있다는 것이다. 그래프를 통해 보면 위와 같다. 우리는 흔히 미분가능한 함수를 그릴 때 부드러운 곡선을 상정한다. 미분가능하다는 것이 어떻게 보면, 매우 부드러워서 그 점에서의 미분계수를 구할 수 있는 것처럼 보이기 때문이다. 본 그래프에서도 f(x) 자체는 매우 부드러워 보인다. 하지만, f’(x)를 0 근방에서 확대해서 보면, 0 주변에서 끊임없이 진동하는 모습을 볼 수 있다. 끊임없이 진동함에도 0에서 증가하며, 그렇다고 증가함수는 아닌 점이 이 함수와 수학을 더욱더 특별하게 만든다.
 

  우리는 수학을 배우는 과정에서 관찰하고 사고한다. 이 과정에서 피어난 직관은 때로는 문제 해결의 좋은 실마리가 되기도 하지만, 잘못된 직관은 수학의 근간을 뒤흔들 수 있다. 특히 대학교 이상의 수학에서는 단순히 개념을 받아들이고 사용하는 것을 넘어서 스스로 사고하고 정의와 논증을 이용하여 직관에 질문을 던져볼 필요가 있다. 수학을 아름답다고 하는 것은 단순히 우리 생각과 일치해서가 아니다. 수학자들이 생각하는 가장 아름다운 항등식 역시 위에서 살펴본 이라는 오일러 항등식이다. 이처럼, 직관 위에서 논리를 펼치고, 그 논리를 이용하여 새로운 직관을 형성하는 것이 수학을 공부하는 진정한 자세일 것이다. 직관 그 자체가 수학적 능력이 아닌, 사고 함으로써 얻는 직관을 위한 관점의 변화가 필요한 시점이다.
  

자연과학대학 홍보기자단 자:몽 김태원 기자 taewon0126@snu.ac.kr
카드뉴스는 자:몽 인스타그램 @grapefruit_snucns에서 확인할 수 있습니다.