[Real Analysis] Extreme value theorem (극값 정리)

※ Java를 지원하지 않는 모바일 기기에서는 수식이 제대로 보이지 않을 수 있습니다.

최대-최소 정리(극값 정리)를 알아보기 전에 먼저 공부해야 할 두가지 정리가 있다.

1. 수열에 대한 Bolzano-Weierstrass Theorem
2. Boundedness Theorem

그리고 이 정리들을 좀더 쉽게 이해 하기 위해 보조 정리들을 공부해야 한다.
천천히 살펴 보도록 하자. 상대적으로 쉬운 증명들은 Skip하였다. real analysis 책을 참고 바란다.

우선 이해를 돕기위해 몇가지 용어를 정리해 둘 필요가 있는데 그 중에서도 증가(increasing)과
감소(decreasing)에 대해 정리를 해 둘 필요가 있다. 증가함수와 감소함수, 순증가함수와 순감소함수,
단조증가함수와 단조감소함수들의 용어들이 헷갈릴 수 있기 때문이다.
특히 단조함수에 대한 정의가 책마다 다른 경우가 있는데, 대체적으로 다음과 같이 많이 쓴다.

⊙ 증가, 감소함수(Increasing, Decreasing function)
    ⇒ 단조함수(Monotone function)
≤,≥로 표시. 즉, 단조함수의 경우 a≤b 이면, f(a)≤f(b)이다.
단조증가,단조감소함수는 줄여서 그냥 단조함수라 부른다.

⊙ 순증가, 감소함수(Strictly increasing, Strictly decreasing function)
    ⇒ 순단조함수(Strictly monotone function)
>,<로 표시. 즉, 순단조함수의 경우 a<b 이면, f(a)<f(b)이다.

1) 수열에 대한 Bolzano-Weierstrass Theorem

먼저 보조 정리들을 보자.

---

Def.1) 실수열 $X=(x_{n})$ 이 실수 $x$ 로 수렴하면, $x$ 의 임의의 부분수열
$X'=(x_{n_{k}})$ 역시 $x$ 로 수렴한다.

Proof of Def.1) $\forall\epsilon$ 에 대하여 $n\geq \mathbb{K}$ 인 자연수 $\mathbb{K}$ 가 존재하면, $|x_n-x|<\epsilon$ 을 만족한다.
(즉, 수열 $x_n$ 이 $x$ 에 수렴.) $n_1<n_2<\ldots<n_k<\ldots$ 이 증가하는 자연수열 이므로
귀납법에 의해 $n_k\geq k$ 임을 쉽게 증명 할 수 있다. 따라서 $k\geq \mathbb{K}$ 인 $k$ 를 잡으면
$n_k\geq k\geq \mathbb{K}$ 가 되어 최종적으로 $|x_{n_{k}}-x|<\epsilon$ 이 된다.

---

Def.2) A가 위로 bounded 되어있고, 그 supremum이 존재한다고 가정하면,
다음이 성립한다.
1. A의 supremum은 유일하다.
2. a가 A의 상한일 필요충분 조건은 $\forall\epsilon >0, \exists x \in A, \exists \mathbb{N}$ 일 때,
$$a-\epsilon < x_{\mathbb{N}} < a$$를 만족한다.

이 두가지의 증명은 생략한다.

---

Def.3) 단조부분수열 정리
임의의 수열은 단조부분수열을 갖는다.
⇒ 모든 수열이 단조수열은 아니지만 모든 수열은 단조인 부분수열을 갖는다.

이것의 증명은 생략한다.

---

Def.4) 단조 수렴 정리
단조수열인 실 수열이 그의 supremum이나 infimum에 수렴하기 위한 필요충분 조건은
이 수열이 bounded되어 있다는 것이다.

Proof of Def.4) 먼저 단조증가수열인 경우를 보면, 앞서 Def.2에서 보았듯이 A가 bounded되어
있고, 그의 supremum이 존재하여 a가 supremum인 경우
$$a-\epsilon <x_\mathbb{N} <a$$ 를 만족하는 것을 보았다.
이 때, $n>\mathbb{N}$ 이라 하면, 단조증가수열이므로
$$a-\epsilon <x_\mathbb{N} <x_n <a$$을 만족한다. 따라서 $\forall\epsilon >0,  \exists\mathbb{N}, \forall n$ 에 대하여 $n>\mathbb{N}$ 이면, $a-\epsilon <x_n$ 이므로, $|x_n-a|<\epsilon$ 이 성립한다. 즉 $\forall n$에 대하여 수열 $(x_n)$은 supremum a에 수렴한다. 이와 같이 단조감소수열인 경우도 마찬가지로 증명할 수 있다.

---

  이제 Bolzano-Weierstrass Theorem을 보자.
정의는 다음과 같다.

임의의 유계(bounded)인 수열은 수렴하는 부분수열을 갖는다.

  위에서 본 보조정리들을 이용해 보면, 우선 단조부분수열 정리에 의해 임의의 수열은
단조부분수열을 갖는다. 또한 단조 수렴정리에 의해 임의의 유계인 수열은 그의 supremum이나
infimum에 수렴한다. 즉, 정의에서 다루는 수열은 당연히 단조수열인 부분수열을 가지고 있고,
그 단조 수열이 bounded되어 있으므로 수렴한다.  

결론적으로 다음 정리도 이끌어 낼 수 있다.

$X=(x_n)$ 을 bounded된 실수열이라 하고 $X$의 모든 수렴하는 부분수열이 $x\in\mathbb{R}$ 로 수렴하면 수열 $X$ 는 $x$ 로 수렴한다.

2) Boundedness Theorem

보조 정리들 부터 보자.

---

Def.1) 수렴하는 실 수열은 bounded 되어있다.

증명은 생략한다.

---

Def.2) $X=(x_n)$ 이 수렴수열이고 모든 $n\in\mathbb{N}$ 에 대하여 $a\leq x_n\leq b$ 이면 $$a\leq \lim (x_n)\leq b$$이다.

증명은 생략한다.

---

이제 Boundedness Theorem을 보자.
정의는 다음과 같다.

$\mathbf{I}=[a,b]$ 를 bounded된 폐 구간이라 하고 $\mathbf{f}:\mathbf{I}→\mathbb{R}$ 가 $\mathbf{I}$ 에서 연속 이라 할 때, $\mathbf{f}$ 는 $\mathbf{I}$ 에서 유계(bounded)이다.

  이 정리를 증명 해보자.
  우선 $\mathbf{f}$ 가 폐구간 $\mathbf{I}$ 에서 유계가 아니라 가정하자. 
그러면, 임의의 자연수 $n$에 대해서 $|f(x_n)|>n$ 을 만족하는 어떠한 $x_n\in [a,b]$ 가 존재 한다. 수열 $(x_n)$ 이 유계이므로 Bolzano-weierstrass theorem에 의해 어떤 수 $x$ 로 수렴하는 부분수열 $(x_{n_{r}})$ 이 존재하고 수렴수열 $(x_{n_{r}})$ 의 원소들이 폐구간 $\mathbf{I}$ 에 속하므로 Def.2로 부터 $x\in\mathbf{I}$ 이다. 그런데 정의에서 $f(x)$ 가 폐구간[a,b]에서 연속이라 했으므로 수열 $(f(x_{n_{r}}))$ 은 수렴 해야만 하고 따라서 수렴수열 $(f(x_{n_{r}}))$ 은 유계여야 한다. 하지만 $r\in\mathbb{N}$ 에 대하여 $$|f(x_{n_{r}})|>n_r\geq r$$ 이므로 처음 세운 가정은 모순이다.  

The Maximum-Minimum Theorem 최대-최소(극값) 정리

Def) $\mathbf{I}:=[a,b]$ 를 유계 폐구간이라 하고, $\mathbf{f}:\mathbf{I}\rightarrow\mathbb{R}$ 가 $\mathbf{I}$ 에서 연속이라 할 때, $\mathbf{f}$는 $\mathbf{I}$ 에서 최대값과 최소값을 갖는다.

  우선, $s^{\star}:= supf(\mathbf{I})$ 이라 하고 $s_{\star}:= inff(\mathbf{I})$ 이라 하자.
이 때, $s^{\star}=f(x^{\star})$ 이고 $s_{\star}=f(x_{\star})$ 가 되는 $\mathbf{I}$ 의 점 $x^{\star}$ 와 $x_{\star}$ 가 존재하는지 알아 보자.
여기선 supremum $x^{\star}$ 의 존재성만 알아보기로 한다. infimum의 존재도 같은방법으로 증명 할 수 있기 때문이다. $s^{\star}= sup f(\mathbf{I})$ 이므로, $n\in \mathbb{N}$ 이면 수 $s^{\star}-1/n$ 은 집합 $f(\mathbf{I})$ 의 상계가 아니다. 따라서 모든 $n\in \mathbb{N}$ 에 대하여$$s^{\star}-\frac{1}{n}<f(x_n)\leq s^{\star}$$가 되는 수 $x_n\in \mathbf{I}$ 가 존재 한다. $\mathbf{I}$ 가 유계이므로, 수열 $\mathbf{X}:=(x_n)$ 도 유계이다. 따라서, Bolzano-Weierstrass 정리에 의해 어떤 수 $x^{\star}$ 로 수렴하는 $\mathbf{X}$ 의 부분수열 $\mathbf{X'}=(x_{n_{r}})$ 이 존재한다. $\mathbf{X'}$ 의 원소들이 $\mathbf{I}=[a,b]$ 에 속하므로, boundedness theorem 보조정리 Def.2 에 의해 $x^{\star}\in\mathbf{I}$ 이다. 그러므로 $\mathbf{f}$ 는 $x^{\star}$ 에서 연속이고, 따라서 $lim f(x_{n_{r}})=f(x^{\star})$ 이다. 모든 $r\in\mathbb{N}$ 에 대하여 $$s^{\star}-\frac{1}{n_r}<f(x_{n_{r}})\leq s^{\star}$$ 이고, Sqeeze theorem에 의해 $lim(f(x_{n_{r}}))=s^{\star}$ 가 된다. 그러므로
$$f(x^{\star})=lim(f(x_{n_{r}}))=s^{\star}=supf(\mathbf{I})$$를 얻는다. 따라서 $x^{\star}$ 가 $\mathbf{I}$ 에서 $\mathbf{f}$ 에 대한 최대점이다.