[SDE] 2.3 Exercises (Part 4)
책 2장의 연습문제 풀이 (Part 2) 문제 2.17 ~ 2.20
- [SDE] 1. Introduction
- [SDE] 2.1 확률론의 기초 언어 (Part 1): 공간, 변수, 그리고 기댓값과 독립성
- [SDE] 2.1 확률론의 기초 언어 (Part 2): 확률 과정과 Kolmogorov Extension Theorem
- [SDE] 2.2 An Important Example: Brownian Motion (브라운 운동)
- [SDE] 2.3 Exercises (Part 1)
- [SDE] 기초개념: 지시 함수(indicator function)
- [SDE] 2.3 Exercises (Part 2)
- [SDE] 2.3 Exercises (Part 3)
시작에 앞서..
이 포스팅 시리즈는 Diffusion을 공부하다 SDE를 공부해야한다는 생각으로 혼자 책을 읽으며 정리한 글입니다. Bernt Øksendal 교수님의 책 “Stochastic Differential Equations: An Introduction with Applications1“을 참고하여 작성하였습니다.
Ex. 2.17.
2.17
만약 $X_t(\cdot): \Omega \to \mathbf{R}$가 연속 확률 과정(continuous stochastic process)이라면, $p > 0$에 대해 $X_t$의 $p$-번째 변동 과정($p$’th variation process) $\langle X, X \rangle_t^{(p)}$는 다음과 같이 정의된다.
\[\langle X, X \rangle _t^{(p)}(\omega) = \lim_{\Delta t_k \to 0} \sum_{t_k \leq t} |X_{t_{k+1}}(\omega) - X_{t_k}(\omega)|^p \quad (\text{확률 수렴})\]여기서 $0 = t_1 < t_2 < \dots < t_n = t$ 이며 $\Delta t_k = t_{k+1} - t_k$ 이다. 특히 $p=1$일 때 이 과정은 전변동 과정(total variation process)이라 불리며, $p=2$일 때는 이차 변동 과정(quadratic variation process)이라 불린다. (연습문제 4.7 참조)
이제 브라운 운동 $B_t \in \mathbb{R}$에 대하여, 그 이차 변동 과정이 단순히 다음과 같음을 보이자.
\[\langle B, B \rangle _t(\omega) = \langle B, B \rangle _t^{(2)}(\omega) = t \quad \text{a.s. (almost surely)}\]다음 과정을 따라 증명하라:
다음과 같이 정의하고,
\[\Delta B_k = B_{t_{k+1}} - B_{t_k}\]다음과 같이 두자.
\[Y(t, \omega) = \sum_{t_k \leq t} (\Delta B_k)^2\]이 때 다음을 증명하라.
\[E \left[ \left( \sum_{t_k \leq t} (\Delta B_k)^2 - t \right)^2 \right] = 2 \sum_{t_k \leq t} (\Delta t_k)^2\]그리고 이를 통해 분할의 크기가 0으로 갈 때 ($\Delta t_k \to 0$, 책 원문에서는 $\Delta t_k \rightarrow \infty$라고 써있으나 아무리 생각해도 오타같아서 이렇게 의역했습니다.), $Y(t, \cdot)$가 $t$로 $L^2(P)$ 수렴함을 유도하라.
a)의 결과를 이용하여 브라운 운동의 거의 모든 경로 (a.a. paths)가 $[0, t]$ 구간에서 유계 변동(bounded variation)을 갖지 않음을 증명하라. 즉, 브라운 운동의 전변동(tatal variation)은 거의 확실히(a.s.) 무한대이다.
📂 풀이
2.17.a)
우리가 증명해야 하는 식은 다음과 같다:
\[E \left[ \left( \sum_{t_k \leq t} (\Delta B_k)^2 - t \right)^2 \right] = 2 \sum_{t_k \leq t} (\Delta t_k)^2. \tag{2.17.1}\]이 식의 좌변을 살펴보자. $\Delta t = t_{k+1} - t_k$로 정의의했으므로, $t$는 다음과 같이 다시 쓸 수 있다.
\[t = \sum_{t_k \leq t} \Delta t_k.\]따라서 식 2.17.1의 좌변의 괄호 안쪽 부분은 다음과 같이 쓸 수 있다.
\[\begin{aligned} \sum (\Delta B_k)^2 - t = \sum (\Delta B_k)^2 - \sum \Delta t_k = \sum \left( (\Delta B_k)^2 - \Delta t_k \right). \end{aligned}\]편의상 $X_k = (\Delta B_k)^2 - \Delta t_k$로 정의하자. 그러면 우리가 증명해야 하는 식은 $E[(\sum X_k)^2]$의 꼴이 된다.
기댓값 안의 제곱을 전개하면 다음과 같다.
\[\left( \sum_k X_k \right)^2 = \sum_k X_k^2 + 2 \sum_{i \neq j} X_i X_j.\]위 식의 기댓값을 취하면 다음과 같다.
\[\begin{aligned} E \left[ \left( \sum_k X_k \right)^2 \right] &= E \left[ \sum_k X_k^2 \right] + 2 E \left[ \sum_{i \neq j} X_i X_j \right] \\ &= \sum_k E[X_k^2] + 2 \sum_{i \neq j} E[X_i X_j]. \end{aligned}\]브라운 운동의 독립 증가 성질에 의해, $i \neq j$일 때 $X_i$와 $X_j$는 독립이다. 따라서 $E[X_i X_j] = E[X_i] E[X_j]$이다. 이제 $E[X_k]$를 계산해보자.
\[E[X_k] = E[(\Delta B_k)^2 - \Delta t_k] = E[(\Delta B_k)^2] - \Delta t_k.\]브라운 운동의 성질에 의해, $\Delta B_k$는 평균이 0이고 분산이 $\Delta t_k$인 정규 분포를 따른다. 따라서 $E[(\Delta B_k)^2] = \Delta t_k$이다. 이를 대입하면 $E[X_k] = 0$이 된다. 따라서 $E[X_i X_j] = E[X_i] E[X_j] = 0 \cdot 0 = 0$이므로, 두 번째 항은 사라진다.
이제 $E[X_k^2]$를 계산해보자.
\[\begin{aligned} E[X_k^2] &= E[((\Delta B_k)^2 - \Delta t_k)^2] \\ &= E[(\Delta B_k)^4 - 2 (\Delta B_k)^2 \Delta t_k + (\Delta t_k)^2] \\ &= E[(\Delta B_k)^4] - 2 \Delta t_k E[(\Delta B_k)^2] + (\Delta t_k)^2. \end{aligned}\]$\Delta B_k$는 Brownian motion의 증가항이므로, 정규 분포 $N(0, \Delta t_k)$를 따른다. 정규 분포의 네 번째 모멘트는 다음과 같다(앞에서 푼 문제 2.8을 적용해도 된다.):
\[E[(\Delta B_k)^4] = 3 (\Delta t_k)^2.\]그리고, $E[(\Delta B_k)^2] = \Delta t_k$이다. 이를 대입하면,
\[\begin{aligned} E[X_k^2] &= 3 (\Delta t_k)^2 - 2 \Delta t_k \cdot \Delta t_k + (\Delta t_k)^2 \\ &= 3 (\Delta t_k)^2 - 2 (\Delta t_k)^2 + (\Delta t_k)^2 \\ &= 2 (\Delta t_k)^2. \end{aligned}\]따라서, 최종적으로 우리는 다음을 얻는다:
\[E \left[ \left( \sum_k X_k \right)^2 \right] = \sum_k E[X_k^2] = \sum_k 2 (\Delta t_k)^2 = 2 \sum_k (\Delta t_k)^2.\]이는 우리가 증명하고자 했던 식 2.17.1과 일치한다.
문제에서는 추가로 $L^2(P)$ 수렴을 유도하라고 했으므로, 분할의 크기가 0으로 갈 때 ($\Delta t_k \to 0$) 우변이 0으로 수렴함을 보이면 된다.
\[\begin{aligned} \lim_{\max \Delta t_k \to 0} 2 \sum_k (\Delta t_k)^2 &\leq \lim_{\max \Delta t_k \to 0} 2 \cdot \max \Delta t_k \cdot \sum_k \Delta t_k \\ &= \lim_{\max \Delta t_k \to 0} 2 \cdot \max \Delta t_k \cdot t \\ &= 2 \cdot 0 \cdot t = 0. \end{aligned}\]$0 \leq \lim E \left[ \left( \sum_k X_k \right)^2 \right] \leq 0$이므로, 우리는 다음을 결론지을 수 있다:
\[E \left[ \left( \sum_k Y(t, \cdot) - t \right)^2 \right] \to 0 \quad \text{as } \max \Delta t_k \to 0.\]따라서 $Y(t, \cdot)$는 $t$로 $L^2(P)$ 수렴한다.
2.17.b)
우리가 (a)에서 얻은 결과는 다음과 같다.
\[\sum_k (\Delta B_k)^2 \xrightarrow{L^2(P)} t \quad \text{as } \max \Delta t_k \to 0.\]이제 브라운 운동의 거의 모든 경로(a.a. paths)가 $[0, t]$ 구간에서 유계 변동(bounded variation)을 갖지 않음을 증명하자. 즉, 브라운 운동의 전변동(total variation)은 거의 확실히(a.s.) 무한대임을 보이자.
귀류법을 이용하여 증명하자. 우리는 원 명제에 반하는 다음 명제를 증명해보자. “브라운 운동의 전변동(total variation)은 유한하다.”
$\sum_k (\Delta B_k)^2 = \sum_k \lvert \Delta B_k \rvert \cdot \lvert \Delta B_k \rvert$이므로, 그중의 최대값을 이용해서 부등식을 만들어보자.
\[\sum_k (\Delta B_k)^2 \leq \left( \max_k \lvert \Delta B_k \rvert \right) \cdot \sum_k \lvert \Delta B_k \rvert.\]브라운 운동 $B_t$는 연속이다. 따라서 시간 간격이 0으로 줄어들면, 그 사이의 위치 변화량의 최댓값은 0으로 수렴할 수 밖에 없다. 우리는 브라운 운동의 total variation이 유한하다고 가정했으므로, $\sum_k \lvert \Delta B_k \rvert < M$이다. 따라서 다음을 얻는다.
\[\sum_k (\Delta B_k)^2 \xrightarrow{\max \Delta t_k \to 0} t \leq 0.\]$t >0$이므로, 이는 모순이다. 따라서 브라운 운동의 전변동(total variation)은 거의 확실히(a.s.) 무한대임을 알 수 있다.
(증명 끝)
Ex. 2.18.
2.18
표본 공간을 $\Omega = \{1, 2, 3, 4, 5 \}$라 하고, $\mathcal{U}$를 $\Omega$의 부분집합들의 모임인
\[\mathcal{U} = \{ \{1, 2, 3\}, \{3, 4, 5\} \}\]라고 하자. 이때 $\mathcal{U}$를 포함하는 가장 작은 $\sigma$-algebra를 구하라. (즉, $\mathcal{U}$에 의해 생성된 $\sigma$-algebra $\mathcal{H}_{\mathcal{U}}$를 구하라.)
함수 $X: \Omega \to \mathbb{R}$를 다음과 같이 정의하자.
\[X(1) = X(2) = 0, \quad X(3) = 10, \quad X(4) = X(5) = 1.\]이때 확률변수 $X$는 $\sigma$-algebra $\mathcal{H}_{\mathcal{U}}$에 대해 가측(measurable)인가?
함수 $Y: \Omega \to \mathbb{R}$를 다음과 같이 정의하자.
\[Y(1) = 0, \quad Y(2) = Y(3) = Y(4) = Y(5) = 1.\]이때, $Y$에 의해 생성된 $\sigma$-algebra $\mathcal{H}_Y$를 구하라.
📂 풀이
2.18.a)
$\sigma$-algebra는, 공집합과 전체집합을 포함하고, 여집합에 대해 닫혀있으며, 가산 합집합에 대해 닫혀있는 집합들의 모임이다. 따라서, $\mathcal{U}$에 의해 생성된 가장 작은 $\sigma$-algebra $\mathcal{H}_{\mathcal{U}}$는 다음과 같다:
\[\mathcal{H}_{\mathcal{U}} = \{ \varnothing, \Omega, \{1, 2, 3\}, \{3, 4, 5\}, \{1, 2\}, \{4, 5\}, \{3\}, \{1, 2, 4, 5\} \}.\]2.18.b)
$X$가 가지는 값은 $0, 1, 10$ 이다. 따라서 $X$의 역상은 다음과 같다:
- $X^{-1}(\{0\}) = \{1, 2\}$
- $X^{-1}(\{1\}) = \{4, 5\}$
- $X^{-1}(\{10\}) = \{3\}$
위 세 집합 모두 $\mathcal{H} _ {\mathcal{U}}$에 속하므로, $X$는 $\mathcal{H} _ {\mathcal{U}}$에 대해 가측이다.
2.18.c)
$Y$가 생성하는 $\sigma$-algebra $\mathcal{H}_Y$를 구하기 위해 $Y$의 역상을 살펴보자:
- $Y^{-1}(\{0\}) = \{1\}$
- $Y^{-1}(\{1\}) = \{2, 3, 4, 5\}$
이 두 집합으로 부터 생성되는 $\sigma$-algebra는 다음과 같다:
\[\mathcal{H}_Y = \{ \varnothing, \Omega, \{1\}, \{2, 3, 4, 5\} \}.\]Ex. 2.19.
2.19
$(\Omega, \mathcal{F}, \mu)$를 확률 공간이라 하고 $p \in [1, \infty]$라 하자.함수열 $\{f_n\}_{n=1}^{\infty}$ ($f_n \in L^p(\mu)$)이 다음 조건을 만족하면 코시 수열(Cauchy sequence)이라고 한다.
\[\|f_n - f_m\|_p \to 0 \quad \text{as } n, m \to \infty.\]또한, 어떤 $f \in L^p(\mu)$가 존재하여 $L^p(\mu)$ 상에서 $f_n \to f$로 수렴할 때, 이 수열을 수렴한다(convergent)고 한다. 모든 수렴하는 수열은 코시 수열임을 증명하라.
(참고: 측도론의 기본 정리에 따르면 이 역도 성립한다. 즉, $L^p(\mu)$ 공간의 모든 코시 수열은 수렴한다. 이러한 성질을 가진 노름 선형 공간(normed linear space)을 완비(complete) 공간이라 부른다. 따라서 $L^p(\mu)$ 공간들은 완비 공간이다.)
📂 풀이
수렴하는 수열 $\{f_n\}$이 존재하여 $f_n \to f$로 수렴한다고 하자. 즉, 다음이 성립한다:
\[\|f_n - f\|_p \to 0 \quad \text{as } n \to \infty.\]주어진 $f_n - f_m$을 $(f_n - f) + (f - f_m)$으로 분해하여 민코프스키 부등식(Minkowski inequality)을 적용하면 다음과 같다:
\[\|f_n - f_m\|_p = \| (f_n - f) + (f - f_m) \|_p \leq \|f_n - f\|_p + \|f - f_m\|_p.\]$n, m \to \infty$일 때, 우변의 두 항 모두 0으로 수렴하므로, 좌변도 0으로 수렴한다. 즉, 다음이 성립한다:
\[\|f_n - f_m\|_p \to 0 \quad \text{as } n, m \to \infty.\]따라서, 모든 수렴하는 수열은 코시 수열임을 증명하였다.
(증명 끝)
Ex. 2.20.
2.20
$B_t$를 1차원 브라운 운동이라 하고, $\sigma \in \mathbb{R}$는 상수, $0 \leq s < t$라 하자. 식 (2.2.2)를 사용하여 다음을 증명하라.
\[E \left[ \exp \left( \sigma (B_t - B_s) \right) \right] = \exp \left( \frac{1}{2} \sigma^2 (t-s) \right).\]
식 (2.2.2)는 다음을 말한다.
\[P^x (B_{t_1} \in F_1, \cdots, B_{t_k} \in F_k) = \int_{F_1 \times \cdots \times F_k} p(t_1, x, x_1) \cdot p(t_2 - t_1, x_1, x_2) \cdots p(t_k - t_{k-1}, x_{k-1}, x_k) d x_1 \cdots d x_k \tag{2.2.2}\]식 (2.2.2)에 의해 기댓값은 다음과 같이 표현된다.
📂 풀이
\[E[\exp(\sigma(B_s - B_t))] = \iint \exp(\sigma(x_1 - x_2)) p(s, 0, x_1) p(t-s, x_1, x_2) dx_2 dx_1\]$y = x_2 - x_1$으로 치환하면, 우변은 다음과 같이 정리된다.
\[\int p(s, 0, x_1) dx_1 \cdot \int \exp(-\sigma y) p(t-s, 0, y) dy = \int \exp(-\sigma y) p(t-s, 0, y) dy\]이는 $Y \sim N(0, t-s)$일 때 $E[e^{-\sigma Y}]$를 구하는 것과 같다.
편의룰 위해, 확률변수 $X = B_t - B_s$로 정의하자. 그러면 $X \sim N(0, t-s)$이다. 따라서, $X$의 확률밀도함수는 다음과 같다:
\[p_X(x) = \frac{1}{\sqrt{2 \pi (t-s)}} \exp \left( -\frac{x^2}{2 (t-s)} \right).\]기댓값의 정의에 따라 다음과 같이 쓸 수 있다:
\[\begin{aligned} E \left[ \exp(\sigma X) \right] &= \int_{-\infty}^{\infty} \exp(\sigma x) p_X(x) d x \\ &= \int_{-\infty}^{\infty} \exp(\sigma x) \frac{1}{\sqrt{2 \pi (t-s)}} \exp \left( -\frac{x^2}{2 (t-s)} \right) d x. \end{aligned}\]이제 적분 안의 지수 부분만 따로 살펴보자:
\[\exp(\sigma x) \exp \left( -\frac{x^2}{2 (t-s)} \right) = \exp \left( -\frac{x^2}{2 (t-s)} + \sigma x \right).\]이를 완전제곱식으로 바꾸면 다음과 같다:
\[\begin{aligned} -\frac{x^2}{2 (t-s)} + \sigma x &= -\frac{1}{2 (t-s)} \left( x^2 - 2 \sigma (t-s) x \right) \\ &= -\frac{1}{2 (t-s)} \left( (x - \sigma (t-s))^2 - \sigma^2 (t-s)^2 \right) \\ &= -\frac{(x - \sigma (t-s))^2}{2 (t-s)} + \frac{1}{2} \sigma^2 (t-s). \end{aligned}\]따라서, 적분은 다음과 같이 쓸 수 있다:
\[\begin{aligned} E \left[ \exp(\sigma X) \right] &= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi (t-s)}} \exp \left( -\frac{(x - \sigma (t-s))^2}{2 (t-s)} + \frac{1}{2} \sigma^2 (t-s) \right) d x \\ &= \exp \left( \frac{1}{2} \sigma^2 (t-s) \right) \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi (t-s)}} \exp \left( -\frac{(x - \sigma (t-s))^2}{2 (t-s)} \right) d x. \end{aligned}\]적분 부분은 평균이 $\sigma (t-s)$이고 분산이 $t-s$인 정규 분포의 확률밀도함수의 적분이므로, 값은 1이다. 따라서 최종적으로 다음을 얻는다:
\[E \left[ \exp(\sigma (B_t - B_s) ) \right] = E \left[ \exp(\sigma X ) \right] = \exp \left( \frac{1}{2} \sigma^2 (t-s) \right).\](증명 끝)
마치며
이렇게 2장의 대 장정이 끝났다. 2장의 내용을 읽고 이해하고 정리하는 시간보다, 연습문제 하나 하나를 푸는 데에 훨씬 더 많은 시간이 걸렸다. 이번 장에서는 확률 공간, 확률 변수, 확률 과정, 브라운 운동 등 SDE를 공부하기 위한 기초적인 개념들을 다루었다. 다음 장에서는 이 내용을 바탕으로 이토 적분과 이토 공식에 대해 공부할 예정이다.
Reference
Bernt Øksendal, Stochastic Differential Equations, Springer, 2003. DOI: 10.1007/978-3-642-14394-6. ↩︎