SGCライブラリ - 36

応用のための確率論・確率過程

Introduction to Probability Theory and Stochastic Processes

松本裕行　著

2004年11月25日　初版発行

確率変数、確率分布

${\Omega}$ を空でない集合とし、 ${\Omega}$ の部分集合からなる族 ${\mathscr{F}}$ が以下を満たすとき、 ${\mathscr{F}}$ を有限加法族と呼ぶ：

${\Omega \in \mathscr{F}}$
${A \in \mathscr{F}}$ ならば ${A^c \in \mathscr{F}}$
${A,B \in \mathscr{F}}$ ならば ${A \cup B,\,A \cap B}$ も ${\mathscr{F}}$ に属する。

集合 ${\Omega}$ 上の有限加法族 ${\mathscr{F}}$ が ${\sigma}$ -加法族であるとは以下をみたすことをいう：

${A_1,A_2,\dots \in \mathscr{F}}$ ならば ${\cup_{i=1}^{\infty}A_i \in \mathscr{F}}$

${(\Omega,\mathscr{F})}$ を可測空間と呼ぶ。

${\mathscr{F}}$ を集合 ${\Omega}$ 上の有限加法族とするとき、 ${\mathscr{F}}$ の要素の増加列 ${A_1 \subset A_2 \subset \cdots}$ に対して ${\cup_nA_n \in \mathscr{F}}$ 、減少列 ${B_1 \supset B_2 \supset \cdots}$ に対して ${\cap_nB_n \in \mathscr{F}}$ が成り立つとき、 ${\mathscr{F}}$ は単調族であるという。

有限加法族が ${\sigma}$ -加法族であるための必要十分条件は、それが単調族であることである。

${\mathscr{F}}$ の要素 ${A}$ に対して正の実数 ${\mu(A)}$ を対応させる写像 ${\mu}$ が以下をみたすとき、 ${\mu}$ を測度と呼び、 ${(\Omega,\mathscr{F},\mu)}$ を測度空間と呼ぶ：

${\mu(\emptyset) = 0}$
${A_1,A_2,\dots \in \mathscr{F}}$ 、 ${A_i \cap A_j = \emptyset}$ （ ${i \neq j}$ ）ならば ${\mu(\cup_{i=1}^{\infty}A_i) = \sum_{i=1}^{\infty}\mu(A_i)}$

${\mu(\Omega) = 1}$ のとき、 ${\mu}$ を確率測度、 ${(\Omega,\mathscr{F},\mu)}$ を確率空間と呼ぶ。

${\mathbf{R}}$ の開集合全体から生成される ${\sigma}$ -加法族を ${\mathscr{B}_{\mathbf{R}}}$ と書いて、 ${\mathbf{R}}$ の Borel 集合族と呼ぶ。

${\mathbf{R}}$ の区間の和で表現される集合からなる集合族 ${\mathscr{J}}$ ：

${\mathscr{J} = \{A = \cup_{i=1}^n(a_i,b_i];\,a_1 \lt b_1 \lt a_2 \lt b_2 \lt \cdots \lt a_n \lt b_n,\,n = 1,2,\dots\}}$

${\mathscr{J}}$ によって生成される ${\sigma}$ -加法族は ${\mathscr{B}_{\mathbf{R}}}$ に一致する。

${\mathbf{R}}$ の部分集合 ${A}$ の外測度 ${\mu^{\ast}(A)}$ ：

$\mu^{\ast}(A) = \inf\left\{\sum_{i=1}^{\infty}(b_i - a_i);\,\cup_{i=1}^{\infty}(a_i,b_i] \supset A\right\}$

${(\mathbf{R},\mathscr{B}_{\mathbf{R}})}$ 上の測度 ${\mu}$ で、互いに交わらない区間の和集合に対して ${\mu(\cup_{i=1}^n(a_i,b_i]) = \sum_{i=1}^n(b_i - a_i)}$ をみたすものがただ一つ存在する。

${\mu}$ を ${\mathbf{R}}$ 上の Lebesgue 測度と呼ぶ。

${X}$ が確率空間 ${(\Omega,\mathscr{F},P)}$ 上の実数値可測関数であるとき、つまり任意の ${B \in \mathscr{B}_{\mathbf{R}}}$ に対して ${X^{-1}(B) \equiv \{\omega \in \Omega;\,X(\omega) \in B\} \in \mathscr{J}}$ のとき、 ${X}$ を確率変数という。

${P_X(B) \equiv P(X^{-1}(B))}$ は確率変数 ${X}$ の値が ${\mathbf{R}}$ の部分集合 ${B}$ に属する確率を表し、 ${P_X}$ は ${\mathbf{R}}$ 上の確率測度を定める。

${P_X}$ を確率変数 ${X}$ の確率分布または分布という。

${X}$ の平均： $E[X] = \int_{\Omega}X(\omega)P(d\omega) = \int_{\mathbf{R}}xP_X(dx) = m$
${X}$ の分散： ${V[X] = E[(X - m)^2] = \sigma^2}$

${X}$ の正規化： $T = \frac{X - m}{\sigma}$

${E[T] = 0}$
${V[T] = 1}$

独立確率変数の話

${\{X_n\}_{n=1}^{\infty}}$ を独立で同じ確率分布に従う確率変数列（i.i.d.）とする。

${X_n}$ の分散 ${V[X_n] = \sigma^2}$
${X_n}$ の平均 ${m}$
${S_n = X_1 + X_2 + \cdots + X_n}$
$\bar{X}_n = \frac{S_n}{n}$

大数の法則

${\bar{X}_n}$ は ${n \to \infty}$ のとき ${m}$ に確率収束する。

つまり、任意の ${\varepsilon \gt 0}$ に対して次が成り立つ：

$\lim_{n \to \infty}P(|\bar{X}_n - m| \lt \varepsilon) = 1$

${S_n,\,\bar{X}_n}$ を正規化して得られる確率変数を ${T_n}$ とする：

$T_n = \frac{S_n - nm}{\sqrt{n\sigma^2}} = \frac{\bar{X}_n - m}{\sqrt{\sigma^2/n}}$

中心極限定理

${T_n}$ の確率分布は、 ${n \to \infty}$ のとき、標準正規分布 ${N(0,1)}$ に弱収束する。

特に、任意の ${a \lt b}$ に対して

$\lim_{n \to \infty}P(a \le T_n \le b) = \int_a^b\frac{1}{\sqrt{2\pi}}e^{-x^2/2}dx$