正規分布の性質

解説

正規分布は 線形変換で閉じている分布 です.

$$Z\sim \mathcal{N}(0,1)$$

のとき, 変数変換 $X=\mu +\sigma Z$ により

$$X\sim \mathcal{N}(\mu ,{\sigma }^2)$$

が成り立ちます.

したがって正規分布の多くの性質は 標準正規分布の変数変換 によって導出可能です（計算が容易になる）.

正規分布が線形変換で閉じている証明

標準正規分布 $Z\sim \mathcal{N}(0,1)$ の確率密度関数は

$$f_Z(z)=\frac{1}{\sqrt{2\pi }}{e}^{-z^2/2}$$

変数変換 $X=\mu +\sigma Z$ を考える.

逆変換は $z=\frac{x-\mu }{\sigma }$ で，ヤコビアンは $\frac{dz}{dx}=\frac{1}{\sigma }$.

したがって $X$ の密度関数は

$$\begin{array}{rl}{f}_X(x)& =f_Z\left(\frac{x-\mu }{\sigma }\right)\cdot \frac{1}{|\sigma |}\\ & =\frac{1}{\sqrt{2\pi }}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})\cdot \frac{1}{\sigma }\\ & =\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})\end{array}$$

これは平均 $\mu$, 分散 ${\sigma }^2$ の正規分布 $\mathcal{N}(\mu ,{\sigma }^2)$ の確率密度関数に一致する.

はじめに 👉 標準正規分布の性質 を確認することをおすすめします.

1. 確率密度関数

確率密度関数 (PDF)

平均 $\mu$, 分散 ${\sigma }^2$ の正規分布 $X\sim \mathcal{N}(\mu ,{\sigma }^2)$ の確率密度関数は

$$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})$$

確率密度関数のグラフ

2. 累積分布関数

累積分布関数 (CDF)

$$F(x)={\int }_{-\mathrm{\infty }}^{x}f(t)dt$$

閉じた形は存在しませんが, 正則不完全ベータ関数を用いて,

$t\ne 0$ のとき，$x={\displaystyle \frac{n}{n+t^2}}$，$a={\displaystyle \frac{n}{2}}$，$b={\displaystyle \frac{1}{2}}$ とおくと

$$F_T(t)=\frac{1}{2}+\frac{1}{2}\mathrm{sgn}(t)[1-I_x(a,b)],$$

$t=0$ のとき $F_T(0)=\frac{1}{2}$.

等価に，符号で分けて

$$F_T(t)=\{\begin{array}{ll}{\displaystyle \frac{1}{2}}{I}_{\frac{n}{n+t^2}}({\displaystyle \frac{n}{2}},{\displaystyle \frac{1}{2}}),& t<0,\\ 1-{\displaystyle \frac{1}{2}}{I}_{\frac{n}{n+t^2}}({\displaystyle \frac{n}{2}},{\displaystyle \frac{1}{2}}),& t>0.\end{array}$$

性質: 対称性より $F_T(-t)=1-F_T(t)$.

:::

誤差関数

積分を直接解くことはできないため，誤差関数 $\mathrm{erf}$ を導入する.

$$\mathrm{erf}(z)=\frac{2}{\sqrt{\pi }}{\int }_0^z{e}^{-t^2}dt$$

累積分布関数のグラフ

3. 期待値

期待値

$$\mathbb{E}[X]=\mu$$

導出の手順はこちら

導出

平均 $\mu$, 分散 ${\sigma }^2$ の正規分布 $X\sim \mathcal{N}(\mu ,{\sigma }^2)$ に対して，

$$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})$$

なので，

$$\begin{array}{rl}\mathbb{E}[X]& ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}xf(x)dx\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}x\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})dx\end{array}$$

ここで変数変換を行う.

$$y=\frac{x-\mu }{\sigma },x=\mu +\sigma y,dx=\sigma dy$$

これを代入すると

$$\begin{array}{rl}\mathbb{E}[X]& ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(\mu +\sigma y)\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(\sigma y{)}^2}{2{\sigma }^2})\sigma dy\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(\mu +\sigma y)\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{y^2}{2})\sigma dy\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(\mu +\sigma y)\cdot \frac{1}{\sqrt{2\pi }}\exp (-\frac{y^2}{2})dy\end{array}$$

積分を分けると

$$\begin{array}{rl}\mathbb{E}[X]& =\mu {\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}\frac{1}{\sqrt{2\pi }}\exp (-\frac{y^2}{2})dy+\sigma {\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}\frac{y}{\sqrt{2\pi }}\exp (-\frac{y^2}{2})dy\end{array}$$

前者は標準正規分布の全確率で $=1$，後者は奇関数の積分で $=0$.
したがって

$$\mathbb{E}[X]=\mu$$

---

4. 分散

分散

$$\mathrm{V}[X]={\sigma }^2$$

導出の手順はこちら

導出

正規分布 $X\sim \mathcal{N}(\mu ,{\sigma }^2)$ に対して，分散は

$$\mathrm{V}[X]=\mathbb{E}[(X-\mu {)}^2]={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(x-\mu {)}^{2}f(x)dx$$

である.
確率密度関数は

$$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})$$

なので，

$$\begin{array}{rl}\mathrm{V}[X]& ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(x-\mu {)}^2\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})dx\end{array}$$

変数変換を行う.

$$y=\frac{x-\mu }{\sigma },x=\mu +\sigma y,dx=\sigma dy$$

代入すると，

$$\begin{array}{rl}\mathrm{V}[X]& ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}(\sigma y{)}^2\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(\sigma y{)}^2}{2{\sigma }^2})\sigma dy\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\sigma }^2{y}^2\cdot \frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{y^2}{2})\sigma dy\\ & ={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\sigma }^2{y}^2\cdot \frac{1}{\sqrt{2\pi }}\exp (-\frac{y^2}{2})dy\end{array}$$

ここで

$${\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}\frac{y^2}{\sqrt{2\pi }}\exp (-\frac{y^2}{2})dy=1$$

である（標準正規分布の二次モーメント）.

したがって

$$\mathrm{V}[X]={\sigma }^2$$

---

5. 積率母関数

積率母関数 (MGF)

$$M_X(t)=\mathbb{E}[e^{tX}]=\exp (\mu t+\frac{1}{2}{\sigma }^2{t}^2)$$

導出の手順はこちら

導出

標準正規分布 $Z\sim \mathcal{N}(0,1)$ の積率母関数は

$$M_Z(s)=\mathbb{E}[e^{sZ}]=\exp \left(\frac{1}{2}{s}^2\right)$$

である.

いま $X\sim \mathcal{N}(\mu ,{\sigma }^2)$ を

$$X=\mu +\sigma Z$$

と標準正規分布 $Z$ を使って表す.

すると

$$M_X(t)=\mathbb{E}[e^{tX}]=\mathbb{E}[e^{t(\mu +\sigma Z)}]$$

指数を分けると

$$M_X(t)=e^{\mu t}\mathbb{E}[e^{(\sigma t)Z}]$$

ここで $\mathbb{E}[e^{(\sigma t)Z}]$ は $Z$ のMGFを $s=\sigma t$ とおいたものだから

$$\mathbb{E}[e^{(\sigma t)Z}]=M_Z(\sigma t)=\exp (\frac{1}{2}(\sigma t{)}^2)$$

したがって

$$M_X(t)=e^{\mu t}\exp \left(\frac{1}{2}{\sigma }^2{t}^2\right)=\exp (\mu t+\frac{1}{2}{\sigma }^2{t}^2)$$

これで導出が完了する.

---

6. 特性関数

特性関数 (CF)

$${\phi }_X(t)=\mathbb{E}[e^{itX}]=\exp (i\mu t-\frac{1}{2}{\sigma }^2{t}^2)$$

導出の手順はこちら

導出

MGFと同様の積分を行い，$t$ を $it$ に置換して導出できる.

$${\phi }_X(t)=M_X(it)=\exp (i\mu t-\frac{1}{2}{\sigma }^2{t}^2)$$

参考文献

増訂版 日本統計学会公式認定 統計検定１級対応 統計学

日本統計学会

統計検定1級公式教本 網羅的に記述してあるので辞書的に使うことをおすすめします

Amazonで見る 楽天で見る

新装改訂版　現代数理統計学

竹村 彰通

統計検定1級対策に定番の書籍 難易度は高めだが演習問題も豊富

Amazonで見る 楽天で見る