2013年 統計数理 問2

日本統計学会公式認定 統計検定 1級 公式問題集[2012〜2013年]

日本統計学会

過去問2012年・2013年

Amazonで見る

解説

正規分布の以下の性質を問う問題です.

• 独立性と無相関性
• 条件付き分布
• 再生性

[1] 独立性の証明

方針

正規分布では独立性と無相関性は同値なので、以下の式を満たすことを示す.

$$\mathrm{Cov}[Y_n,X_1-\frac{Y_n}{n}]=0$$

解答

共分散の線形性より,

$$\begin{array}{rl}& \mathrm{Cov}[Y_n,X_1-\frac{Y_n}{n}]\\ & =\mathrm{Cov}[Y_n,X_1]+\mathrm{Cov}[Y_n,-\frac{Y_n}{n}]\\ & =\mathrm{Cov}[Y_n,X_1]-\frac{1}{n}\mathrm{V}[Y_n]\end{array}$$

ここで,

$$Y_n=\sum _{i=1}^n{X}_i$$

だから,

$$\mathrm{Cov}[Y_n,X_1]=\mathrm{Cov}[\sum _{i=1}^n{X}_i,X_1]$$

共分散は線形性を持つので,

$$\mathrm{Cov}[Y_n,X_1]=\sum _{i=1}^n\mathrm{Cov}[X_i,X_1]$$

ここで $\{X_i\}$ は独立同分布 $N(\mu ,{\sigma }^2)$ に従う.
したがって

• $i=1$ のとき:

  $$\mathrm{Cov}[X_1,X_1]=\mathrm{V}[X_1]={\sigma }^2$$

• $i\ne 1$ のとき独立だから:

  $$\mathrm{Cov}[X_i,X_1]=0$$

よって,

$$\mathrm{Cov}[Y_n,X_1]={\sigma }^2+\sum _{i=2}^{n}0={\sigma }^2$$

また,

$$\mathrm{V}[Y_n]=\sum _{i=1}^n\mathrm{V}[X_i]=n{\sigma }^2$$

よって,

$$\begin{array}{rl}\mathrm{Cov}[Y_n,X_1-\frac{Y_n}{n}]& ={\sigma }^2-\frac{1}{n}(n{\sigma }^2)\\ & ={\sigma }^2-{\sigma }^2\\ & =0\end{array}$$

したがって

$$Y_n\perp \perp X_1-\frac{Y_n}{n}$$

が成り立つ.

[2] 条件付き分布 $X_1|Y_n$

方針

1. $(X_1,Y_n)$ は 2 次元正規分布に従う.

2. $X_1|Y_n$ は正規分布に従う.

3. [1]の独立性を利用して期待値と分散を求める.

$X_1,Y_n$ はそれぞれ正規分布に従うため、条件付き分布 $X_1|Y_n$ は正規分布に従う.

期待値

$$\begin{array}{rl}\mathbb{E}[X_1|Y_n]& =\mathbb{E}[\{X_1-\frac{Y_n}{n}+\frac{Y_n}{n}\}|Y_n]\\ & =\mathbb{E}[\{X_1-\frac{Y_n}{n}\}|Y_n]+\mathbb{E}[\frac{Y_n}{n}|Y_n]\\ & =\mathbb{E}[\{X_1-\frac{Y_n}{n}\}|Y_n]+\mathbb{E}[\frac{Y_n}{n}|Y_n]\end{array}$$

$Y_n\perp \perp X_1-\frac{Y_n}{n}$ より、1項目は無条件で考えられるので

$$\begin{array}{rl}\mathbb{E}[\{X_1-\frac{Y_n}{n}\}|Y_n]& =\mathbb{E}[X_1-\frac{Y_n}{n}]\\ & =\mathbb{E}[X_1]-\frac{1}{n}\mathbb{E}[Y_n]\\ & =\mu -\frac{n\mu }{n}=0\end{array}$$

したがって期待値は,

$$\begin{array}{rl}\mathbb{E}[X_1|Y_n]& =\mathbb{E}[\{X_1-\frac{Y_n}{n}\}|Y_n]+\mathbb{E}[\frac{Y_n}{n}|Y_n]\\ & =0+\mathbb{E}[\frac{y_n}{n}]\\ & =\frac{y_n}{n}\end{array}$$

分散

次に分散を計算する.

$$\begin{array}{rl}\mathrm{V}[X_1\mid Y_n]& =\mathrm{V}[(X_1-\frac{Y_n}{n})+\frac{Y_n}{n}|Y_n]\\ & =\mathrm{V}[X_1-\frac{Y_n}{n}\mid Y_n]\end{array}$$

ここで再び独立性を用いると

$$\mathrm{V}[X_1-\frac{Y_n}{n}\mid Y_n]=\mathrm{V}[X_1-\frac{Y_n}{n}]$$

したがって

$$\begin{array}{rl}& \mathrm{V}[X_1-\frac{Y_n}{n}]\\ & =\mathrm{V}[X_1]+\frac{1}{n^2}\mathrm{V}[Y_n]-\frac{2}{n}\mathrm{Cov}[X_1,Y_n]\\ & ={\sigma }^2+\frac{1}{n^2}(n{\sigma }^2)-\frac{2}{n}{\sigma }^2\\ & ={\sigma }^2+\frac{{\sigma }^2}{n}-\frac{2{\sigma }^2}{n}\\ & ={\sigma }^2-\frac{{\sigma }^2}{n}\\ & =(1-\frac{1}{n}){\sigma }^2\end{array}$$

結論

$$X_1\mid Y_n\sim \mathcal{N}(\frac{y}{n},(1-\frac{1}{n}){\sigma }^2)$$

別解

一般的な公式から導出

方針

1. $(X_1,Y_n)$ は 2 次元正規分布に従う.
2. $X_1|Y_n$ は正規分布に従う.
3. $X_1|Y_n$ の分布は、2次元正規分布の条件付き分布の公式を用いて求められる.

2次元正規分布の条件付き分布

まず一般の公式を確認する.

$$\begin{array}{rl}& (X,Y)\\ & \sim \mathcal{N}(\left(\begin{array}{c}{\mu }_X\\ {\mu }_Y\end{array}\right),\left(\begin{array}{cc}{\sigma }_X^2& \rho {\sigma }_X{\sigma }_Y\\ \rho {\sigma }_X{\sigma }_Y& {\sigma }_Y^2\end{array}\right))\end{array}$$

のとき、条件付き分布は

$$\begin{array}{rl}& X\mid Y=y\\ & \sim \mathcal{N}({\mu }_X+\rho \frac{{\sigma }_X}{{\sigma }_Y}(y-{\mu }_Y),(1-{\rho }^2){\sigma }_X^2)\end{array}$$

で与えられる.

計算

ここで $X=X_1$, $Y=Y_n$ とすると、

• ${\mu }_X=\mu$

• ${\mu }_Y=n\mu$

• ${\sigma }_X^2={\sigma }^2$

• ${\sigma }_Y^2=n{\sigma }^2$

• $\rho =\frac{\mathrm{Cov}[X_1,Y_n]}{{\sigma }_X{\sigma }_Y}=\frac{{\sigma }^2}{\sigma \cdot \sqrt{n{\sigma }^2}}=\frac{1}{\sqrt{n}}$

を得る.

したがって期待値は,

$$\begin{array}{rl}& \mathbb{E}[X_1\mid Y_n=y_n]\\ & =\mu +\frac{1}{\sqrt{n}}\cdot \frac{\sigma }{\sqrt{n{\sigma }^2}}(y_n-n\mu )\\ & =\mu +\frac{1}{n}(y_n-n\mu )\\ & =\frac{y_n}{n},\end{array}$$

また分散は,

$$\mathrm{V}[X_1\mid Y_n]=(1-\frac{1}{n}){\sigma }^2$$

したがって求める分布は,

$$X_1\mid Y_n\sim \mathcal{N}(\frac{y}{n},(1-\frac{1}{n}){\sigma }^2)$$

[3] 条件付き分布 $Y_{k-1}\mid Y_k$

方針

1. $(Y_{k-1},Y_k)$ は 2 次元正規分布に従う.
2. よって $Y_{k-1}\mid Y_k$ は正規分布に従う.
3. [2] と同様に、期待値と分散を計算する.

[2] で得た結果を任意の $k(1\le k\le n)$ に拡張すると

$$X_k\mid Y_k\sim \mathcal{N}(\frac{y_k}{k},(1-\frac{1}{k}){\sigma }^2)$$

である.

ここで $Y_{k-1}=Y_k-X_k$ である.

期待値

$$\begin{array}{rl}\mathbb{E}[Y_{k-1}\mid Y_k]& =\mathbb{E}[Y_k-X_k\mid Y_k]\\ & =\mathbb{E}[Y_k\mid Y_k]-\mathbb{E}[X_k\mid Y_k]\\ & =y_k-\frac{y_k}{k}\\ & =(1-\frac{1}{k})y_k\end{array}$$

分散

$$\begin{array}{rl}& \mathrm{V}[Y_{k-1}\mid Y_k]\\ & =\mathrm{V}[Y_k-X_k\mid Y_k]\\ & =\mathrm{V}[Y_k\mid Y_k]+\mathrm{V}[X_k\mid Y_k]\\ & -2\mathrm{Cov}[Y_k,X_k\mid Y_k]\end{array}$$

ここで $Y_k$ は条件付きで定数となるため

$$\mathrm{V}[Y_k\mid Y_k]=0$$

また、定数との共分散は 0 なので

$$\mathrm{Cov}[Y_k,X_k\mid Y_k]=0$$

したがって

$$\mathrm{V}[Y_{k-1}\mid Y_k]=\mathrm{V}[X_k\mid Y_k]=(1-\frac{1}{k}){\sigma }^2$$

結論

$$Y_{k-1}\mid Y_k\sim \mathcal{N}((1-\frac{1}{k})y_k,(1-\frac{1}{k}){\sigma }^2)$$

別解

一般的な公式から導出

公式

2次元正規分布の一般公式を相関係数の形で用いる.

$$\left(\begin{array}{c}U\\ V\end{array}\right)\sim \mathcal{N}(\left(\begin{array}{c}{\mu }_U\\ {\mu }_V\end{array}\right),\left(\begin{array}{cc}{\sigma }_U^2& \rho {\sigma }_U{\sigma }_V\\ \rho {\sigma }_U{\sigma }_V& {\sigma }_V^2\end{array}\right))$$

のとき，

$$\begin{array}{rl}& U\mid V=v\\ & \sim \mathcal{N}({\mu }_U+\rho \frac{{\sigma }_U}{{\sigma }_V}(v-{\mu }_V),(1-{\rho }^2){\sigma }_U^2)\end{array}$$

である.

計算

ここで $U=Y_{k-1},V=Y_k$ とする.

• $\mathbb{E}[Y_{k-1}]=(k-1)\mu$

• $\mathbb{E}[Y_k]=k\mu$

• $\mathrm{V}[Y_{k-1}]=(k-1){\sigma }^2$

  $\Rightarrow {\sigma }_{Y_{k-1}}=\sqrt{k-1}\sigma$

• $\mathrm{V}[Y_k]=k{\sigma }^2\Rightarrow {\sigma }_{Y_k}=\sqrt{k}\sigma$

• $\mathrm{Cov}[Y_{k-1},Y_k]=(k-1){\sigma }^2$

したがって相関係数は

$$\begin{array}{rl}\rho & =\frac{\mathrm{Cov}[Y_{k-1},Y_k]}{{\sigma }_{Y_{k-1}}{\sigma }_{Y_k}}\\ & =\frac{(k-1){\sigma }^2}{\sqrt{k-1}\sigma \cdot \sqrt{k}\sigma }\\ & =\sqrt{\frac{k-1}{k}}\end{array}$$

---

このとき条件付き分布は

$$\begin{array}{rl}& Y_{k-1}\mid Y_k=y_k\\ & \sim \mathcal{N}((k-1)\mu +\rho \frac{{\sigma }_{Y_{k-1}}}{{\sigma }_{Y_k}}(y_k-k\mu ),(1-{\rho }^2){\sigma }_{Y_{k-1}}^2)\end{array}$$

ここに値を代入すると

• 期待値:

$$\begin{array}{rl}& (k-1)\mu +\sqrt{\frac{k-1}{k}}\cdot \frac{\sqrt{k-1}\sigma }{\sqrt{k}\sigma }(y_k-k\mu )\\ & =(k-1)\mu +\frac{k-1}{k}(y_k-k\mu )\\ & =(1-\frac{1}{k})y_k\end{array}$$

• 分散:

$$\begin{array}{rl}& (1-\frac{k-1}{k})(k-1){\sigma }^2\\ & =\frac{1}{k}(k-1){\sigma }^2\\ & =(1-\frac{1}{k}){\sigma }^2\end{array}$$

結論

$$\begin{array}{rl}& Y_{k-1}\mid Y_k=y_k\\ & \sim \mathcal{N}((1-\frac{1}{k})y_k,(1-\frac{1}{k}){\sigma }^2)\end{array}$$

[4]

方針

1. 同時確率密度関数 $f(y_1,\dots ,y_n)$ を求める
2. $f(y_1,\dots ,y_n)\to f(x_1,\dots ,x_n)$ の変数変換を考える

連鎖率の計算

与えられた式

$$\{\prod _{k=2}^n{f}_{k-1}(y_{k-1}|y_k)\}\times g_n(y_n)$$

さて、この式はどのような関数になるだろうか. まず考えたいのが条件付き確率の連鎖率の形である.

条件付き確率密度関数の連鎖率

一般に条件付き確率密度関数は

$$f(y_1,\dots ,y_n)=f(y_1\mid y_2,\dots ,y_n)f(y_2,\dots ,y_n)$$

であり，さらに

$$\begin{array}{rl}f(y_2,\dots ,y_n)& =f(y_2\mid y_3,\dots ,y_n)f(y_3,\dots ,y_n)\\ & ⋮\\ f(y_{n-1},y_n)& =f(y_{n-1}\mid y_n)f(y_n)\end{array}$$

これを繰り返すと

$$\begin{array}{rl}& f(y_1,\dots ,y_n)\\ & =\{\prod _{k=2}^{n}f(y_{k-1}\mid y_k,\dots ,y_n)\}\times f(y_n)\end{array}$$

となる.

例

本問の場合，連鎖率の総乗部分がどうなるかを確認する．
例として $n=3$ を見る：

$$\begin{array}{rl}{Y}_1& =X_1\\ Y_2& =Y_1+X_2\\ Y_3& =Y_2+X_3\end{array}$$

すなわち，条件として $Y_2,Y_3$ が与えられたときの $Y_1$ は，$Y_3$ からは増分 $X_3=Y_3-Y_2$ の情報しか得られない．
しかし $X_1$ と $X_3$ は独立なので，$Y_3$ を追加条件に入れても $Y_1$ の条件付き分布は変わらない．
したがって,

$$f(y_1|y_2,y_3)=f(y_1|y_2)$$

まとめ

一般の $k$ に対しても

$$f(y_{k-1}\mid y_k,\dots ,y_n)=f(y_{k-1}\mid y_k)$$

が成り立つ．

したがって与式は,

$$\{\prod _{k=2}^n{f}_{k-1}(y_{k-1}|y_k)\}\times g_n(y_n)=f(y_1,\dots ,y_n)$$

変数変換

方針

$(y_1,\dots ,y_n)\to (x_1,\dots ,x_n)$ の変数変換ではヤコビアン $|J|$ を用いて

$$f(y_1,\dots ,y_n)=f(x_1,\dots ,x_n)|J|$$

ここで逆変換は,

$$\begin{array}{rl}& Y_1=X_1,Y_k=Y_{k-1}+X_k(k\ge 2),\\ & X_1=Y_1,X_k=Y_k-Y_{k-1}(k\ge 2).\end{array}$$

ヤコビアン

ヤコビアン行列 $J={\displaystyle \frac{\partial (x_1,\dots ,x_n)}{\partial (y_1,\dots ,y_n)}}$ は

$$J=\left(\begin{array}{cccc}1& 0& \cdots & 0\\ -1& 1& \ddots & ⋮\\ 0& \ddots & \ddots & 0\\ 0& \cdots & -1& 1\end{array}\right)$$

$J$ は下三角行列で対角成分がすべて $1$ なので

$$detJ=1\Rightarrow |J|=1$$

ゆえに

$$f(y_1,\dots ,y_n)=f(x_1,\dots ,x_n)$$

まとめ

$$\begin{array}{rl}& \{\prod _{k=2}^n{f}_{k-1}(y_{k-1}|y_k)\}\times g_n(y_n)\\ & =f(y_1,\dots ,y_n)\\ & =f(x_1,\dots ,x_n)\\ & =f(x_1)f(x_2)\cdots f(x_n)\\ & =\prod _{i=1}^{n}f(x_i)\end{array}$$

したがって与式は $X_i$の周辺確率密度関数の積で表せる.

参考文献

日本統計学会公式認定 統計検定 1級 公式問題集[2012〜2013年]

日本統計学会

過去問2012年・2013年

Amazonで見る

増訂版 日本統計学会公式認定 統計検定１級対応 統計学

日本統計学会

統計検定1級公式教本 網羅的に記述してあるので辞書的に使うことをおすすめします

Amazonで見る 楽天で見る

新装改訂版　現代数理統計学

竹村 彰通

統計検定1級対策に定番の書籍 難易度は高めだが演習問題も豊富

Amazonで見る 楽天で見る