[2]-(a) 尤度比検定統計量: $D = 2 \sum_{i = 1}^{m} x_{i} \log \frac{x_{i}}{n θ_{i 0}}$
[2]-(b) 適合度のカイ二乗検定: $T = \sum_{i = 1}^{m} \frac{(x_{i} - n θ_{i 0})^{2}}{n θ_{i 0}}$

方針として $n$ が十分大きいとき $D \to T$ となることを目指します.

解答

[2]-(a)より尤度比検定統計量 $D$ は,

\begin{aligned} D & = 2 \sum_{i = 1}^{m} x_{i} \log \frac{x_{i}}{n θ_{i 0}} \\ = 2 \sum_{i = 1}^{m} x_{i} \log (1 + \frac{x_{i} - n θ_{i 0}}{n θ_{i 0}}) \end{aligned}

ここで $\log (1 + x)$ をマクローリン展開で二次近似すると

\begin{array}{r} \log (1 + x) \approx x - x^{2} / 2 \end{array}

となるので,これを $D$ に適用すると,

\begin{aligned} D & = 2 \sum_{i = 1}^{m} x_{i} \log (1 + \frac{x_{i} - n θ_{i 0}}{n θ_{i 0}}) \\ \approx 2 \sum_{i = 1}^{m} x_{i} {\frac{x_{i} - n θ_{i 0}}{n θ_{i 0}} - \frac{1}{2} {(\frac{x_{i} - n θ_{i 0}}{n θ_{i 0}})}^{2}} \\ = 2 \sum_{i = 1}^{m} \frac{x_{i}}{n θ_{i 0}} {x_{i} - n θ_{i 0} - \frac{1}{2} \frac{(x_{i} - n θ_{i 0})^{2}}{n θ_{i 0}}} \\ = 2 \sum_{i = 1}^{m} (1 + \frac{x_{i} - n θ_{i 0}}{n θ_{i 0}}) {x_{i} - n θ_{i 0} - \frac{1}{2} \frac{(x_{i} - n θ_{i 0})^{2}}{n θ_{i 0}}} \end{aligned}

見通しをよくするため $a_{i} = x_{i} - n θ_{i 0}$ とおくと,

\begin{aligned} D & = 2 \sum_{i = 1}^{m} (1 + \frac{a_{i}}{n θ_{i 0}}) (a_{i} - \frac{a_{i}^{2}}{2 n θ_{i 0}}) \\ = 2 \sum_{i = 1}^{m} a_{i} (1 + \frac{a_{i}}{n θ_{i 0}}) (1 - \frac{a_{i}}{2 n θ_{i 0}}) \\ = 2 \sum_{i = 1}^{m} {a_{i} + \frac{a_{i}^{2}}{2 n θ_{i 0}} - \frac{a_{i}^{3}}{2 n^{2} θ_{i 0}^{2}}} \end{aligned}

ここで $\sum_{i = 1}^{m} a_{i} = \sum_{i = 1}^{m} (x_{i} - n θ_{i 0}) = n - n = 0$ より

\begin{aligned} D & = \sum_{i = 1}^{m} (\frac{a_{i}^{2}}{n θ_{i 0}} - \frac{a_{i}^{3}}{n^{2} θ_{i 0}^{2}}) \end{aligned}

$T$ も $a_{i}$ を用いて書くと, $T = \sum_{i = 1}^{m} \frac{a_{i}^{2}}{n θ_{i 0}}$ であるから
$D$ の二項目が $n$ が十分に大きいとき無視できれば一致することがわかる.

この第二項目が無視できることを示すには 確率的オーダー(キャピタルオーダー) の考えを用います。
確率変数列 ${X_{n}}$ が

\begin{array}{r} lim_{M \to \infty} sup_{n \in N} \Pr (| X_{n} | > M) = 0 \end{array}

を満たすとき, ${X_{n}}$ は確率有界であるといい, $X_{n} = O_{p} (1) (n \to \infty)$ と書く.
また, 確率変数列 ${Y_{n}}$ に対して $X_{n} / Y_{n} = O_{p} (1) (n \to \infty)$ となるとき,

\begin{array}{r} X_{n} = O_{p} (Y_{n}), n \to \infty \end{array}

のように書いて, $X_{n}$ は $Y_{n}$ のキャピタルオーダーであるという.

$a_{i}$ が $n$ についての確率変数列であることを明確にするために $a_{i, n}$ と書く.

\begin{array}{r} E [a_{i, n}] = 0, V [a_{i, n}] = n θ_{i 0} (1 - θ_{i 0}) \end{array}

より

\begin{array}{r} E [\frac{a_{i, n}}{\sqrt{n}}] = 0, V [\frac{a_{i, n}}{\sqrt{n}}] = θ_{i 0} (1 - θ_{i 0}) \end{array}

$\frac{a_{i, n}}{\sqrt{n}}$ についてチェビシェフの不等式より

\begin{aligned} \Pr (| a_{i, n} / \sqrt{n} | \geq k \sqrt{θ_{i 0} (1 - θ_{i 0})}) & \leq \frac{1}{k^{2}} \\ \Pr (| a_{i, n} / \sqrt{n} | \geq M) & \leq \frac{θ_{i 0} (1 - θ_{i 0})}{M^{2}} \\ lim_{M \to \infty} sup_{n \in N} \Pr (| a_{i, n} / \sqrt{n} | \geq M) & \leq lim_{M \to \infty} \frac{θ_{i 0} (1 - θ_{i 0})}{M^{2}} \to 0 \end{aligned}

したがって

\begin{array}{r} lim_{M \to \infty} sup_{n \in N} \Pr (| a_{i, n} / \sqrt{n} | > M) = 0 \end{array}

より

\begin{aligned} a_{i, n} / \sqrt{n} & = O_{p} (1) \\ a_{i, n} & = O_{p} (\sqrt{n}) \end{aligned}

第一項は

\begin{array}{r} \frac{a_{i}^{2}}{n θ_{i 0}} = \frac{O_{p} (n)}{n θ_{i 0}} = O_{p} (1) \end{array}

第二項は

\begin{aligned} \frac{a_{i}^{3}}{n^{2} θ_{i 0}^{2}} & = \frac{O_{p} (n \sqrt{n})}{n^{2} θ_{i 0}^{2}} \\ = O_{p} (\frac{\sqrt{n}}{n}) \\ = O_{p} (\frac{1}{\sqrt{n}}) \\ \to 0 (n \to \infty) \end{aligned}

2013年統計数理問5

[1] 尤度関数