順序統計量
順序統計量
分布$F$に従う独立同分布な確率変数$X_1, X_2, \cdots, X_n$があるとする。
これらを値の小さいものから順に並べ、$i$番目のものを$X_{(i)}$と書くことにする。すなわち、
\begin{align} X_{(1)} \leq X_{(2)} \leq \cdots \leq X_{(n)} \end{align}
である。この時、$X_{(i)}$を第$i$順序統計量という。
$X_{(i)}$の密度関数
分布$F$が密度関数$f$を持つような場合を考え、第$i$順序統計量$X_{(i)}$の密度関数を求めてみよう。
$X_{(i)}$の累積分布関数を求め、微分すれば密度関数を求めることができる。
ここで、以下のような集合（事象）
\begin{align} B_j \left( x \right)= \left\{ X_1, X_2, \cdots, X_n \text{のうち}j\text{個が} x \text{以下} \right\} \end{align}
を考えると、$X_{(i)}$の累積分布関数は
\begin{align} F_{X_{(i)}}(x) = P \left( X_{(i)} \leq x \right) = \sum_{j=i}^{n} P \left( B_j \right) \end{align}
と書くことができる（累積分布関数、順序統計量の定義より、$X_1, X_2, \cdots, X_n$のうち与えられた$x$以下の値となるものが$i$個以上である確率を求めれば良いことからわかる）。
ここで、各$X_i$は分布$F$に従うので、累積分布関数の定義により
\begin{align} X_i \leq x \text{となる確率} & \Longrightarrow F(x) \\\ X_i \gt x \text{となる確率} & \Longrightarrow \text{確率} 1 - F (x) \end{align}
である。すなわち、事象$B_j$が起こる確率は、自由度$n$で成功確率$p = F (x)$の2項分布に従う確率変数が値$j$をとる確率に等しい。すなわち、
\begin{align} P \left( B_j \right) = \binom{n}{j} \left( F (x) \right)^{j} \left( 1 - F (x) \right)^{n-j} \end{align}
である。あとはこれを$x$で微分すれば求めたい密度関数が出てくる。
計算の前に少し準備をする。
$Y ~ Bin(m, p)$として、確率変数$Y$の確率関数を
\begin{align} P \left( Y = j \right) := p (j, m) \end{align}
と書くことにする。この時、2項分布の確率関数を成功確率$p$で微分すると、
\begin{align} \frac{d}{dp} \binom{n}{j} p^{j} \left( 1 - p \right)^{n-j} & = \frac{n!}{(j-1)!(n-j)!} p^{j-1} \left( 1 - p \right)^{n-j} - \frac{n!}{j! \left( n-j-1 \right) !} p^{j} \left( 1- p \right)^{n-j-1} \\\ &= n \left( p(j-1, n-1) - p(j, n-1) \right) \end{align}
とかける。以上より、合成関数の微分をすると、
\begin{align} f_{X_{(i)}} (x) &= \frac{d}{dx} F_{X_{(i)}} (x) \\\ &= \frac{d F(x)}{dx} \sum_{j=i}^{n} n \left( p(j-1, n-1) - p(j, n-1) \right) \\\ &= n f(x) p (i-1, n-1) \\\ &= n f(x) \binom{n-1}{i-1} \left( F(x) \right)^{i-1} \left( 1 - F (x) \right)^{n-i} \\\ &= \frac{n!}{(i-1)!(n-i)!} f(x) \left( F(x) \right)^{i-1} \left( 1 - F (x) \right)^{n-i} \end{align}
と求めることができた。
第$n$順序統計量の密度関数
第$n$順序統計量は$i=n$の場合に当たるので、
\begin{align} P \left( X_{(n)} \leq x \right) &= {F(x)}^{n} \\\ f_{X_{(i)}} (x) &= n f (x) \left( F (x) \right)^{n-1} \end{align}
第1順序統計量の密度関数
第1順序統計量は$i=1$の場合に当たるので、
\begin{align} P \left( X_{(1)} \leq x \right) &= 1 - \left( 1 - F(x) \right)^{n} \\\ f_{X_{(1)}} (x) &= n f(x) \left( 1 - F(x) \right)^{n-1} \end{align}
