推定

平均を取ることで系統的な偏りが取り除かれる:多数の仮想的な標本にわたって平均すると、$\bar X$ は真の母平均 $\mu$ にちょうど一致し、系統的に高すぎたり低すぎたりすることはない。

定義より $\bar X = \frac{1}{n}\sum_{i=1}^{n} X_i$ である。期待値は線形作用素なので、和と定数係数 $\frac{1}{n}$ の上に分配できる:$E[\bar X] = \frac{1}{n}\sum_{i=1}^{n} E[X_i]$。

各 $X_i$ は同じ母集団から得られるため、$n$ 個の項それぞれについて $E[X_i] = \mu$ となり、和は $\frac{1}{n}\sum_{i=1}^{n} \mu = \frac{1}{n}(n\mu) = \mu$ に帰着する。

したがって、任意の標本サイズ $n$ に対して $E[\bar X] = \mu$ となる:標本が小さくても大きくても標本平均は不偏である。これは標本分布の中心についての主張にすぎない -- その広がり、すなわち $\operatorname{Var}(\bar X) = \sigma^2/n$ は $n$ が大きくなるにつれて依然として狭まっていき、それが以下の信頼区間で使われる。

中心極限定理によれば、$n$ が大きくなると標準化された標本平均は標準正規変数のように振る舞うため、正規分布の分位点 $z_{\alpha/2}$ を使って、元の母集団の形に関わらず既知の長期的成功率で $\mu$ を挟み込むことができる。

中心極限定理により、$\frac{\bar X - \mu}{\sigma/\sqrt n}$ は $n$$\to\infty$ のとき分布収束で $N(0,1)$ に近づく。よって $n$ が大きいとき、$-z_{\alpha/2} \le \frac{\bar X - \mu}{\sigma/\sqrt n} \le z_{\alpha/2}$ が確率およそ $1-\alpha$ で成り立つ。ここで $z_{\alpha/2}$ は $N(0,1)$ の各裾に確率 $\alpha/2$ を残す値である。

不等式の三辺すべてに $\frac{\sigma}{\sqrt n}$$>0$ を掛ける(不等号の向きは変わらない):$-z_{\alpha/2}\frac{\sigma}{\sqrt n} \le \bar X - \mu \le z_{\alpha/2}\frac{\sigma}{\sqrt n}$。

$\bar X$ をすべての辺から引き、$-1$ を掛ける(不等号の向きが反転する):$\bar X - z_{\alpha/2}\frac{\sigma}{\sqrt n} \le \mu \le \bar X + z_{\alpha/2}\frac{\sigma}{\sqrt n}$。これはまさに信頼区間の式である:元の確率の主張が確率およそ $1-\alpha$ で成り立っていたので、並べ替えたこの区間も同じ確率で $\mu$ を含む。