Math Labs

Xác suất và Thống kê

Kiểm định giả thuyết

Một quy trình dùng dữ liệu mẫu để quyết định có bác bỏ một giả thuyết về tổng thể hay không.

Trực giácTrực giác: bằng chứng này có thuyết phục không?

Giả sử một đồng xu được tung 2020 lần và ra mặt sấp 1616 lần. Nếu đồng xu hoàn toàn cân đối, việc ra 1616 mặt sấp trở lên trong 2020 lần là khá hiếm — điều này chỉ xảy ra khoảng 0.6%0.6\% số lần do ngẫu nhiên. Sự hiếm gặp đó chính là ý tưởng cốt lõi của kiểm định giả thuyết: bắt đầu bằng việc giả định một khẳng định mặc định (ở đây, "đồng xu cân đối"), rồi hỏi dữ liệu quan sát được sẽ đáng ngạc nhiên đến mức nào nếu khẳng định đó đúng. Nếu dữ liệu sẽ rất đáng ngạc nhiên, đó là bằng chứng chống lại khẳng định; nếu không, dữ liệu chỉ đơn giản phù hợp với nó và không có lý do gì để nghi ngờ.

Xác suất nhị thức của số lần ngửa trong 20 lần tung đồng xu công bằng, với kết quả quan sát 16 nằm ở đuôi trên.
Theo giả thuyết không đồng xu công bằng, số lần ngửa trong 2020 lần tung có phân phối Bin(20,0.5)\mathrm{Bin}(20,0.5). Kết quả quan sát 1616 lần ngửa nằm trong đuôi trên nhỏ (xấp xỉ 0.59%0.59\% một phía), gợi ý cần kiểm định nhưng đây không phải đồ thị kiểm định z bên dưới.
Mật độ chuẩn tắc dùng trong kiểm định z hai phía: vùng chấp nhận ở giữa được tô xanh, hai vạch đỏ đánh dấu ngưỡng tới hạn.
Kiểm định zz hai phía trên N(0,1)\mathcal{N}(0,1): hai vạch đỏ đánh dấu ngưỡng tới hạn ±zα/2\pm z_{\alpha/2}; giá trị quan sát rơi ra ngoài miền chấp nhận màu xanh sẽ bác bỏ H0H_0.

Phổ thôngGiả thuyết, sai lầm, và giá trị p

Định nghĩa: Giả thuyết không và giả thuyết đối

Giả thuyết không H0H_0 là khẳng định mặc định đang được kiểm định (chẳng hạn H0:μ=μ0H_0: \mu = \mu_0), còn giả thuyết đối H1H_1 là khẳng định được chấp nhận nếu H0H_0 bị bác bỏ (chẳng hạn H1:μ≠μ0H_1: \mu \neq \mu_0). Một thống kê kiểm định được tính từ mẫu, và phép kiểm định bác bỏ H0H_0 khi thống kê đó rơi vào một miền bác bỏ định trước, được chọn sao cho việc bác bỏ một H0H_0 đúng chỉ xảy ra hiếm khi.

Có hai loại sai lầm có thể xảy ra. Sai lầm loại I bác bỏ H0H_0 khi H0H_0 thực ra đúng (báo động giả); xác suất của nó gọi là mức ý nghĩa α=P(reject H0∣H0 true)\alpha = P(\text{reject } H_0 \mid H_0 \text{ true}), và được ấn định trước, thường là α=0.05\alpha = 0.05. Sai lầm loại II không bác bỏ H0H_0 khi H1H_1 thực ra đúng (bỏ sót); xác suất của nó là β=P(fail to reject H0∣H1 true)\beta = P(\text{fail to reject } H_0 \mid H_1 \text{ true}), và 1−β1 - \beta gọi là lực kiểm định.

Bốn kết cục của một phép kiểm định giả thuyết
Quyết địnhH0H_0 thực sự đúngH0H_0 thực sự sai
Bác bỏ H0H_0Sai lầm loại I (xác suất α\alpha)Quyết định đúng (lực 1−β1 - \beta)
Không bác bỏ H0H_0Quyết định đúng (xác suất 1−α1 - \alpha)Sai lầm loại II (xác suất β\beta)
Z=Xˉ−μ0σ/nZ = \frac{\bar{X} - \mu_0}{\sigma / \sqrt{n}}

Đây là thống kê z mẫu đơn dùng để kiểm định H0:μ=μ0H_0: \mu = \mu_0 khi độ lệch chuẩn tổng thể σ\sigma đã biết: Xˉ\bar{X} là trung bình mẫu, nn là cỡ mẫu, và σ/n\sigma / \sqrt{n} là sai số chuẩn của trung bình. Với giả thiết H0H_0, và giả sử tổng thể phân phối chuẩn (hoặc nn đủ lớn để định lý giới hạn trung tâm áp dụng), ZZ tuân theo phân phối chuẩn tắc.

p=2 P(Z≥∣zobs∣∣H0)p = 2 \, P(Z \geq |z_{\text{obs}}| \mid H_0)

Ở đây zobsz_{\text{obs}} là giá trị quan sát được của thống kê kiểm định, tính từ mẫu thực tế, và công thức này cho giá trị p hai phía: xác suất, giả sử H0H_0 đúng, quan sát được một thống kê kiểm định cực đoan ít nhất bằng zobsz_{\text{obs}} theo cả hai hướng. Quy tắc quyết định đơn giản: bác bỏ H0H_0 nếu p≤αp \leq \alpha, và không bác bỏ H0H_0 trong trường hợp còn lại; giá trị p càng nhỏ là bằng chứng càng mạnh chống lại H0H_0.

Đại họcBổ đề Neyman–Pearson và kiểm định z

Xét kiểm định giả thuyết không đơn giản H0:θ=θ0H_0: \theta = \theta_0 đối lại giả thuyết đối đơn giản H1:θ=θ1H_1: \theta = \theta_1, dựa trên dữ liệu với hàm hợp lý L(θ)L(\theta). Cho k≥0k \geq 0 là một hằng số và CC là miền bác bỏ C={x:L(θ1)>k L(θ0)}C = \{x : L(\theta_1) > k \, L(\theta_0)\}, chọn sao cho P(C∣H0)=αP(C \mid H_0) = \alpha. Khi đó trong số mọi phép kiểm định có mức ý nghĩa không vượt quá α\alpha, phép kiểm định với miền bác bỏ CC có lực lớn nhất tại θ1\theta_1.

Vì sao đúng?

Bác bỏ khi tỉ số hợp lý L(θ1)/L(θ0)L(\theta_1)/L(\theta_0) lớn nghĩa là bác bỏ đúng trên những kết cục tương đối phù hợp nhất với θ1\theta_1 so với θ0\theta_0; dùng "ngân sách" cố định α\alpha của rủi ro dương tính giả vào những kết cục đó, thay vì bất kỳ kết cục nào khác, mua được lượng lực phát hiện dương tính thật lớn nhất có thể.

Chứng minh

Bước 1 (thiết lập một phép kiểm định cạnh tranh bất kỳ): cho CC là miền bác bỏ theo tỉ số hợp lý trong phát biểu, với hàm chỉ báo ϕC\phi_C, và cho DD là miền bác bỏ của bất kỳ phép kiểm định nào khác với P(D∣H0)≤αP(D \mid H_0) \leq \alpha, với hàm chỉ báo ϕD\phi_D. Ta cần chỉ ra lực tại θ1\theta_1 thỏa P(C∣H1)≥P(D∣H1)P(C \mid H_1) \geq P(D \mid H_1).

Bước 2 (một bất đẳng thức điểm-theo-điểm then chốt): với mọi kết cục xx, đại lượng (ϕC(x)−ϕD(x))⋅(L(θ1)−k L(θ0))(\phi_C(x) - \phi_D(x)) \cdot (L(\theta_1) - k \, L(\theta_0)) không bao giờ âm. Thật vậy, nếu x∈Cx \in C thì L(θ1)>k L(θ0)L(\theta_1) > k \, L(\theta_0) và ϕC(x)−ϕD(x)≥0\phi_C(x) - \phi_D(x) \geq 0 vì ϕC(x)=1\phi_C(x) = 1; nếu x∉Cx \notin C thì L(θ1)≤k L(θ0)L(\theta_1) \leq k \, L(\theta_0) và ϕC(x)−ϕD(x)≤0\phi_C(x) - \phi_D(x) \leq 0 vì ϕC(x)=0\phi_C(x) = 0; trong cả hai trường hợp tích của hai thừa số là ≥0\geq 0.

Bước 3 (lấy tổng bất đẳng thức): cộng (hay lấy tích phân) đại lượng không âm này trên mọi kết cục xx cho ∑x(ϕC(x)−ϕD(x)) L(θ1)−k∑x(ϕC(x)−ϕD(x)) L(θ0)≥0\sum_x (\phi_C(x) - \phi_D(x)) \, L(\theta_1) - k \sum_x (\phi_C(x) - \phi_D(x)) \, L(\theta_0) \geq 0, viết lại thành (P(C∣H1)−P(D∣H1))−k(P(C∣H0)−P(D∣H0))≥0\big(P(C \mid H_1) - P(D \mid H_1)\big) - k \big(P(C \mid H_0) - P(D \mid H_0)\big) \geq 0.

Bước 4 (dùng các mức ý nghĩa để kết luận): theo cách dựng P(C∣H0)=αP(C \mid H_0) = \alpha, và theo giả thiết P(D∣H0)≤αP(D \mid H_0) \leq \alpha, nên P(C∣H0)−P(D∣H0)≥0P(C \mid H_0) - P(D \mid H_0) \geq 0; vì k≥0k \geq 0, trừ đi kk lần một đại lượng không âm ở dấu ngoặc đầu của Bước 3 chỉ làm bất đẳng thức mạnh thêm P(C∣H1)−P(D∣H1)≥k(P(C∣H0)−P(D∣H0))≥0P(C \mid H_1) - P(D \mid H_1) \geq k \big(P(C \mid H_0) - P(D \mid H_0)\big) \geq 0, nên P(C∣H1)≥P(D∣H1)P(C \mid H_1) \geq P(D \mid H_1), như cần chứng minh.

Cho X1,…,XnX_1, \ldots, X_n độc lập, cùng phân phối N(μ0,σ2)N(\mu_0, \sigma^2) với σ\sigma đã biết, và Z=Xˉ−μ0σ/nZ = \frac{\bar{X} - \mu_0}{\sigma / \sqrt{n}}. Cho zα/2z_{\alpha/2} là giá trị thỏa P(Z>zα/2)=α/2P(Z > z_{\alpha/2}) = \alpha/2 đối với phân phối chuẩn tắc. Khi đó phép kiểm định bác bỏ H0:μ=μ0H_0: \mu = \mu_0 khi ∣Z∣>zα/2|Z| > z_{\alpha/2} thỏa P(reject H0∣H0)=αP(\text{reject } H_0 \mid H_0) = \alpha chính xác.

Vì sao đúng?

Miền bác bỏ được dựng trực tiếp từ phân phối chính xác của ZZ khi H0H_0 đúng, nên xác suất của nó khi H0H_0 đúng có thể tính chính xác thay vì chỉ chặn trên, cho một phép kiểm định mà tỉ lệ dương tính giả được kiểm soát chính xác ở mức α\alpha đã chọn, chứ không chỉ gần đúng.

Chứng minh

Bước 1 (phân phối của ZZ khi H0H_0 đúng): vì X1,…,XnX_1, \ldots, X_n độc lập cùng phân phối N(μ0,σ2)N(\mu_0, \sigma^2), trung bình mẫu Xˉ\bar{X} có phân phối N(μ0,σ2/n)N(\mu_0, \sigma^2/n), nên chuẩn hóa cho Z=Xˉ−μ0σ/n∼N(0,1)Z = \frac{\bar{X} - \mu_0}{\sigma/\sqrt{n}} \sim N(0, 1) chính xác.

Bước 2 (xác suất của biến cố bác bỏ): biến cố bác bỏ là ∣Z∣>zα/2|Z| > z_{\alpha/2}, chia thành hai biến cố rời nhau Z>zα/2Z > z_{\alpha/2} và Z<−zα/2Z < -z_{\alpha/2}, nên P(∣Z∣>zα/2)=P(Z>zα/2)+P(Z<−zα/2)P(|Z| > z_{\alpha/2}) = P(Z > z_{\alpha/2}) + P(Z < -z_{\alpha/2}).

Bước 3 (dùng tính đối xứng của phân phối chuẩn tắc): mật độ chuẩn tắc đối xứng qua 00, nên P(Z<−zα/2)=P(Z>zα/2)P(Z < -z_{\alpha/2}) = P(Z > z_{\alpha/2}); theo định nghĩa của zα/2z_{\alpha/2}, mỗi xác suất này bằng α/2\alpha/2.

Bước 4 (cộng hai phần): thay vào Bước 2, P(∣Z∣>zα/2)=α/2+α/2=αP(|Z| > z_{\alpha/2}) = \alpha/2 + \alpha/2 = \alpha, và vì xác suất này được tính chính xác khi H0H_0 đúng (dùng Bước 1), P(reject H0∣H0)=αP(\text{reject } H_0 \mid H_0) = \alpha chính xác, như đã phát biểu.

Đại họcỨng dụng thực tiễn và Ví dụ minh họa

Kiểm định giả thuyết là nền tảng của thử nghiệm lâm sàng (quyết định một loại thuốc mới có tốt hơn giả dược không), thử nghiệm A/B trong phần mềm và tiếp thị (quyết định một thiết kế mới có tăng tỉ lệ chuyển đổi không), kiểm soát chất lượng (quyết định một dây chuyền sản xuất có lệch khỏi tiêu chuẩn không), và các ngưỡng phát hiện dùng trong vật lý (quyết định một tín hiệu thực nghiệm có nhiều hơn nhiễu không). Hai ví dụ dưới đây thực hiện đầy đủ một kiểm định z, bao gồm tính thống kê kiểm định, giá trị p, và quyết định cuối cùng.

Ví dụ: Kiểm định thể tích trung bình của máy đóng chai

Một máy đóng chai được cho là đóng chai với thể tích trung bình μ0=500\mu_0 = 500 ml, và số liệu lịch sử lâu dài cho thấy thể tích có độ lệch chuẩn σ=10\sigma = 10 ml. Một mẫu n=25n = 25 chai có trung bình mẫu xˉ=495\bar{x} = 495 ml. Kiểm định H0:μ=500H_0: \mu = 500 đối lại H1:μ≠500H_1: \mu \neq 500 với mức ý nghĩa α=0.05\alpha = 0.05.

Lời giải

Bước 1: tính sai số chuẩn, σ/n=10/25=10/5=2\sigma / \sqrt{n} = 10 / \sqrt{25} = 10 / 5 = 2.

Bước 2: tính thống kê kiểm định, Z=xˉ−μ0σ/n=495−5002=−52=−2.5Z = \frac{\bar{x} - \mu_0}{\sigma / \sqrt{n}} = \frac{495 - 500}{2} = \frac{-5}{2} = -2.5.

Bước 3: tính giá trị p hai phía, p=2 P(Z≥2.5)≈2×0.0062=0.0124p = 2 \, P(Z \geq 2.5) \approx 2 \times 0.0062 = 0.0124, dùng phân phối chuẩn tắc.

Bước 4: so sánh p=0.0124p = 0.0124 với α=0.05\alpha = 0.05; vì p<αp < \alpha, bác bỏ H0H_0. Có bằng chứng có ý nghĩa rằng thể tích trung bình của máy khác 500500 ml.

Ví dụ: Kiểm định một phía cho đồng xu bị lệch

Một đồng xu được tung n=100n = 100 lần và ra mặt sấp 6262 lần. Kiểm định H0:p=0.5H_0: p = 0.5 đối lại giả thuyết đối một phía H1:p>0.5H_1: p > 0.5 với mức ý nghĩa α=0.05\alpha = 0.05, dùng xấp xỉ chuẩn với sai số chuẩn p0(1−p0)/n\sqrt{p_0 (1 - p_0) / n} khi H0H_0 đúng.

Lời giải

Bước 1: tỉ lệ mẫu là p^=62/100=0.62\hat{p} = 62/100 = 0.62, và khi H0H_0 đúng, sai số chuẩn là p0(1−p0)/n=0.5×0.5/100=0.0025=0.05\sqrt{p_0 (1 - p_0) / n} = \sqrt{0.5 \times 0.5 / 100} = \sqrt{0.0025} = 0.05.

Bước 2: tính thống kê kiểm định, Z=p^−p0p0(1−p0)/n=0.62−0.50.05=0.120.05=2.4Z = \frac{\hat{p} - p_0}{\sqrt{p_0 (1 - p_0) / n}} = \frac{0.62 - 0.5}{0.05} = \frac{0.12}{0.05} = 2.4.

Bước 3: vì giả thuyết đối là một phía (H1:p>0.5H_1: p > 0.5), giá trị p là p=P(Z≥2.4)≈0.0082p = P(Z \geq 2.4) \approx 0.0082, chỉ dùng đuôi trên của phân phối chuẩn tắc thay vì cả hai đuôi.

Bước 4: vì p≈0.0082<α=0.05p \approx 0.0082 < \alpha = 0.05, bác bỏ H0H_0. Có bằng chứng có ý nghĩa rằng đồng xu lệch về phía mặt sấp.

Một mẫu n=16n = 16 có trung bình xˉ=52\bar{x} = 52, và tổng thể được biết có μ0=50\mu_0 = 50 và σ=8\sigma = 8. Tính thống kê z, Z=xˉ−μ0σ/nZ = \frac{\bar{x} - \mu_0}{\sigma / \sqrt{n}}.

Trong một phép kiểm định giả thuyết, sai lầm loại I xảy ra khi:

Một phép kiểm định được thực hiện ở mức ý nghĩa α=0.05\alpha = 0.05 và cho giá trị p bằng 0.030.03. Kết luận đúng là gì?

Theo bổ đề Neyman–Pearson, để kiểm định H0:θ=θ0H_0: \theta = \theta_0 đơn giản đối lại H1:θ=θ1H_1: \theta = \theta_1 đơn giản ở một mức ý nghĩa α\alpha cố định, phép kiểm định nào có lực lớn nhất?