Lớp 12

Xác suất có điều kiện, Bayes

Cách xác suất của một biến cố thay đổi khi biết một biến cố khác đã xảy ra.

Trực giácTrực giác: thông tin mới làm thay đổi khả năng xảy ra

Gieo hai con xúc xắc sáu mặt cân đối và gọi $A$ là biến cố tổng hai con xúc xắc bằng $8$ , khi đó bình thường $P(A) = \frac{5}{36}$ , vì đúng năm cặp $(2,6), (3,5), (4,4), (5,3), (6,2)$ trong số $36$ cặp đồng khả năng cho tổng đó. Bây giờ giả sử có người nhìn trộm con xúc xắc thứ nhất và cho biết nó ra mặt $5$ ; gọi đây là biến cố $B$ . Biết $B$ thu hẹp không gian mẫu từ toàn bộ $36$ cặp xuống chỉ còn $6$ cặp có con xúc xắc thứ nhất ra $5$ , và trong số $6$ cặp đó chỉ có $(5,3)$ có tổng bằng $8$ . Thông tin thêm này làm xác suất của $A$ thay đổi từ $\frac{5}{36}$ thành $\frac{1}{6}$ — giá trị đã cập nhật này, viết là $P(A \mid B)$ , được gọi là xác suất có điều kiện của $A$ khi biết $B$ .

Một cây xác suất cho một phép thử hai giai đoạn: nhánh đầu tiên chia không gian mẫu theo điều kiện nào xảy ra (chẳng hạn chọn hũ nào hay bệnh nhân có bệnh hay không), và mỗi nhánh ở tầng thứ hai được gán một xác suất có điều kiện như

P(A \mid B)

. Nhân theo một đường đi cho

P(A \cap B)

, và cộng trên mọi đường đi kết thúc ở

A

cho xác suất toàn phần

P(A)

Phổ thôngĐịnh nghĩa xác suất có điều kiện

Định nghĩa: Xác suất có điều kiện

Với hai biến cố $A$ và $B$ trong cùng một không gian mẫu, với $P(B) > 0$ , xác suất có điều kiện của $A$ khi biết $B$ là $P(A \mid B) = \frac{P(A \cap B)}{P(B)}$ . Về mặt trực giác, một khi ta biết $B$ đã xảy ra, không gian mẫu bị thu hẹp lại thành $B$ , và $P(A \mid B)$ đo tỉ lệ phần không gian thu hẹp đó cũng thuộc $A$ .

P(A \mid B) = \frac{P(A \cap B)}{P(B)}

Ở đây $P(A \cap B)$ là xác suất cả $A$ và $B$ cùng xảy ra, còn $P(B)$ là xác suất của biến cố điều kiện, phải dương vì chia cho $P(B) = 0$ là không xác định. Biến đổi định nghĩa cho quy tắc nhân $P(A \cap B) = P(B) \cdot P(A \mid B)$ , và theo đối xứng cũng có $P(A \cap B) = P(A) \cdot P(B \mid A)$ khi $P(A) > 0$ ; quy tắc này mở rộng tự nhiên cho dãy nhiều biến cố.

P(A \cap B) = P(B) \cdot P(A \mid B) = P(A) \cdot P(B \mid A)

Một trường hợp đặc biệt đáng đặt tên là độc lập: $A$ và $B$ độc lập đúng khi biết $B$ không cho thêm thông tin gì về $A$ , tức là $P(A \mid B) = P(A)$ , điều này tương đương với $P(A \cap B) = P(A) \cdot P(B)$ . Khi $A$ và $B$ không độc lập, hai xác suất có điều kiện $P(A \mid B)$ và $P(B \mid A)$ nói chung là hai số khác nhau, và nhầm lẫn chúng là một trong những lỗi phổ biến nhất trong xác suất.

Xác suất có điều kiện trong các trường hợp đặc biệt
Mối quan hệ giữa $A$ và $B$	Giá trị của $P(A \mid B)$	Lý do
Độc lập	$P(A \mid B) = P(A)$	$B$ không mang thông tin nào về $A$
$A$ kéo theo $B$ (tức $A \subseteq B$ )	$P(A \mid B) = \frac{P(A)}{P(B)}$	Vì $A \cap B = A$
$A$ và $B$ xung khắc	$P(A \mid B) = 0$	Vì $A \cap B = \varnothing$

Đại họcĐịnh lý xác suất toàn phần và định lý Bayes

Định lý: Định lý xác suất toàn phần

Cho $B_1, B_2, \ldots, B_n$ là một phân hoạch của không gian mẫu $\Omega$ , nghĩa là $B_i \cap B_j = \varnothing$ với $i \neq j$ , $B_1 \cup B_2 \cup \cdots \cup B_n = \Omega$ , và $P(B_i) > 0$ với mọi $i$ . Khi đó với mọi biến cố $A$ , $P(A) = \sum_{i=1}^{n} P(B_i) \cdot P(A \mid B_i)$ .

Vì sao đúng?

Vì các $B_i$ phân hoạch $\Omega$ , biến cố $A$ tự động bị chia thành $n$ phần rời nhau, mỗi phần nằm trong một $B_i$ ; cộng xác suất của từng phần, biểu diễn qua quy tắc nhân, khôi phục toàn bộ $P(A)$ mà không đếm trùng hay bỏ sót gì.

Chứng minh

Bước 1 (phân hoạch $A$ theo các $B_i$ ): đặt $A_i = A \cap B_i$ với mỗi $i = 1, \ldots, n$ . Vì các $B_i$ rời nhau đôi một, nên các $A_i$ cũng rời nhau, và vì $B_1 \cup \cdots \cup B_n = \Omega \supseteq A$ , mỗi kết cục của $A$ nằm trong đúng một $A_i$ , nên $A = A_1 \cup A_2 \cup \cdots \cup A_n$ với hợp rời nhau.

Bước 2 (cộng xác suất các phần rời nhau): vì xác suất có tính cộng trên các biến cố rời nhau đôi một, $P(A) = P(A_1) + P(A_2) + \cdots + P(A_n) = \sum_{i=1}^{n} P(A \cap B_i)$ .

Bước 3 (viết lại mỗi số hạng bằng quy tắc nhân): với mỗi $i$ , quy tắc nhân cho $P(A \cap B_i) = P(B_i) \cdot P(A \mid B_i)$ , biểu thức này xác định tốt vì $P(B_i) > 0$ .

Bước 4 (thay ngược lại): thay mỗi $P(A \cap B_i)$ ở Bước 2 bằng $P(B_i) \cdot P(A \mid B_i)$ cho đúng $P(A) = \sum_{i=1}^{n} P(B_i) \cdot P(A \mid B_i)$ , như đã phát biểu.

Định lý: Định lý Bayes

Cho $B_1, B_2, \ldots, B_n$ là một phân hoạch của $\Omega$ với $P(B_i) > 0$ với mọi $i$ , và $A$ là một biến cố với $P(A) > 0$ . Khi đó với mỗi $i$ , $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{\sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)}$ .

Vì sao đúng?

Định lý Bayes đảo ngược chiều của điều kiện hóa: nó xuất phát từ việc bằng chứng $A$ có khả năng xảy ra ra sao dưới mỗi giả thuyết $B_i$ (thường dễ biết hoặc dễ đo), rồi trả về mỗi giả thuyết có khả năng đúng ra sao một khi bằng chứng $A$ đã thực sự được quan sát (thường là điều ta thực sự muốn biết), bằng cách gán lại trọng số cho mỗi xác suất tiên nghiệm $P(B_i)$ theo mức độ nó giải thích tốt $A$ đến đâu.

Chứng minh

Bước 1 (viết $P(B_i \cap A)$ theo hai cách): áp dụng quy tắc nhân theo cả hai chiều, $P(B_i \cap A) = P(B_i) \cdot P(A \mid B_i)$ và cũng $P(B_i \cap A) = P(A) \cdot P(B_i \mid A)$ , vì $P(A) > 0$ .

Bước 2 (cho hai biểu thức bằng nhau và giải): cho hai biểu thức của $P(B_i \cap A)$ bằng nhau, ta có $P(A) \cdot P(B_i \mid A) = P(B_i) \cdot P(A \mid B_i)$ , chia cả hai vế cho $P(A)$ được $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{P(A)}$ .

Bước 3 (khai triển mẫu số bằng định lý xác suất toàn phần): vì $B_1, \ldots, B_n$ phân hoạch $\Omega$ , định lý xác suất toàn phần cho $P(A) = \sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)$ .

Bước 4 (thay vào để hoàn tất): thay $P(A)$ ở Bước 2 bằng tổng này cho đúng $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{\sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)}$ , chính là định lý Bayes.

Đại họcỨng dụng thực tiễn và Ví dụ minh họa

Định lý Bayes là cốt lõi toán học của chẩn đoán y khoa (cập nhật khả năng mắc bệnh sau một kết quả xét nghiệm), lọc thư rác (cập nhật khả năng một email là thư rác sau khi thấy các từ trong đó), lập luận pháp lý (cập nhật khả năng có tội sau bằng chứng mới), và các bộ phân loại học máy (cập nhật khả năng của một nhãn sau khi quan sát các đặc trưng). Hai ví dụ dưới đây áp dụng định lý xác suất toàn phần và định lý Bayes với các con số cụ thể, bao gồm nghịch lý cổ điển về dương tính giả trong xét nghiệm y khoa.

Ví dụ: Quả bóng được rút từ hũ nào?

Có hai hũ. Hũ I có $3$ quả bóng đỏ và $7$ quả bóng xanh; hũ II có $6$ quả bóng đỏ và $4$ quả bóng xanh. Một hũ được chọn ngẫu nhiên với $P(\text{Urn I}) = 0.4$ và $P(\text{Urn II}) = 0.6$ , sau đó rút một quả bóng từ hũ đã chọn. Quả bóng rút ra là màu đỏ. Tìm xác suất nó được rút từ hũ I.

Lời giải

Bước 1: gọi $R$ là biến cố quả bóng rút ra màu đỏ. Trong hũ I, $P(R \mid \text{Urn I}) = \frac{3}{10}$ , và trong hũ II, $P(R \mid \text{Urn II}) = \frac{6}{10}$ .

Bước 2: vì hũ I và hũ II phân hoạch việc chọn hũ, định lý xác suất toàn phần cho $P(R) = P(\text{Urn I}) \cdot P(R \mid \text{Urn I}) + P(\text{Urn II}) \cdot P(R \mid \text{Urn II}) = 0.4 \cdot 0.3 + 0.6 \cdot 0.6 = 0.12 + 0.36 = 0.48$ .

Bước 3: định lý Bayes cho $P(\text{Urn I} \mid R) = \frac{P(\text{Urn I}) \cdot P(R \mid \text{Urn I})}{P(R)} = \frac{0.12}{0.48} = \frac{1}{4}$ , nên dù hũ I được chọn ít hơn, thấy màu đỏ vẫn chỉ để lại $25\%$ khả năng nó từ hũ I, vì hũ II cho ra bóng đỏ đáng tin cậy gấp đôi.

Ví dụ: Nghịch lý dương tính giả trong xét nghiệm y khoa

Một căn bệnh ảnh hưởng đến $1\%$ dân số, nên $P(D) = 0.01$ với một người được chọn ngẫu nhiên. Một xét nghiệm cho bệnh này có độ nhạy $99\%$ , nghĩa là $P(+ \mid D) = 0.99$ , và độ đặc hiệu $95\%$ , nghĩa là $P(- \mid D^c) = 0.95$ (nên tỉ lệ dương tính giả là $P(+ \mid D^c) = 0.05$ ). Một người ngẫu nhiên có kết quả dương tính. Tìm $P(D \mid +)$ , xác suất người đó thực sự mắc bệnh.

Lời giải

Bước 1: $D$ và $D^c$ (mắc bệnh, không mắc bệnh) phân hoạch dân số, với $P(D) = 0.01$ và $P(D^c) = 0.99$ .

Bước 2: áp dụng định lý xác suất toàn phần cho biến cố có kết quả dương tính, $P(+) = P(D) \cdot P(+ \mid D) + P(D^c) \cdot P(+ \mid D^c) = 0.01 \cdot 0.99 + 0.99 \cdot 0.05 = 0.0099 + 0.0495 = 0.0594$ .

Bước 3: định lý Bayes cho $P(D \mid +) = \frac{P(D) \cdot P(+ \mid D)}{P(+)} = \frac{0.0099}{0.0594} = \frac{1}{6}$ , chỉ khoảng $16.7\%$ .

Bước 4: đây là nghịch lý dương tính giả: dù xét nghiệm có độ nhạy $99\%$ và độ đặc hiệu $95\%$ , phần lớn kết quả dương tính vẫn là báo động giả, vì bệnh hiếm nên $99\%$ người khỏe mạnh đóng góp dương tính giả ( $0.0495$ ) nhiều hơn hẳn so với $1\%$ người bệnh đóng góp dương tính thật ( $0.0099$ ).

Lỗi hay gặp. Một lỗi thường gặp và nghiêm trọng, đôi khi gọi là ngụy biện của công tố viên, là nhầm lẫn

P(A \mid B)

với

P(B \mid A)

. Trong ví dụ về bệnh,

P(+ \mid D) = 0.99

rất cao, nhưng điều đó không có nghĩa

P(D \mid +)

gần bằng

0.99

— như ví dụ đã giải ở trên cho thấy,

P(D \mid +)

chỉ khoảng

\frac{1}{6}

. Hai xác suất có điều kiện này trả lời hai câu hỏi khác nhau: một câu hỏi về khả năng của bằng chứng khi biết giả thuyết, câu kia về khả năng của giả thuyết khi biết bằng chứng, và định lý Bayes chính là hệ số điều chỉnh biến cái này thành cái kia.

Cho $P(A) = 0.4$ , $P(B) = 0.5$ , và $P(A \cap B) = 0.2$ , tìm $P(A \mid B)$ .

Một xét nghiệm sàng lọc có độ nhạy $99\%$ và độ đặc hiệu $99\%$ . Trong một dân số có $1\%$ người mắc bệnh, một người được chọn ngẫu nhiên có kết quả dương tính. $P(D \mid +)$ , làm tròn đến phần trăm nguyên gần nhất, bằng bao nhiêu?

Cho $B_1, B_2, \ldots, B_n$ là một phân hoạch của không gian mẫu $\Omega$ với $P(B_i) > 0$ với mọi $i$ . Công thức nào cho đúng $P(A)$ với mọi biến cố $A$ ?

Các biến cố $A$ và $B$ thỏa $P(B) > 0$ . Đẳng thức nào chính xác là định nghĩa của việc $A$ và $B$ độc lập?