Định nghĩa: Nhóm các sự kiện $A_1, A_2, \cdots,A_n, (n\geq 2)$ của một phép thử được gọi là một nhóm đầy đủ nếu:

1. $A_i \cap A_j= \varnothing$  (xung khắc từng đôi),
2. $A_1 \cup A_2 \cup \cdots \cup A_n= \Omega$.

Ví dụ: Một tiểu đoàn có 3 đại đội cùng trồng một loại bí xanh. Chọn ngẫu nhiên một quả bí xanh và gọi $A_1, A_2, A_3$ lần lượt là sự kiện quả bí xanh được chọn do đại đội 1, đại đội 2 và đại đội 3 trồng. Khi đó hệ $\{A_1, A_2, A_3\}$ là đầy đủ.

Ví dụ: Xét một lô giày chiến sĩ được sản xuất bởi 3 nhà máy với tỉ lệ lần lượt là 20%, 30% và 50%. Xác suất giày hỏng của các nhà máy lần lượt là 0,001; 0,005 và 0,006. Lấy ngẫu nhiên một chiếc giày từ lô hàng. Tìm xác suất để chiếc giày lấy ra bị hỏng.

Công thức Bayes, mang tên của linh mục và nhà toán học người Anh Thomas Bayes (1702-1761), là công thức ngược, cho phép tính xác suất có điều kiện $P(B|A)$ khi biết xác suất có điều kiện $P(A|B)$ và một số thông tin khác. Dạng đơn giản nhất của công thức này là: Nếu $A, B$ là hai sự kiện bất kì với xác suất khác 0 thì từ quy tắc nhân xác suất $$P(A|B).P(B)=P(B|A).P(A)\Rightarrow P(B|A)=\dfrac{P(A|B).P(B)}{P(A)}.$$

Định lý: Giả sử $\{A_1,A_2,\cdots,A_n\}$ là hệ đầy đủ và $B$ là một sự kiện bất kì có thể xảy ra trong phép thử. Khi đó ta có công thức Bayes: $$P(A_k|B)=\dfrac{P(A_k)P(B|A_k)}{P(B)}=\dfrac{P(A_k)P(B|A_k)}{\sum_{i=1}^{n}{P(A_i)P(B|A_i)}},\quad k=1,2,\cdots,n.$$

Ví dụ: Dây chuyền lắp ráp máy vô tuyến điện gồm các linh kiện là sản phẩm từ 2 nhà máy sản xuất ra. Số linh kiện nhà máy 1 sản xuất chiếm 55%, số linh kiện nhà máy 2 sản xuất chiếm 45%; tỷ lệ sản phẩm đạt tiêu chuẩn của nhà máy 1 là 90%, nhà máy 2 là 87%. Lấy ngẫu nhiên ra 1 linh kiện từ dây chuyền lắp ráp đó ra kiểm tra thì được kết quả linh kiện đạt chuẩn. Tìm xác suất để linh kiện đó do nhà máy 1 sản xuất?