Loi des grands nombres

Inégalité de Bienaymé-Tchebychev

Pour toute variable aléatoire $X$ d’espérance $\mu$ et de variance $\sigma^2$ :

$\boxed{P\!\left(|X - \mu| \geq \varepsilon\right) \leq \frac{\sigma^2}{\varepsilon^2}}$

Autrement dit : $P\!\left(|X - \mu| < \varepsilon\right) \geq 1 - \dfrac{\sigma^2}{\varepsilon^2}$

Interprétation : La probabilité de s’éloigner de plus de $\varepsilon$ de la moyenne est bornée par $\dfrac{\sigma^2}{\varepsilon^2}$.

---

Application à la fréquence

Soit $X_1, \ldots, X_n$ des variables de Bernoulli indépendantes de paramètre $p$.

La fréquence empirique est $F_n = \dfrac{X_1 + \cdots + X_n}{n}$.

$E(F_n) = p \qquad V(F_n) = \frac{p(1-p)}{n}$

Par Bienaymé-Tchebychev :

$P\!\left(|F_n - p| \geq \varepsilon\right) \leq \frac{p(1-p)}{n\varepsilon^2} \leq \frac{1}{4n\varepsilon^2}$

Car $p(1-p) \leq \dfrac{1}{4}$ pour tout $p \in [0,1]$.

---

Loi des grands nombres

Théorème : Quand $n \to +\infty$, $P\!\left(|F_n - p| \geq \varepsilon\right) \to 0$ pour tout $\varepsilon > 0$.

Interprétation : La fréquence observée converge en probabilité vers la probabilité théorique quand le nombre d’expériences augmente.

---

Décroissance de l’écart-type en $1/\sqrt{n}$

Intervalle de fluctuation

Pour $n$ grands, la fréquence $F_n$ est dans l’intervalle de fluctuation au seuil 95 % :

$\left[p - \frac{1}{\sqrt{n}},\; p + \frac{1}{\sqrt{n}}\right]$

(obtenu en appliquant $P(|F_n - p| \geq \frac{1}{\sqrt{n}}) \leq \frac{1}{4n} \cdot n = \frac{1}{4} \leq 0{,}05$ si $n \geq 5$… en pratique $n \geq 25$)

---

Exemple numérique

On lance $n = 100$ fois un dé équilibré. $p = P(\text{obtenir un 6}) = \dfrac{1}{6}$.

$V(F_{100}) = \frac{\frac{1}{6} \times \frac{5}{6}}{100} = \frac{5}{3600} \approx 0{,}00139$

$P\!\left(|F_{100} - \frac{1}{6}| \geq 0{,}1\right) \leq \frac{5/3600}{0{,}01} \approx 0{,}139$

Donc avec probabilité $\geq 86\,\%$, la fréquence observée est à moins de $0{,}1$ de $\frac{1}{6}$.