Statistiques

Fiches de cours et sous-notions liées à ce chapitre.

Pas assez de questions pour un entraînement ciblé sur cette notion.

Estimation

Non commencé

Définitions

L'estimation statistique infère un paramètre $\theta$ à partir de données $X_1,\ldots,X_n$ . Estimateur $\hat{\theta}_n = g(X_1,\ldots,X_n)$ . Sans biais : $E[\hat{\theta}_n] = \theta$ . Convergence : $\hat{\theta}_n \xrightarrow{P} \theta$ (consistant).

Efficacité : variance minimale ( borne de Cramér-Rao). Maximum de vraisemblance (MV) : $\hat{\theta}_{\mathrm{MV}} = \arg\max_\theta L(\theta) = \prod f(X_i; \theta)$ . Erreur quadratique moyenne : $\mathrm{MSE} = \mathrm{Biais}^2 + \mathrm{Var}$ . Méthode des moments : égaliser moments empiriques et théoriques.

Estimateur $\hat\theta_n$ : sans biais, consistant, efficace (Cramér-Rao). MV : maximiser la vraisemblance. Moments. MSE $=$ biais $^2$ + var.

Formules

$E[\hat{\theta}] = \theta \Leftrightarrow \text{ sans biais}$
$\mathrm{MSE}(\hat{\theta}) = (E[\hat{\theta}] - \theta)^2 + \mathrm{Var}(\hat{\theta})$
$\hat{\mu} = \bar{X}_n \quad ; \quad \hat{\sigma}^2 = \frac{1}{n}\sum(X_i - \bar{X})^2$
$\hat{\theta}_{\mathrm{MV}} : \frac{\partial \ln L}{\partial \theta} = 0$

Exemples

Exemple 1

MV pour $\lambda$ d'une exponentielle.

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) $L(\lambda)=\lambda^n e^{-\lambda\sum X_i}$ : $\hat\lambda=1/\bar X$ . (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

$\hat\lambda_{\mathrm{MV}}=1/\bar X$ .

Exemple 2

Effet de $n$ sur la précision.

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) Erreur $\sim 1/\sqrt n$ : quadrupler $n$ divise l'erreur par $2$ . (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

Précision $\propto n^{-1/2}$ .

À retenir

Tests d'hypothèses

Non commencé

Définitions

Un test d'hypothèses oppose $H_0$ (nulle) à $H_1$ (alternative). Statistique de test $T$ ; région critique $R_\alpha$ de niveau $\alpha$ (risque 1ère espèce : rejeter $H_0$ vraie). P-value : probabilité sous $H_0$ d'observer une statistique au moins aussi extrême.

Test $t$ de Student (moyenne, variance inconnue), $\chi^2$ (variance), Kolmogorov-Smirnov (adéquation). Puissance $1-\beta$ : probabilité de rejeter $H_0$ fausse. Erreur de 2e espèce : ne pas rejeter $H_0$ fausse.

Test $H_0$ vs $H_1$ : risque $\alpha$ (1ère espèce), $\beta$ (2e), puissance $1-\beta$ . p-value. Tests $t$ , $\chi^2$ , KS.

Ne pas confondre « ne pas rejeter $H_0$ » et « prouver $H_0$ ».

Pourquoi c’est central : cette notion structure les preuves et calculs du programme ; maîtriser définitions et hypothèses évite les applications hors cadre.

Formules

$\alpha = P(\text{rejeter } H_0 | H_0 \text{ vraie})$
$\beta = P(\text{ne pas rejeter } H_0 | H_1 \text{ vraie}) \quad ; \quad \text{puissance} = 1 - \beta$
$T = \frac{\bar{X} - \mu_0}{S/\sqrt{n}} \sim t_{n-1} \text{ sous } H_0 : \mu = \mu_0$
$\text{p-value} = P_{H_0}(|T| \geq |t_{\mathrm{obs}}|)$

Exemples

Exemple 1

$H_0:\mu=100$ , $n=25$ , $\bar x=100{,}5$ , $s=2$ : test $t$ .

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) $t=\frac{100{,}5-100}{2/\sqrt{25}}=1{,}25$ . Pour $\alpha=0{,}05$ , ne pas rejeter (p-value $\approx 0{,}22$ ). (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

Ne pas rejeter $H_0$ au niveau $5\%$ .

Exemple 2

Rôle de $n$ sur la puissance.

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) Puissance croît avec $n$ et l'effet $\delta/\sigma$ . (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

Puissance $\uparrow$ si $n\uparrow$ ou effet $\uparrow$ .

À retenir

Intervalles de confiance

Non commencé

Définitions

Un intervalle de confiance (IC) de niveau $1-\alpha$ pour $\theta$ contient $\theta$ avec probabilité $1-\alpha$ (interprétation fréquentiste sur répétitions). IC bilateral normal : $\bar{X} \pm z_{\alpha/2} \frac{\sigma}{\sqrt{n}}$ ; si $\sigma$ inconnue : $\bar{X} \pm t_{\alpha/2, n-1} \frac{S}{\sqrt{n}}$ .

Largeur $\propto 1/\sqrt{n}$ . Plus $1-\alpha$ grand, plus l'IC est large. IC bootstrap pour lois non normales. Ne pas confondre IC (paramètre) et intervalle de prédiction (observation future).

IC de niveau $1-\alpha$ : contient $\theta$ avec proba $1-\alpha$ (fréquentiste). Normal : $\bar X\pm z_{\alpha/2}\sigma/\sqrt n$ ; Student si $\sigma$ inconnue.

Largeur $\propto 1/\sqrt n$ . IC $\neq$ intervalle de prédiction.

Formules

$IC_{95\%}(\mu) = \left[\bar{X} - 1.96\frac{\sigma}{\sqrt{n}},\ \bar{X} + 1.96\frac{\sigma}{\sqrt{n}}\right]$
$\text{Largeur } = 2 z_{\alpha/2} \frac{\sigma}{\sqrt{n}} \propto n^{-1/2}$
$IC_{1-\alpha}(\lambda) \text{ Poisson : approx } \hat{\lambda} \pm z_{\alpha/2}\sqrt{\hat{\lambda}/n}$
$\text{Bootstrap : quantiles empiriques de } \hat{\theta}^* - \hat{\theta}$

Exemples

Exemple 1

$n=100$ , $\bar x=50$ , $s=10$ : IC 95%.

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) $\pm 1{,}96\cdot 10/\sqrt{100}=\pm 1{,}96$ : $[48{,}04\,;\,51{,}96]$ . (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

IC $_{95\%}\approx[48{,}0\,;\,52{,}0]$ .

Exemple 2

Réduire la largeur de moitié.

Méthode

(1) Lire l'énoncé et repérer les hypothèses / la forme utile. (2) Largeur $\propto 1/\sqrt n$ $\Rightarrow$ $n\times 4$ . (3) Vérifier le résultat (ordre de grandeur, cas particulier, ou dérivation/substitution).

Résultat

Multiplier $n$ par $4$ .