Intuitivement des variables aléatoires sont indépendantes lorsqu'aucune d'elles ne dépend, d'aucune façon, des autres. Par exemple dans un sondage en vue d'un référendum, il est souhaitable que la variable "être sondée" soit indépendente de la variable "être partisan du oui" (chose très difficile à réaliser en pratique), sans quoi le sondage risque d'être biaisé. La notion d'indépendance est formalisée ci-dessous.
Définition [-algèbres indépendantes]
Soit un -algèbre , et
une famille de sous--algèbres de ; alors les sont dites -algèbres indépendantes si pour toute famille
avec partie finie de , on a
.
Soit
une famille de variables aléatoires; alors les sont dites variables aléatoires indépendantes si les sont des -algèbres indépendantes avec
( la -algèbre borélienne de
).
Des évènements sont dits évènements indépendants si les -algèbres
sont indépendantes; ce qui équivaut au fait que les fonctions caractéristiques des , en tant que variables aléatoires, sont indépendantes.
On appelle suite de variables aléatoires identiquement distribuées une suite de variables aléatoires indépendantes et ayant la même fonction de répartition.
Rappel de vocabulaire:
Un triplet de probabilité est un triplet
, avec une tribu sur , et une mesure de probabilité sur
.
est appelé univers.
Un évènement est une partie mesurable de , c'est à dire un élément de .
Une variable aléatoire sur est une application mesurable de dans
(muni des boréliens usuels).
La loi de probabilité d'une variable aléatoire est l'application
qui à un borélien inclus dans
associe
.
La fonction de répartition d'une variable aléatoire est l'application qui à un réel associe
.
Proposition
Pour que des évènements pour soient indépendants il suffit de vérifier que
pour tout fini dans .
Démonstration:Il suffit de considérer les propriétés d'additivité de , pour voir que
cette formule permet de déduire les cas où des sont remplacés par leurs complémentaires (cas de remplacé par l'ensemble vide ou trivial).
Définition
Deux -système et sur un même ensemble sont dits indépendants si pour tout
et tout
on a
Lemme
Supposons et deux -algèbres sur engendrées respectivement par et des -systèmes. Alors et sont indépendantes si et seulement si
et sont des -systèmes indépendants.
Démonstration:Le sens "seulement si" étant trivial on se préoccupe de l'autre sens.
Fixons dans , et considérons les mesures et définies sur par
et
Ces deux mesures coïncident sur et donnent une mesure finie à ; donc par le lemme elles sont égales.
Fixons maintenant dans .
On définit maintenant les deux mesures et sur par
et
Elles coïncident sur et donnent une mesure finie à ; donc par le lemme elles sont égales.
On a donc montré le résultat souhaité pour et dans les cas suivants:
et
, clair par hypothèse.
et quelconque, par le lemme .
quelconque et quelconque, en fixant et en utilisant le lemme .
Le résultat est donc prouvé.
Lemme [Second lemme de Borel-Cantelli]
Si
est une suite d'évènements indépendants, alors
Intuitivement, cela signifie que si la somme des probabilités pour qu'un
évènement arrive à l'instant pour tend vers ,
alors l'évènement a une probabilité d'avoir lieu une infinité
de fois.
Démonstration:Notons que
Avec
, pour tout , par définition de l'indépendance, on a
Donc en passant à la limite, par monotonie de l'intersection des , on a
, donc
, d'où le résultat.
Le premier lemme de Borel-Cantelli, évoqué en partie , fournit
un complément à ce lemme.
Exemple 1 (Application des deux lemmes de Borel-Cantelli)
On définit les
comme des évènements aléatoires, indépendants, par
avec variable aléatoire définie par sa fonction de répartition
.
, donc
si et seulement si
,
et donc par les deux lemmes de Borel-Cantelli a lieu infiniment souvent (c'est à dire que
) si et seulement si
.
Définition [-algèbre asymptotique]
Etant donnée une suite de variables aléatoires , ... , , ... , on appelle -algèbre asymptotique de la
suite
la -algèbre
, avec la -algèbre engendrée
par
.
Pour bien comprendre cette définition il faut voir que:
est la -algèbre qui rendre toutes les variables aléatoires mesurables pour .
est l'intersection des .
Intuitivement la -algèbre asymptotique contient les évènements qui ne dépendent que du comportement à la limite.
Proposition
Les évènements suivants sont par exemples mesurables pour la -algèbre asymptotique des (on les appelle évènements asymptotiques) :
converge converge converge
Les variables aléatoires suivantes sont dans (on les appelle variables asymptotiques):
Pour contre-exemples on peut citer par exemple (variable aléatoire non-asymptotique dans le cas général), ou la somme des pour
.
Démonstration:pour les trois premiers points il faut donc montrer que l'ensemble donné
est inclus dans chaque .
Les sont mesurables, donc
et
sont mesurables,
donc
est une partie mesurable. Donc
; de la même manière
, pour tout , donc
.
Les sont mesurables, donc une somme finie de est mesurables, donc
est mesurable, pareil avec ,
d'où le résultat en considérant
Par une méthode similaire aux deux cas précédents on montre que appartient à , il suffit de voir ensuite que
converge si et seulement si
converge
pour conclure que appartient aussi à .
Pour les variables aléatoires qui suivent les façons de raisonner sont les mêmes.
Théorème [Loi de Kolmogorov]
Soit
une suite de variables aléatoires indépendantes, et soit la -algèbre asymptotique des
; alors :
Tout évènement asymptotique a une probabilité 0 ou .
Pour toute variable asymptotique , il existe un unique
tel que .
Démonstration:On procède par étapes:
On montre tout d'abord que les -algèbres suivantes sont indépendantes pour tout :
- la -algèbre engendrée par
, notée par la suite .
- la -algèbre engendrée par
, notée comme d'habitude .
En effet:
- la première de ces deux -algèbres est engendrée par le -système
des ensembles de la forme
avec
.
- la seconde de ces deux -algèbres est engendrée par le -système
des ensembles de la forme
avec
.
Par le lemme , nos deux -algèbres sont donc indépendantes.
et sont indépendantes
Il suffit de voir que
.
et sont indépendantes.
L'union des est un -système (facile), qui engendre (facile aussi).
D'après l'étape précédente, l'union des et sont indépendantes
au sens des -systèmes; donc les -algèbre engendrées sont indépendantes.
étant inclus dans , est indépendante de , et donc
pour tout
, on a
.
Le premier des deux points est alors prouvé. Pour trouver du second point il suffit de considérer le plus grand tel que
.