En statistique, la borne de Chapman-Robbins (aussi appelée borne de Hammersley-Chapman-Robbins) est une borne inférieure de la variance des estimateurs d'un paramètre déterministe. Elle généralise la borne de Cramér-Rao, en étant plus précise et plus largement applicable. Cependant, elle est généralement plus difficile à calculer.

Cette borne a été découverte indépendamment par John Hammersley en 1950, et par Douglas Chapman et Herbert Robbins en 1951.

Énoncé Soit l'ensemble des paramètres d'une famille de distributions de probabilité sur .

Pour tout , on note la -divergence (c'est-à-dire la -divergence, avec ) par rapport à à . Alors, pour toute variable aléatoire réelle , et pour tout , on a

 .

Une généralisation au cas multivarié existe également :

Soit et . Alors

où est la matrice de covariance de .

Preuve

On utilise une propriété de la -divergence :

Avec , on obtient :

Il suffit d'inverser le dénominateur et la partie gauche de l'inégalité, puis de prendre supremum sur pour obtenir le cas univarié.

Pour le cas multivarié, on définit pour tout . La même propriété de la -divergence, pour , nous donne, par la linéarité de l'espérance.On utilise alors le fait que, pour tout , on a . On obtient alors immédiatement le cas multivarié.

Lien avec la borne de Cramér–Rao Généralement, on a , qui est l'espace de tirages indépendants d'une variable aléatoire à valeurs dans , de distribution , paramétrisé par . Ainsi est la mesure produit, et est un estimateur de .

Alors, si , l'expression à l'intérieur du supremum de la borne de Chapman–Robbins converge vers la borne de Cramér–Rao de quand , en supposant que les conditions de régularité de la borne de Cramér-Rao soient vérifiées. Cela implique que, lorsque les deux bornes existent, la version de Chapman-Robbins est toujours (asymptotiquement) au moins aussi précise que la borne de Cramér-Rao ; dans de nombreux cas, elle est nettement plus précise.

De plus, la borne de Chapman-Robbins est également valable sous des conditions de régularité beaucoup plus faibles que la borne de Cramér-Rao. Par exemple, aucune hypothèse n'est faite concernant la différentiabilité de la fonction de densité de . A contrario, lorsqu'elle n'est pas différentiable, l'information de Fisher n'est pas définie, et par conséquent la borne de Cramér-Rao n'existe pas.

Références

Voir aussi

Articles connexes Borne de Cramér-Rao Théorie de l'estimation

Catégorie:Statistiques