Cramér-Rao Cota - Qu'est-ce que c'est, définition et concept

La borne de Cramér-Rao (CCR) est la variance minimale que, compte tenu des conditions de régularité, un estimateur d'un paramètre peut atteindre.

En d'autres termes, nous recherchons la variance la plus proche de cette limite inférieure pour trouver le meilleur estimateur selon les propriétés d'absence de biais et d'efficacité.

Il est recommandé de lire les propriétés des estimateurs

Ces propriétés sont utilisées lorsque nous devons choisir un estimateur afin d'effectuer une analyse économétrique. Si nous voulons que nos résultats soient concluants, au minimum, nous devrons exiger que l'estimateur soit sans biais et qu'il ait la plus petite variance possible de tous les estimateurs sans biais (efficacité).

Bien que nous prenions en compte tous les estimateurs sans biais, lorsque nous recherchons l'estimateur de variance minimale, il peut arriver qu'il existe un autre estimateur sans biais qui a moins de variance.

Pour qu'aucun estimateur sans biais à variance minimale ne nous échappe, nous établissons une borne minimale ou inférieure que la variance de l'estimateur sans biais d'un paramètre ne peut dépasser.

Nous ne regardons que les estimateurs sans biais parce que les estimateurs biaisés peuvent avoir des variances inférieures au CCR.

Formulation

Nous définissons:

f (X; Θ): fonction de densité de probabilité.

E (·) : espoir mathématique.

Je (Θ): Information Fisher d'un paramètre.

Représente "la quantité d'informations" sur la valeur du paramètre contenu dans une observation de la variable aléatoire X.

Formule:

Ne pas paniquer! Que voit-on au premier coup d'œil de cette formule ?

• Nous pouvons voir qu'il s'agit d'une inégalité non stricte (≥) au lieu d'une égalité (=). En effet, dans certains cas, nous ne trouvons pas (n'existe pas) d'estimateur sans biais qui atteint la borne CCR. Par conséquent, nous disons que nous recherchons la variance d'un estimateur sans biais qui se rapproche le plus possible de cette limite inférieure. De plus, le CCR nous dit quelle sera la variance minimale de l'estimateur, en dessous de ce chiffre, il ne peut pas être trouvé.
• La partie à droite (var (Θ ’) est la variance de l'estimation de notre paramètre.
• La partie à gauche (1 / J (Θ)) est le minimum insurmontable de la variance.
• Si l'on cherche un minimum (absolu) pour la variance de l'estimateur de Θ, il est logique que des dérivées partielles (dérivées par rapport à Θ) apparaissent.
  • En économie, les dérivées partielles sont utilisées dans des conditions de premier et de second ordre afin d'optimiser les fonctions d'utilité : trouver respectivement les maximums et minimums relatifs et absolus.
  • CCR utilise la dérivée partielle première du paramètre Θ sur la fonction de densité de probabilité f (X; Θ)
  • Pour faciliter le calcul, dans certains cas, la dérivée seconde et les informations alternatives de Fisher sont utilisées pour obtenir le CCR.

Les estimateurs qui, étant sans biais, ont une variance égale au CCR, seront alors considérés comme les plus efficaces. De même, ceux sans biais dont la variance est la plus proche seront considérés comme relativement plus efficaces que les autres estimateurs (plus éloignés).