Soit : ( X₁ , X₂ , ... , X_n ) un échantillon aléatoire simple : les X_i sont des variables aléatoires indépendantes, de même loi de probabilité.

I - L'estimation ponctuelle d'un paramètre , inconnu, de cette loi, consiste à se doter d'un estimateur, c'est-à-dire d'une variable aléatoire fonction des X_i

= f ( X₁ , X₂ , ... , X_n ),

dont la valeur = f ( x₁ , x₂ ,... , x_n ) calculée sur l'échantillon obtenu par tirage sera l'estimation de .

Par exemple : = est un estimateur de m = E ( X ), moyenne de la population.

La moyenne calculée sur l'échantillon est une estimation de m.

- On choisit de préférence f de façon à obtenir un estimateur sans biais, c'est-à-dire tel que

E ( ) = . (Sinon l'écart E ( ) - . est appelé le biais de ).

- La variance V( ) doit être la plus faible possible ; si et sont 2 estimateurs sans biais de tels que V( ) < V( ), sera dit plus efficace que .

- On dit que est convergent (ou correct) s'il tend vers , en probabilité, quand la taille n de l'échantillon tend vers l'infini. Ceci est notamment réalisé quand l'estimateur est sans biais et que sa variance tend vers 0 quand n tend vers l'infini.