Statistique 20421 31571982 2008-07-14T15:50:15Z Badmood 4507 Corrections de liens ancrés {{ébauche|probabilités et statistiques}} {{Confusion|texte=A ne pas confondre avec les [[statistiques]]}} {{Avertissement|Une statistique est une quantité calculée à partir d'un certain nombre d'observations. On distingue donc en mathématique '''la''' statistique qui est le domaine des mathématiques et '''une''' statistique qui est le principal objet de l'étude statistique. Cette page ne concerne donc que les principaux types de statistiques, l'usage qu'il en est fait ainsi que leur principales propriétés. '''Pour un article plus général sur la statistique consultez la page [[statistiques]]'''.}} Une statistique est, au premier abord, un [[nombre]] calculé à propos d'une [[population]]. D'une façon générale, c'est le résultat de l'[[application (mathématique)|application]] d'une méthode statistique à un ensemble de données. Dans le calcul de la [[moyenne arithmétique]], par exemple, l'algorithme consiste à calculer la somme de toutes les valeurs des données et à diviser par le nombre de données. La moyenne est ainsi une statistique. Pour être complet dans la description de l'utilisation d'une statistique, il faut décrire à la fois la procédure et l'ensemble de données. De façon formelle bien que cela soit rarement utilisé une statistique est une [[variable aléatoire]] d'un type particulier. C'est en effet une fonction d'un vecteur composée de plusieurs observations d'une loi iid. Cela permet entre autre d'étendre aux statistiques un certain nombre de résultats sur les variables aléatoires entre autre le caractère [[indépendant]] de deux statistiques ou calculer des densités de statistiques. Parmi les statistiques un certain nombre ont des propriétés particulières qui servent entre autre en [[Inférence statistique]] pour l'estimation statistique. Les [[Estimateur (statistique)|estimateurs]] servent, comme leur nom l'indique, à estimer des paramètres statistiques. L'optimisation de ces estimateurs peut également faire intervenir des statistiques auxiliaires vérifiant certaines propriétés et qui permettent de faire converger plus vite ces estimateurs. ==Estimateurs== {{article détaillé|Estimateur (statistique)}} En statistique inférentielle, un estimateur est une valeur calculée sur un échantillon et que l'on espère être une bonne évaluation de la valeur que l'on aurait calculée sur la population totale. On cherche à ce qu'un estimateur soit sans biais, convergent, efficace et robuste. ===Principales propriétés souhaitables=== Si <math>\widehat{\theta}</math> est un estimateur de <math>\theta</math> on dit qu'il est: *'''Convergent''' si: <math>\widehat{\theta}</math> [[Convergence de variables aléatoires#Convergence en probabilité|tend en probabilité]] vers <math>\theta</math> quand le nombre d'observations augmente. Plus le nombre d'observations est grand et plus l'on se rapproche de la vraie valeur. Cette propriété d'un estimateur est essentielle si l'on veut pouvoir estimer avec grande précision le paramètre <math>\theta</math>, en effet si c'est le cas pour augmenter la précision de l'estimateur il suffira d'effectuer plus de mesures. *'''Sans biais''' si: <math> \mathbb{E}(\widehat{\theta})=\theta.\, </math> On peut voir un estimateur sans biais comme un estimateur pour lequel on ne fait pas d'erreur systématique pour une taille d'échantillon donnée. A contrario pour un estimateur qui aurait un biais il pourrait par exemple exister des valeurs du paramètre <math>\theta</math> pour lesquelles on sur estimerait ou sous estimerait de façon systématique la grandeur que l'on cherche à évaluer. C'est pour qu'il soit sans biais que l'on estime d'ordinaire la variance quand on a n observations par <math>\frac{n}{n-1}\sigma^2</math> et non par <math>\sigma^2</math> par exemple. Ces deux propriétés sont essentielles et en règle générale on considère que tout estimateur devrait au moins vérifier ces deux propriétés pour qu'on puisse le considérer comme suffisamment précis. On peut de plus vouloir qu'un estimateur soit efficace c'est à dire que l'estimation qu'il fournit varie le moins possible autour de la valeur à estimer ou robuste c'est à dire qu'il soit peu sensible aux variations d'une mesure sur les n. Ces deux propriétés sont détaillées plus bas dans les sections Optimisation d'estimateur et Robustesse. ==Statistique exhaustive et information== {{article détaillé|statistique exhaustive}} Une propriété intéressante qu'une statistique peut avoir est son caractère [[statistique exhaustive|exhaustif]]. Une statistique S est dite exhaustive si la probabilité conditionnelle d'observer X sachant S(X) est indépendante de <math>\theta</math>. Cela peut se traduire par la formule suivante: :<math>\mathbb{P}(X=x|S(X)=s,\theta) = \mathbb{P}(X=x|S(X)=s), \,</math> Cette définition n'étant pas forcément très simple à manier en pratique on préfère souvent utiliser la caractérisation de factorisation des [[statistique exhaustive|statistiques exhaustives]]. Ces statistiques exhaustives sont particulièrement importantes car fournissent toute l'information qu'il est possible de récupérer sur le paramètre à partir d'une série d'observations. Une statistique exhaustive apporte donc autant d'information que l'ensemble du vecteur des observations x et l'on ne peut pas récupérer plus d'information que celle contenue dans une statistique exhaustive. Cela se formalise grâce à l'[[information de Fisher]]. Si <math>I_S</math> est l'[[information de Fisher]] apportée par une statistique S et I l'information du modèle: <math>I_{S}(\theta)\leq I(\theta)</math> Avec un cas d'égalité uniquement dans le cas d'un statistique exhaustive. Pour le cas d'un modèle à un seul paramètre cette inégalité est une inégalité classique. Pour le cas des modèles multiparamétrés cette inégalité est une inégalité au sens de la relation d'ordre partielle introduite par: <math>A\leq B</math> si B-A est une [[Matrice semi-définie positive|matrice symétrique positive]]. ==Optimisation d'estimateurs== L'optimisation d'estimateurs peut se faire grâce à l'usage de statistiques exhaustives. Une méthode possible pour trouver de "bons" estimateurs est de prendre un premier estimateur sans biais de la valeur à estimer sans trop chercher à l'optimiser. Ensuite on optimise cet estimateur en se servant de statistiques exhaustives. Cette méthode repose principalement sur deux théorèmes : le théorème de Rao-Blackwell qui fournit un deuxième estimateur de meilleur qualité appelé estimateur augmenté et le théorème de Lehman-Scheffer qui donne des conditions suffisantes pour que cet estimateur soit optimal. ===Estimateurs augmentés et Théorème de Rao-Blackwell === {{article détaillé|Théorème de Rao-Blackwell}} Si <math>\delta</math> est un estimateur sans biais et S une statistique exhaustive alors l'estimateur augmenté <math>\mathbb{E}(\delta |S)</math> à une variance plus faible que l'espérance de départ et est également sans biais. L'estimateur augmenté est donc toujours plus précis que l'estimateur initial si on l'augmente d'une statistique exhaustive. Dans le cas multiparamétrique où l'estimateur et le paramètre sont de dimension supérieure 1, on considère la [[matrice de variance-covariance]]. L'[[Erreur quadratique moyenne|erreur quadratique]] du nouvel estimateur est toujours plus faible que celui de l'ancien estimateur et ce quelque soit la norme utilisé. Même si les différentes composantes ne sont pas normées de la même façon l'estimateur augmenté est toujours préférable. ====Exemple==== On considère donc n variables aléatoires <math>X_i</math> iid distribués selon des [[loi de Poisson|lois de Poisson]] de paramètre <math>\lambda</math> et l'on cherche à estimer <math> e^{-\lambda}</math>. On peut montrer assez facilement en considérant le [[statistique exhaustive|critère de factorisation]] que <math> S = \sum_{i=1}^n X_{i}</math> est une statistique exhaustive. Pour montrer l'intérêt de ce théorème, on prend un estimateur très grossier de <math> e^{-\lambda}</math>: <math>\delta_0=\delta(X_1, 0)</math> qui vaut 1 si <math>X_1=0</math> et 0 sinon. Cet estimateur ne prend en compte qu'une seule valeur de X alors qu'on en dispose de n et il ne donne pour résultat que 0 ou 1 alors que la valeur de <math> e^{-\lambda}</math> appartient à l'intervalle ]0,1] et ne vaut sans doute pas 1. (si c'était le cas <math>X_i</math> vaudrait 0 de façon déterministe et on s'en serait aperçu en regardant les données). Pourtant malgré la grossièreté de cet estimateur, l'estimateur obtenu est très bon et on peut même montrer qu'il est optimal. L'estimateur augmenté vaut : :<math>\delta_1=\mathbb{E}(\delta_0|S).\,\!</math> On peut montrer que: {{boite déroulante|align=left|titre=Détails du calcul|contenu= <math>\mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)=\frac{\mathbb{P}(X_1=k \, et\, \sum_{i=1}^n X_{i}=S)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}=\frac{\mathbb{P}(X_1=k \, et\, \sum_{i=2}^n X_{i}=S-k)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}</math> Et avec l'indépendance de <math>X_i</math>: <math>\mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)=\frac{\mathbb{P}(X_1=k )\mathbb{P}( \sum_{i=2}^n X_{i}=S-k)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}</math> Si <math>X_i</math> suit une [[loi de poisson]] de paramètre <math>\lambda</math> alors la [[fonction génératrice]] vaut <math>\phi_{X_i} (t) =\ e^{\lambda(t-1)}</math>. Avec les propriétés de la fonction génératrice on en déduit que la somme de n variables iid suivant des lois de poisson de paramètre <math>\lambda</math> est une loi de Poisson de paramètre <math>n\lambda</math>. On en déduit les probabilités et <math>\mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)= C^k_S \, \frac{(n-1)^{S-k}}{n^S}</math> <math>X_1</math> suis une [[loi binomiale]] B(S,1/n). La valeur en k=0 nous donne l'estimateur <math>\delta_1</math> }} :<math>\delta_1=\left(1-{1 \over n}\right)^{S}.\,\!</math> &delta;<sub>1</sub> est tout comme de &delta;<sub>0</sub> un estimateur de <math> e^{-\lambda}</math> mais à l'avantage d'être beaucoup plus précis grâce à l'application du théorème de Rao–Blackwell. En fait, on montre avec [[Théorème de Lehman Scheffé]] qu'il est même optimal. On remarquera entre autre que <math>\delta_2=\frac{S}{n}</math> est un estimateur optimal de <math>\lambda</math> (cela se montre de la même manière) mais que l'estimateur pour <math>e^{-\lambda}</math> est différent de <math>e^{-\delta_2}</math>. En fait, on peut même montrer que bien que <math>e^{-\delta_2}</math> soit un estimateur convergent de <math>e^{-\lambda}</math> c'est un estimateur de relativement mauvaise qualité car il est biaisé et qu'en l'estimant de la sorte on fait une erreur systématique sur l'estimation. De façon générale, il peut être intéressant pour estimer <math>f(\lambda)</math> de construire un estimateur spécifique plutôt que de calculer la valeur prise par f par l'estimateur de <math>\lambda</math>. ===Statistique complète et Théorème de Lehman Scheffé=== On dit qu'une statistique est complète (on dit parfois totale) si : <math>\forall \theta, \, \mathbb{E}(f(s(x)))=0</math> implique f=0 presque partout. Le théorème de Lehman-Scheffé a une importance particulière en statistiques puisqu'il permet de trouver des estimateurs optimaux qui ne peuvent pas être améliorés en termes de précision car ils atteignent la [[borne FDCR]]. De tels estimateurs n'existent pas forcément mais si l'on dispose d'une statistique qui soit à la fois complète et totale et d'un estimateur <math>\delta</math> qui soit sans biais alors l'estimateur augmenté <math>\mathbb{E}(\delta |S)</math> est optimal et l'on ne peut pas trouver de meilleur estimateur. ====Exemple==== Montrons par exemple que pour une [[loi exponentielle]] de paramètres <math>\lambda</math> la moyenne des observations est le meilleure estimateur possible pour <math>\lambda</math>. Si l'on a un vecteur des observations X de taille n avec les <math>X_i</math> iid de loi exponentielle <math>(\lambda,\sigma)</math> on commence par montrer que <math>S(X)=\sum_1^n X_i</math> est une statistique exhaustive et complète. Pour montrer que cette statistique est [[statistique exhaustive|exhaustive]] cela se fait relativement simplement grâce au théorème de factorisation. Pour montrer le fait que cette statistique est complète il faut utiliser l'injectivité de la transformée de Laplace. {{boite déroulante|align=left|titre=Détails du calcul|contenu= Pour montrer que c'est bien une statistique complète il faut vérifier que: <math>\forall \lambda\in\R^{+*}, \, \mathbb{E}(f(s(x)))=0</math> implique bien que f=0 presque partout. Avec la définition d'une [[loi gamma]] s(x) suit une loi gamma de paramètre <math>(n,\lambda)</math> on a donc en remplaçant par la densité d'une loi gamma: <math>\forall \lambda\in\R^{+*}, \, \int f(y) \frac{{y^{n - 1} e^{ - \frac{y}{\lambda }} }}{{\Gamma \left( n \right) \lambda ^n }} dy=0</math> d'où: <math>\forall \lambda\in\R^{+*}, \, \int f(y) y^{n - 1} e^{ - \frac{y}{\lambda }} dy=0</math> Par injectivité de la transformée de Laplace on en déduit donc que <math>f(y) y^{n - 1}=0</math> presque partout puis que f(y)=0 presque partout donc la statistique est bien complète.}} Une fois montré que la statistique S est à la fois complète et exhaustive l'estimateur de la moyenne <math>\frac{S}{n}</math> étant égal à l'estimateur augmenté <math>\mathbb{E}\left(\frac{S}{n}|S\right)</math> on en déduit immédiatement grâce au théorème de Lehman Scheffé que cet estimateur est optimal au sens où il atteint la [[borne FDCR]] et que l'on ne peut en trouver de meilleur. L'estimateur de la moyenne est l'estimateur le plus précis que l'on puisse trouver pour le paramètre d'une loi exponentielle. ==Statistique robuste== [[:en:Robust statistics|Robust statistics]] == Voir aussi == {{Wiktionnaire}} * [[statistiques|Statistique]] * [[Statistique mathématique]] * [[Statistique (mathématiques élémentaires)]] * [[Statistique descriptive]] * [[Inférence statistique]] ==Reférences== * A. Montfort ''Cours de statistique mathématique'', 1982, Economica. Paris. == Liens externes == * P. Druilhet [http://www.ensai.com/upload/files/BIBFILE_FILE_KcEegDc.pdf] Cours de statistique interférentielle. * [http://www.worldometers.info/fr/ Exemple de représentation dynamique de statistiques] (par compteurs, pour différents types de statistiques, dont démographiques, sanitaires, environnementales) * [http://www.chrisjordan.com Page] de l'artiste [[Chris Jordan]], qui produit des œuvres cherchant à rendre visuellement perceptible des statistiques portant sur de grands nombres. {{portail probabilités et statistiques}} [[Catégorie:Statistiques|*]] [[af:Statistiek]] [[bg:Статистика]] [[ca:Estadística]] [[da:Statistik]] [[de:Statistik]] [[el:Στατιστική]] [[en:Statistic]] [[es:Estadística]] [[eo:Statistiko]] [[et:Statistika]] [[fa:آمار]] [[fy:Statistyk]] [[gl:Estatística]] [[he:סטטיסטיקה]] [[ia:Statistica]] [[is:Tölfræði]] [[it:Statistica]] [[ja:統計学]] [[ky:Статистика]] [[lb:Statistik]] [[lt:Statistika]] [[lv:Statistika]] [[ms:Statistik]] [[nl:Statistiek]] [[no:Statistikk]] [[pl:Statystyka]] [[pt:Estatística]] [[ro:Statistică]] [[ru:Статистика]] [[simple:Statistics]] [[sl:Statistika]] [[su:Statistis]] [[sv:Statistik]] [[tl:Estadistika]] [[vi:Khoa học thống kê]] [[zh:统计学]]