En statistique, lanalyse de la variance (terme souvent abrégé par le terme anglais ANOVA : analysis of variance) est un ensemble de modèles statistiques utilisés pour vérifier si les moyennes des groupes proviennent d'une même population.. Les groupes correspondent aux modalités d'une variable qualitative (par exemple comme variable : traitement; comme modalités : programme d'entrainement sportif, suppléments alimentaires; placebo). Les moyennes sont calculés à partir d'une variable continue (par exemple le gain musculaire).

Ce test s'applique lorsque l'on mesure une ou plusieurs variables explicatives catégorielle (appelées alors facteurs de variabilité, leurs différentes modalités étant parfois appelées « niveaux ») qui ont de l'influence sur la loi d'une variable continue à expliquer. On parle d'analyse à un facteur lorsque l'analyse porte sur un modèle décrit par un seul facteur de variabilité, d'analyse à deux facteurs ou d'analyse multifactorielle sinon.

Histoire Ronald Aylmer Fisher présente pour la première fois le terme variance et propose son analyse formelle dans un article de 1918 The Correlation Between Relatives on the Supposition of Mendelian Inheritance..

Sa première application de l'analyse de la variance a été publiée en 1921On the "Probable Error" of a Coefficient of Correlation Deduced from a Small Sample. Ronald A. Fisher. Metron, 1: 3-32 (1921).

L'analyse de la variance est devenue largement connue après avoir été incluse dans le livre de Fisher de 1925 Statistical Methods for Research Workers.

Principe L'analyse de la variance permet d'étudier le comportement d'une variable quantitative à expliquer en fonction d'une ou de plusieurs variables qualitatives, aussi appelées nominales catégorielles. Lorsque l'on souhaite étudier le pouvoir explicatif de plusieurs variables qualitatives à la fois, on utilisera une analyse de la variance multiple (MANOVA).

Si un modèle contient des variables explicatives catégorielles et continues et que l'on souhaite étudier les lois liant les variables explicatives continues avec la variable quantitative à expliquer en fonction de chaque modalité des variables catégorielles, on utilisera alors une analyse de la covariance (ANCOVA).

Modèle La première étape d'une analyse de la variance consiste à écrire le modèle théorique en fonction de la problématique à étudier. Il est souvent possible d'écrire plusieurs modèles pour un même problème, en fonction des éléments que l'on souhaite intégrer dans l'étude.

Le modèle général s'écrit :

avec la variable quantitative à expliquer ou variable réponse associée à l'observation numéro i du niveau j,k, ... de f , une constante, une relation entre les variables explicatives et l'erreur de mesure. On pose l'hypothèse fondamentale que l'erreur suit une loi normale : .

Variables explicatives On distingue deux types de variables catégorielles : avec ou sans effet aléatoire.

Pour une variable à effet fixe, pour chaque modalité, il existe une valeur fixe correspondante. Elle s'écrit dans le modèle théorique avec une lettre majuscule :

avec pour , pour , etc.

On notera que la variable quantitative sera toujours égale à µ augmentée de (bien que puisse prendre des valeurs positives ou négatives).

Dans le cas d'une variable à effet aléatoire, la variable est issue d'une loi supposée normale qui s'ajoute à la valeur fixe. Elles s'écrivent dans le modèle théorique avec une lettre grecque minuscule :

avec et

Un modèle basé seulement sur des variables explicatives à effets fixes et effets aléatoires est appelé modèle mixte.

Hypothèses fondamentales La forme générale de l'analyse de variance repose sur le test de Fisher et donc sur la normalité des distributions et l'indépendance des échantillons. Normalité de la distribution : on suppose, sous l'hypothèse nulle, que les échantillons sont issus d'une même population et suivent une loi normale. Il est donc nécessaire de vérifier la normalité des distributions et l'homoscédasticité (homogénéité des variances, par des tests de Bartlett ou de Levene par exemple). Dans le cas contraire, on pourra utiliser les variantes non paramétriques de l'analyse de variance (ANOVA de Kruskal-Wallis ou ANOVA de Friedman). Indépendance des échantillons : on suppose que chaque échantillon analysé est indépendant des autres échantillons. En pratique, c'est la problématique qui permet de supposer que les échantillons sont indépendants. Un exemple fréquent d'échantillons dépendants est le cas des mesures avec répétitions (chaque échantillon est analysé plusieurs fois). Pour les échantillons dépendants, on utilisera l'analyse de variance à mesures répétées ou l'ANOVA de Friedman pour les cas non paramétriques.

Hypothèses à tester L'hypothèse nulle correspond au cas où les distributions suivent la même loi normale, c'est-à-dire de même moyenne et de même variance. L'hypothèse alternative est qu'il existe au moins deux distributions de moyennes différentes entre elles. En notant et l'hypothèse nulle et l'hypothèse alternative respectivement, on résume les deux hypothèses de la façon suivante :

Décomposition de la variance La première étape de l'analyse de la variance consiste à expliquer la variance totale sur l'ensemble des échantillons en fonction de la variance due aux facteurs (la variance expliquée par le modèle), de la variance due à l'interaction entre les facteurs et de la variance résiduelle aléatoire (la variance non expliquée par le modèle). étant un estimateur biaisé de la variance, on utilise la somme des carrés des écarts (SCE en français, SS pour Sum Square en anglais) pour les calculs et l'estimateur non biaisé de la variance (également appelé carré moyen ou CM).

L'écart (sous-entendu l'écart à la moyenne) d'une mesure est la différence entre cette mesure et la moyenne :

La somme des carrés des écarts SCE et l'estimateur se calculent à partir des formules :

Il est alors possible d'écrire la somme des carrés des écarts totale comme étant une composition linéaire de la somme des carrés des écarts de chaque variable explicative et de la somme des carrés des écarts pour chaque interaction :

Cette décomposition de la variance est toujours valable, même si les variables ne suivent pas de loi normale.

Test de Fisher Par hypothèse, la variable observée suit une loi normale. La loi du χ à k degrés de liberté étant définie comme étant la somme de k variables normales au carré, les sommes des carrés des écarts suivent des lois du χ, avec le nombre de degrés de liberté :

La loi de Fisher est définie comme le rapport de deux lois du χ. Dans le cas de l'hypothèse nulle , le rapport entre deux estimateurs non biaisés de la variance doit donc suivre une loi de Fisher :

Si la valeur de F n'est pas compatible avec cette loi de Fisher (c'est-à-dire que la valeur de est supérieure au seuil de rejet), alors on rejette l'hypothèse nulle : on conclut qu'il existe une différence statistiquement significative entre les distributions. Le facteur de variabilité ne sépare pas la population étudiée en groupes identiques. Pour rappel, la valeur de seuil de rejet est précalculée dans les tables de référence, en fonction du risque de première espèce et des deux degrés de liberté et .

Tests « post-hoc » L'analyse de variance permet simplement de répondre à la question de savoir si tous les échantillons suivent une même loi normale. Dans le cas où l'on rejette l'hypothèse nulle, cette analyse ne permet pas de savoir quels sont les échantillons qui s'écartent de cette loi.

Pour identifier les échantillons correspondant, on utilise différents tests « post-hoc » (ou , MCP pour Multiple Comparison Test). Ces tests obligent en général à augmenter les risques de l'analyse (en termes de risque statistique). Il s'agit d'une généralisation à k populations du test t de Student de comparaison de moyennes de deux échantillons avec ajustement de l'erreur (FDR, FWER, etc.) Par exemple : les tests LSD de Ficher, les tests de Newman-Keuls, les tests HSD de Tukey, les tests de Bonferroni et Sheffé.

Dans la biologie moderne, notamment, des tests MCP permettent de prendre en compte le risque de façon correcte malgré le grand nombre de tests effectués (par exemple pour l'analyse de biopuces).

Lorsque l'on analyse plusieurs variables explicatives ayant plusieurs modalités chacune, le nombre de combinaisons possibles devient rapidement très grand.

Analyse de la variance à un facteur Également appelé , l'analyse de la variance à un facteur s'applique lorsque l'on souhaite prendre en compte un seul facteur de variabilité.

Notation Considérons I échantillons d'effectifs , issu des I populations qui suivent I lois normales de même variance. Chaque individu s'écrit , avec et . L'effectif total est .

Les moyennes par échantillon et totale s'écrivent :

Décomposition de la variance Le modèle s'écrit :

Dans ces conditions, on montre que la somme des carrés des écarts (et donc la variance) peut être calculée simplement par la formule :

La part de la variance totale qui peut être expliquée par le modèle (, aussi appelée variabilité inter-classe, SSB ou Sum of Square Between class) et la part de la variance totale qui ne peut être expliquée par le modèle ( aussi appelée variabilité aléatoire, variabilité intra-classe, bruit, SSW ou Sum of Square Within class) sont données par les formules :

Analyse des résidus

Il est toujours possible que le modèle ne soit pas correct et qu'il existe un facteur de variabilité inconnu (ou supposé a priori inutile) qui ne soit pas intégré dans le modèle. Il est possible d'analyser la normalité de la distribution des résidus pour rechercher ce type de biais. Les résidus, dans le modèle, doivent suivre une loi normale (). Tout écart significatif par rapport à cette loi normale peut être testé ou visualisé graphiquement : center

Test de Fisher Degrés de liberté et variances Par hypothèse, la variable observée suit une loi normale. La loi du χ² à degrés de liberté étant définie comme étant la somme de variables normales au carré, les sommes des carrés des écarts suivent les lois du χ suivantes, avec le nombre de niveaux du facteur de variabilité et le nombre total d'individu :

Les variances s'obtiennent en faisant le rapport de la somme des carrés des écarts sur le nombre de degrés de liberté :

La Loi de Fisher étant défini comme le rapport de deux lois du χ, le rapport suit donc une Loi de Fisher :

Remarque La décomposition des degrés de liberté correspond à la décomposition d'un espace vectoriel de dimension nm en sous espaces supplémentaires et orthogonaux de dimensions respectives et Voir par exemple le cours dispensé par Toulouse III : pages 8 et 9. On peut se reporter aussi au livre classique de Scheffé (1959)

Test d'adéquation à la loi de Fisher :

Il se trouve (comme on peut le voir dans la décomposition mathématique) que les deux termes sont tous les deux une estimation de la variabilité résiduelle si le facteur A n'a pas d'effet. De plus, ces deux termes suivent chacun une loi de χ, leur rapport suit donc une loi de F (voir plus loin pour les degrés de liberté de ces lois). Résumons : Si le facteur A n'a pas d'effet, le rapport de et suit une loi de F et il est possible de vérifier si la valeur du rapport est « étonnante » pour une loi de F Si le facteur A a un effet, le terme n'est plus une estimation de la variabilité résiduelle et le rapport ne suit plus une loi de F. On peut comparer la valeur du rapport à la valeur attendue pour une loi de F et voir, là aussi, à quel point le résultat est « étonnant ».