L'héritabilité mesure la part de variabilité d'un trait phénotypique qui, dans une population donnée, est due aux différences génétiques entre les individus composant cette population. L'héritabilité au sens large est égale à la variance du trait attribuable aux différences génétiques dans la population divisée par la variance totale du trait dans la population. L'héritabilité au sens étroit correspond à une partie de l'héritabilité au sens large, ne tenant compte que de la variance d'origine génétique dite additive.
L'héritabilité est une notion de génétique quantitative, faisant appel à un modèle statistique complexe, qui est souvent mal comprise. L’héritabilité est aussi fréquemment interprétée de manière erronée dans des débats relatifs au déterminisme biologique des traits humains, par exemple pour attribuer à des différences génétiques intergroupes l'explication de différences phénotypiques.
En pratique, l'héritabilité est estimée grâce à une modélisation mathématique des relations entre génotypes et phénotypes. Cette estimation repose sur certaines hypothèses qui ne sont généralement pas vérifiées et qui peuvent être invalides. L'estimation de l'héritabilité d'un trait dans une même population peut ainsi différer selon le modèle et les données utilisés.
Définition Lorsqu'on parle d'héritabilité sans autre précision, en particulier s'agissant d'un trait humain, cela fait normalement référence à la notion d'héritabilité au sens large.
Héritabilité au sens large L'héritabilité au sens large d'un phénotype, notée H², est une mesure de la part de variabilité du phénotype qui dans une population donnée, est due aux différences génétiques entre les individus de cette population. Soient Vg la variance du phénotype attribuable à la variabilité génétique dans la population et Vp la variance totale du phénotype dans la population, l'héritabilité du phénotype dans la population est par définition égale au rapport de la première sur la seconde, soit :
L'héritabilité est habituellement exprimée en pourcentage. Elle est par construction comprise entre 0 et 1, c'est-à-dire entre 0 % et 100 %.
Héritabilité au sens étroit L'héritabilité au sens étroit, notée h², est particulièrement utilisée dans le cadre de la sélection artificielle, lorsqu'on cherche à faire évoluer une population animale ou végétale afin d'obtenir un gain sur un phénotype (production laitière, taille de plantes, etc). Appelé réponse à la sélection (R), ce gain est égal à la différence entre la moyenne de la valeur du phénotype chez les descendants des individus sélectionnés et cette moyenne dans la population initiale. Afin d'obtenir une prédiction du gain qui sera obtenu en sélectionnant un sous-ensemble de la population plus « performant », R peut être estimée à partir de h2 via l'équation dite « du sélectionneur » (breeder's equation) formulée par Jay Lush en 1937 :
avec S = différence entre la valeur moyenne du phénotype dans la population et celle dans la sous-population sélectionnée.
Le calcul de h² est basé sur une décomposition de la variance attribuable à la variabilité génétique. On peut en particulier écrire :
avec : Va = variance additive, c'est-à-dire due aux effets moyens additionnés des deux allèles de chaque locus génétique portés par un individu, Vd = variance de dominance, c'est-à-dire due aux effets de dominance d'un allèle sur l'autre lorsque l'individu est hétérozygote pour un locus génétique (qui introduisent une déviation par rapport à l'effet moyen d'un allèle, appelée résidu de dominance), Vi = variance d'épistasie, c'est-à-dire due aux effets des interactions entre loci génétiques (notion d'épistasie physiologique, à ne pas confondre avec le modèle statistique, l'épistasie statistique).
L'héritabilité au sens étroit est par définition la part de variance du phénotype attribuable à la variance génétique additive, soit :
L'estimation de la réponse à la sélection via l'équation du sélectionneur repose sur plusieurs hypothèses, dont celle que l'estimation faite de h2 est correcte, qu'il n'y a pas d'effets d'épistasie et que la distribution des facteurs environnementaux auxquels sera exposée la population des descendants est la même que celle à laquelle la population des géniteurs a été exposée, et plus fondamentalement sur l'hypothèse que la distribution des génotypes et la distribution des facteurs environnementaux suivent une loi normale. La violation de chacune de ces hypothèses peut entraîner un biais dans un sens ou dans l'autre, les biais induits pouvant ensuite se compenser ou se cumuler selon les cas.
Méthodes d'estimation de l'héritabilité Le calcul de H² (ou de h²) est simple en théorie, mais en pratique la valeur de Vg (ou de Va) n'est pas connue directement, et doit donc être estimée.
Il existe diverses méthodes pour ce faire, toujours basées sur une mesure de l'association entre le degré de proximité génétique des individus et le degré de proximité de leur valeur du trait. Chaque méthode repose sur des hypothèses spécifiques qui peuvent être plus ou moins valides selon le trait considéré ou selon la population considérée, et le choix de méthode dépend du type de données dont on dispose.
En particulier, on peut réaliser sur des populations d'animaux domestiques ou de plantes cultivées des expériences contrôlées qui permettent d'estimer Vg ou Va avec un risque de biais réduit, car on peut dans ce cas évacuer toute covariance entre génotypes et environnements. En revanche, dans une population naturelle pour laquelle on ne dispose que d'études observationnelles (ce qui est typiquement le cas pour les calculs d'héritabilité de traits humains), le risque existe qu'une part de covariance entre génotype et environnement soit incorporée par erreur à l'estimation de l'héritabilité, c'est-à-dire que des effets statistiques de variations du génotype soient pris pour des effets causaux alors qu'ils sont causés par des variations d'environnement qui se trouvent corrélées avec elles.
Toutes les méthodes d'estimation reposent sur une première hypothèse de base selon laquelle la détermination de la valeur du phénotype est correctement modélisée par une fonction P décomposable en la somme de trois fonctions G + E + I, avec G modélisant les effets des gènes, E modélisant ceux de l'environnement et I modélisant ceux de l'interaction entre gènes et environnements. Dans la plupart des cas, une seconde hypothèse est posée pour simplifier : celle que la contribution de l'interaction entre gènes et environnements est négligeable, c'est-à-dire qu'on suppose que les effets d'une différence génétique sont identiques quel que soit l'environnement, et qu'inversement les effets d'une différence d'environnement sont identiques quel que soit le génotype, ou tout au moins que la part de variance induite en moyenne par cette interaction est négligeable.
L'estimation est toujours obtenue avec une certaine imprécision : une estimation d'héritabilité est en principe assortie d'un intervalle de confiance (dont le calcul dépend lui-même de certaines hypothèses). Cette imprécision, variable selon la méthode employée, est d'autant plus grande que l'échantillon de population utilisé pour l'estimation est petit et que le nombre de paramètres inclus dans le modèle servant à l'estimation est grand.
Quand une méthode unique est utilisée mais inclut la construction de plusieurs modèles différents pour estimer l'héritabilité, un algorithme de choix du modèle est appliqué qui recherche celui qui présente le meilleur compromis entre exactitude (le modèle colle bien aux données) et parcimonie (le modèle utilise peu de variables), ou qui sous certaines hypothèses est celui qui a la plus grande probabilité estimée d'être correct.
Méthodes simples utilisant des régressions ou corrélations entre apparentés Toutes les méthodes d'estimation basées sur des études d'apparentés et ne recourant pas à des données génomiques reposent sur l'hypothèse que les liens parents/enfants présumés génétiques le sont effectivement, que les jumeaux présumés monozygotes le sont effectivement et que ceux présumés dizygotes le sont également.
Régression géniteurs-rejetons Dans le cas où on dispose des valeurs du trait chez les individus d'une population et chez leurs géniteurs, une méthode simple d'estimation de l'héritabilité étroite dont les bases ont été posées par Francis Galton utilise le calcul de la régression linéaire des valeurs des individus sur celles de leurs géniteurs (la moyenne de la valeur de la génitrice et de celle du géniteur dans le cas de l'espèce humaine). Sous l'hypothèse que l’environnement commun des géniteurs et de leur progéniture n’influence pas le trait, que le trait n'est affecté ni par des interactions génotype x environnement, ni par des effets d'épistasie, et qu'il n'y a aucune homogamie génotypique (c'est-à-dire que les appariements entre géniteurs sont indépendants de leur proximité génétique), h2 est correctement estimée par la pente de la droite de régression.
Dans le cas des traits humains en particulier, les hypothèses sous-jacentes au calcul sont généralement violées, notamment du fait de l'existence de facteurs environnementaux partagés par les géniteurs et leur progéniture ayant une influence sur le trait, mais aussi de celle de certains types d'effets d'épistasie, ce qui aboutit à surestimer l'héritabilité.
Corrélations entre individus apparentés génétiquement Dans le cas où on dispose des valeurs du trait au sein d'un certain nombre de groupes d'individus ayant un ou plusieurs ascendants génétiques en commun, une méthode simple d'estimation de l'héritabilité (dont la première version a été conçue par Karl Pearson, et qui a ensuite été généralisée par Ronald Fisher) est basée sur le calcul des corrélations entre individus. Sous l'hypothèse que le trait n'est affecté ni par des interactions génotype x environnement, ni par des effets d'épistasie, qu'il n'y a aucune homogamie génotypique et que les environnements sont indépendants des génotypes (les facteurs environnementaux auxquels sont soumis les individus ne varient pas selon leur génotype), on peut estimer H2 en fonction de la corrélation trouvée entre individus apparentés à un degré donné et de deux coefficients de similarité génétique entre individus apparentés à ce degré. L'un de ces coefficients (a) concerne la variance génétique additive (Va) et l'autre (d) concerne la variance génétique de dominance (Vd). On a par exemple a = 1 et d = 1 entre jumeaux monozygotes, a = 1/2 et d = 0 entre parent et enfant, a = 1/2 et d = 1/4 entre deux frères ou deux sœurs, a = 1/4 et d = 0 entre grand-parent et enfant, ou encore a = 1/8 et d = 0 entre cousins germains.
Dans le cas des traits humains, aucune des hypothèses sous-jacentes au calcul n’est valide.
Études d'adoption Une autre méthode simple d'estimation de l'héritabilité est basée sur l'utilisation de cohortes d'enfants adoptés. Le protocole d'étude est basé soit sur l'examen des corrélations entre enfants de mêmes géniteurs mais élevés séparément ou entre enfants de géniteurs différents mais élevés ensemble, soit sur la comparaison des corrélations entre les enfants et leurs parents selon que ceux-ci sont leurs géniteurs ou non. Le principe général consiste à attribuer aux effets environnementaux (donc à 1-H2) la ressemblance entre les parents adoptifs et leurs enfants, de même que celle entre les enfants de géniteurs différents élevés ensemble, et d'attribuer au contraire aux effets génétiques (donc à H2) la ressemblance entre les enfants adoptés et leurs géniteurs, de même que celle entre les enfants de mêmes géniteurs élevés séparément.