420px|vignette|Modélisation de la distribution géographique des espèces du genre Homo durant les deux derniers millions d'années. L'axe horizontal représente la localisation géographique tandis que l'axe vertical représente le temps en millions d'années AP. La surface bleue indique la présence de certaines espèces en un lieu et à une période donnée. Les hommes modernes se sont propagés depuis l'Afrique à travers toutes les régions du globe et se sont hybridés avec des Néandertaliens, des Dénisoviens et d'autres espèces humaines encore inconnues.
Il existe des preuves d'hybridation entre humains modernes et humains archaïques pendant le Paléolithique moyen et au début du Paléolithique supérieur. Plusieurs épisodes d'hybridation indépendants se sont produits. Les populations eurasiennes sont ainsi issues de l'hybridation avec des Néandertaliens peu après la sortie d'Afrique, mais d'autres épisodes avec des espèces humaines non identifiées sont survenus. L'espèce Homo sapiens trouverait même son origine dans une hybridation, il y a environ , entre une lignée principale (80 %) et une autre (20 %), qui avaient divergé depuis d'années. Cet article traite principalement des épisodes d'hybridation survenus après les sorties d'Afrique dHomo sapiens.
L'ADN néandertalien représente environ 2 % du génome des Eurasiens, alors qu'il est bien moindre chez les peuples subsahariens. Dans les populations mélanésiennes et aborigènes actuelles, la part de l'ADN dénisovien atteint de 2,3 % à 3,7 %. Réciproquement, les Néandertaliens ont hérité de 2,5 % à 3,7 % d'ADN sapiens. Des analyses d'ADN non comparatives (en l'absence de découverte d'une autre espèce) suggèrent par ailleurs que les populations africaines ont reçu un apport génétique d'une espèce humaine africaine disparue.
Les données génétiques montrent que l'évolution humaine ne peut pas être considérée comme une évolution cloisonnée consécutive à la divergence de différentes lignées. Les formes modernes et archaïques se sont en effet croisées de nombreuses fois en Afrique, au Moyen-Orient et en Asie, et le flux génétique allait dans les deux sens. Certains gènes acquis par hybridation ont notamment pu être sélectionnés chez Homo sapiens en raison de leur caractère adaptatif. Toutefois, l'hybridation n'a pas été jusqu'au brassage complet des différents groupes humains, puisque chacun d'eux a finalement conservé son identité propre. De ce fait, l'évolution humaine récente se présente plutôt, a posteriori, comme une évolution de groupes distincts avec des épisodes ponctuels d'hybridation.
Historique L'hypothèse qui porte le nom d'hybridation, de mélange ou de théorie des origines hybrides a été discutée depuis la découverte des premiers restes néandertaliens au , bien que les premiers auteurs pensaient que les Néandertaliens étaient des ancêtres directs des hommes modernes. Thomas Huxley suggéra que beaucoup d'Européens portaient des traces d'ancêtres néandertaliens, mais il considérait les caractéristiques de l'Homme de Néandertal comme des traits primitifs. Postulant qu'ils appartenaient à une « étape du développement de l'espèce humaine antérieure à la différenciation de toutes les races existantes », il considérait que « nous devrions les retrouver dans la plus inférieure de ces races, partout dans le monde, et au commencement de chacune d'entre elles » (« If these characters belong to a stage in the development of the human species, antecedent to the differentiation of any of the existing races, we may expect to find them in the lowest of these races, all over the world, and in the early stages of all races »).
Hans Peder Steensby, dans son article Racestudier i Danmark (« Études sur les races au Danemark ») de 1907, rejeta la comparaison des Néandertaliens avec des singes ainsi qu'une éventuelle infériorité et, tout en mettant en avant que l'homme moderne avait des origines variées, suggéra la théorie de l'hybridation comme la meilleure explication d'un certain nombre d'observations scientifiques d'alors.
Au milieu du , Carleton Coon considérait que ceux que l'on appelait alors « Caucasiens » avaient deux origines : la première, du Paléolithique supérieur (mélange entre l’H. sapiens et l’H. neanderthalensis) et la seconde, méditerranéenne (purement H. sapiens). Il reprit sa théorie dans un ouvrage de 1962 appelé The Origin of Races.
Néandertaliens Néandertaliens et Eurasiens En 2010, le séquençage du génome des Néandertaliens révéla que ces derniers partageaient plus d'allèles avec les populations eurasiennes (par exemple, françaises, han ou papoue-néo-guinéenne) qu'avec les populations subsahariennes (tel que les Yorubas et les San). D'après l'étude, cet écart de similarité génétique s'expliquait par un flux de gènes récent des Néandertaliens vers les humains modernes après la dernière sortie d'Afrique. En 2013, les mêmes chercheurs estimèrent que la proportion de gènes néandertaliens chez les Eurasiens actuels se situaient entre 1,5 % et 2,1 %. L'hybridation récente est également soutenue par les analyses des déséquilibres de liaison. De 20 % à 40 % du génome néandertalien a subsisté au sein des populations eurasiennes modernes.
De manière cohérente avec les données fossiles et archéologiques, le transfert aurait eu lieu quelque part dans l'ouest de l'Eurasie, probablement au Proche-Orient. Un nombre croissant de recherches soutiennent l’hypothèse d’événements d’hybridation multiples. En particulier, il a été montré que de multiples événements d’hybridation à la fois dans le temps et l’espace en Eurasie occidentale correspondaient aux taux d’ascendance néandertalienne observés dans les populations modernes Claudio S. Quilodrán, Jérémy Rio, Alexandros Tsoupas et Mathias Currat, Past human expansions shaped the spatial pattern of Neanderthal ancestry, Science Advances, Vol 9, Numéro 42, 18 octobre 2023, DOI: 10.1126/sciadv.adg9817.
De l'ADN néandertalien (2 %) a été découvert dans le génome de l'Homme d'Ust-Ishim. La date du croisement Homo neanderthalensis - Homo sapiens remonterait de avant l’existence de l'Homme d'Ust-Ishim, daté d'environ AP.
Dans le passé, les taux d'ascendance néandertalienne étaient spatialement plus hétérogènes ; ils sont devenus plus homogènes au cours de l'Holocène sous l'effet des flux génétiques résultant des mouvements de population et des migrations.
Une étude révèle que les gènes néandertaliens identifiés dans le génome des Européens actuels ont une structure qui n'est pas proche des gènes des Néandertaliens européens tardifs. Les gènes néandertaliens des Eurasiens actuels sont plus proches des Néandertaliens de Mezmaïskaïa (Caucase) que de ceux de Denisova (Altaï) ou de Vindija (Croatie).
Variations régionales Asie Des études récentes montrent qu'il y a légèrement plus d’ADN néandertalien chez les populations d'Asie de l’est que chez les Européens. Bien que l'ascendance néandertalienne soit relativement uniforme parmi les populations eurasiennes modernes, elle est environ de 8 % à 24 % plus élevée en Asie de l'Est qu'en Europe. Cette observation est inattendue, puisque la répartition géographique actuellement connue des Néandertaliens se situait presque exclusivement dans la partie occidentale de l’Eurasie.
Cela pourrait signifier que deux événements distincts de transfert de gènes ont eu lieu chez l'homme moderne et que les premiers ancêtres des populations de l’Asie de l'est ont connu plus d'hybridations que les premiers ancêtres des Européens après la divergence des deux groupes. Il est aussi possible que la différence soit causée par une dilution de l'apport néandertalien chez les Européens à la suite du métissage ultérieur avec des populations moins ou non hybridées. Ces résultats pourraient également résulter d'une sélection négative inférieure en Asie de l’est par rapport à l'Europe. Il a aussi été observé qu'il y avait une variation petite, mais statistiquement significative, du taux de mélange au sein des populations européennes, tandis que ces variations ne sont pas significatives dans les populations d'Asie de l’est.
Afrique du Nord Une étude parue en 2012 a montré que les populations nord-africaines ont un taux d'hybridation situé entre celui des Eurasiens (le plus élevé) et celui des populations subsahariennes (le plus bas). Cette étude a également montré une grande variation entre les Nord-Africains eux-mêmes, principalement en fonction de l'importance de l'ascendance eurasienne ou subsaharienne. Cependant, il semblerait que ce résultat n'ait pas pour seule cause l'introgression eurasienne.
Afrique subsaharienne L'apport des Néandertaliens a également été retrouvé, épisodiquement mais significativement, chez les Maasaï, un peuple est-africain. Après avoir identifié les origines africaines et non africaines au sein des Maasaï, il a pu être déduit qu'un apport récent de gènes d'humains modernes non africains (postérieur à l'hybridation avec les Néandertaliens) est à l'origine de cette contribution génétique, car environ 30 % du génome des Maasaï a des origines non africaines remontant à environ une centaine de générations.
En 2020, la comparaison du génome d'un Néandertalien de l'Altaï avec modernes incluant cinq sous-populations africaines montre qu'elles comportent une moyenne de d'origine néandertalienne, soit 0,3 % de leur génome. Une partie au moins de ces gènes néandertaliens procure une amélioration du système immunitaire et une protection contre le rayonnement ultraviolet, et a dû être retenue sélectivement. La moitié environ de l'ADN néandertalien a sans doute été apportée par des hommes modernes revenus en Afrique au cours des vingt derniers millénaires après une hybridation partielle avec des Néandertaliens ; le reste pourrait ne pas être réellement d'origine néandertalienne mais avoir été acquis par les Néandertaliens de l'Altaï par hybridation avec des hommes modernes au Moyen-Orient il y a plus de , à l'occasion d'une sortie d'Afrique précoce...
Europe Il aurait existé un taux d'ascendance néandertalienne plus élevé en Europe qu'en Asie juste après la dernière sortie d'Afrique. Les échantillons étudiés révèlent plus précisément que la réduction temporelle de l’ascendance néandertalienne est liée à la latitude. Les échantillons du sud de l'Europe montrent ainsi une ascendance néandertalienne presque constante au fil du temps, tandis que les échantillons du nord ont connu une réduction entre environ AP.
L'expansion des premiers agriculteurs du Néolithique a contribué de manière décisive à réduire l'introgression néandertalienne dans les populations européennes par rapport aux populations asiatiques. En effet, les agriculteurs du Néolithique portaient moins d’ADN de Néandertal que les chasseurs-cueilleurs du Paléolithique précédents. Certaines études ont suggéré que les premiers agriculteurs ont pu être en partie génétiquement dérivés de la lignée « eurasienne basale ». Cette lignée aurait divergé des autres populations eurasiennes de chasseurs-cueilleurs avant que ces dernières ne se mélangent aux populations néandertaliennes, ce qui expliquerait leur ascendance néandertalienne moindre.
Variations au sein du génome ADN mitochondrial Aucun ADN mitochondrial d'origine néandertalienne n'a été trouvé dans les populations actuelles. Les diverses hypothèses envisageables sont que l'ADN mitochondrial néandertalien portait des incompatibilités qui conduisaient à l'extinction du porteur, que les hybrides issus des mères néandertaliennes restaient plutôt dans les groupes néandertaliens et se sont éteints avec eux, ou que les femelles néandertaliennes et les mâles sapiens n'avaient pas de progéniture fertile.
Chromosome Y De plus, aucune trace de gènes issus du chromosome Y néandertalien n'a été identifiée chez les hommes modernesFernando L. Mendez et al., The Divergence of Neandertal and Modern Human Y Chromosomes, 2016. doi: 10.1016/j.ajhg.2016.02.023Génétique: l'homme de Néandertal et la femme moderne étaient incompatibles.