vignette|redresse=1.5|Analyse en composantes principales des populations européennes actuelles à partir de et (2009)..
L’histoire génétique des populations européennes débute au Paléolithique supérieur avec l'arrivée en Europe il y a des hommes modernes ou EEM. venus d'Afrique via le Moyen-Orient.
Avec le dernier maximum glaciaire, un effet fondateur se produit, et provoque une augmentation de la pression sélective qui permet à une lignée de prendre de l'ampleur au Mésolithique. Ce premier groupe est appelé chasseurs-cueilleurs ouest-européens (West Hunter Gatherers ou WHG). La révolution néolithique voit l’arrivée d'un second groupe, des agriculteurs (Early European farmers ou EEF) venus de l’ouest de l’Anatolie. Puis, au cours de l'âge du bronze, parviennent en Europe les Yamnayas (Western Steppe Herders ou WSH) originaires des steppes pontiques. Cette population est notamment associée à l’expansion des langues indo-européennes.
La plupart des Européens modernes descendent de ces trois populations anciennes en des proportions différentes : la part de fermiers anatoliens (EEF) est plus importante en Europe du Sud, et l’ascendance chasseur-cueilleur de l’ouest (WHG) et Yamnayas (WSH) domine génétiquement l'Europe du Nord et du Nord-Est.
Les recherches sur la génétique des populations ont débuté à partir de la seconde moitié du , notamment avec les premières publications de Luigi Luca Cavalli-Sforza en 1964, mais le premier génome humain ne fut entièrement séquencé qu'en 2004. L’étude du génome des individus anciens devint plus accessible à partir des années 2010 grâce à l'équipe de Svante Pääbo, et accélère considérablement depuis 2014. Ainsi, les données actuelles sont récentes et évoluent au fil des nouvelles études.
Paléolithique
La préhistoire des peuples européens peut être retracée par l’étude des sites archéologiques, de la linguistique et de l’ADN des Européens modernes ou des génomes anciens.
Néandertal et l'Homme moderne vignette|upright=1.3|Répartition de l'Homme de Néandertal, présence avérée : Les Néandertaliens ont occupé une grande partie de l’Europe et de l’Asie de l’ouest il y a au moins , l’individu le plus ancien retrouvé en Europe datant de . Ils y ont prospéré jusqu’à il y a environ . Les hommes modernes quant à eux arrivèrent d'Afrique, via le Moyen-Orient, en Europe il y a environ . La transition entre le Paléolithique moyen et le Paléolithique supérieur en Europe se caractérise donc par le remplacement ou l’absorption partielle de l'homme de Néandertal par l'homme moderne.
Étant donné que les deux hominidés ont cohabité pendant un certain laps de temps, les anthropologues se sont longtemps demandé comment ils avaient pu interagir. Cette question fut résolue seulement en 2010, quand il fut démontré que les populations eurasiennes possédaient une moyenne d’1,5-2,1 % d’ADN néandertalien (1,8 à 2, 4 % pour les Européens et 2,3-2,6 % pour les Asiatiques de l’est)..
En effet, des découvertes réalisées par Svante Pääbo (Société Max-Planck pour le développement des sciences), Richard E. Green (Université de Californie) et David Reich (Harvard Medical School) en comparant le matériel génétique de trois Néandertaliens avec ceux de cinq hommes modernes, ont démontré un lien entre l’homme de Néandertal et les populations modernes non-africaines.
Par ailleurs, une étude de 2017 suggère que l’ADN néandertalien au sein des anciens Européens ne serait pas issu des populations néandertaliennes présentes en Europe au même moment.. L’introgression entre Néandertal et l’homme moderne aurait plutôt eu lieu au Proche-Orient il y a environ avant l’arrivée de l’homme moderne en Europe..
Il y a pu avoir toutefois des mélanges sporadiques entre les deux espèces en Europe comme c’est le cas avec l’individu Oase 1 daté entre retrouvé en Roumanie.. Cependant, l’individu n’étant pas plus étroitement apparenté aux Européens qu’aux Asiatiques de l’est, on peut en déduire que la population à laquelle il appartenait est restée sans descendance.
Du fait de la sélection naturelle, le pourcentage d’ADN néandertalien des anciens Européens a chuté progressivement à travers le temps. De de notre ère, ce pourcentage est passé de 6 à 3 % en moyenne à 2 %..
Paléolithique supérieur
vignette|droite|upright=1.3|Extension de la culture Aurignacienne, qui coïncide avec l'arrivée dHomo sapiens. Les premiers hommes modernes venus d'Afrique via le Moyen-Orient ont commencé à s’installer en Europe pendant le Paléolithique supérieur, il y a environ . Les plus anciens restes en Europe ont été retrouvés en 2020 en Bulgarie dans la grotte de Bacho Kiro, et datés par leur ADN mitochondrial entre avant notre ère..
Les plus anciens individus séquencés en Europe-Eurasie de l’ouest, sont Ust-Ishim (Sibérie) daté de et Oase1 (Roumanie) autour de . Ces deux individus faisaient probablement partie des populations pionnières dans cette zone mais n’ont pas contribué au génome des populations européennes modernes. Il y a , un supervolcan situé près de Naples (Italie) a projeté une nappe de cendres sur l’Europe. Cet évènement a pu provoquer un long hiver durant plusieurs années et exacerbé la compétition entre humains modernes et Néandertaliens. L’archéologie a montré qu’après cette couche, aucun outil néandertalien n’a plus été retrouvé et la plupart des lignées humaines semblent s’être éteintes. Il est donc probable qu’il y ait eu plusieurs vagues d’arrivées d’humains modernes en Europe.
À la suite de l’éruption volcanique, la culture aurignacienne s’étend en Europe et s’impose sur tout le continent. vignette|La Dame de Brassempouy est un témoignage remarquable de l'art gravettien. Les cultures paléolithiques avant le dernier maximum glaciaire se caractérisent par des outillages, et des représentations symboliques particulièrement remarquables. Par exemple les peintures pariétales de la grotte Chauvet correspondent à la culture aurignacienne ou encore les « Vénus » paléolithiques sont liées au Gravettien.
Par ailleurs, « les données archéologiques et biomécaniques indiquent que les populations du Paléolithique supérieur ancien étaient mobiles et dispersées de l’Europe méditerranéenne jusqu’aux plaines russes. Les correspondances entre les composantes technologiques, symboliques et stylistiques de leurs cultures suggèrent que ces chasseurs-cueilleurs étaient capables de maintenir des contacts intergroupes et une continuité biologique sur de vastes territoires. Cela mène à considérer l’existence de réseaux d’échange, et d’un haut niveau de flux génétiques, entre des populations très distantes »..
Plusieurs haplogroupes semblent présents en Europe depuis le Paléolithique : Pour les lignées patrilinéaires du chromosome Y : L’haplogroupe C1a2, L’haplogroupe I (M170), l’haplogroupe R1 (M173). Pour les lignées matriliénaires de l’ADNmt :
Dernier maximum glaciaire vignette|redresse=1.4|L'Europe lors du dernier maximum glaciaire, vers . vignette|redresse=1.3|Zones refuges pour Homo sapiens en Europe pendant le dernier maximum glaciaire. Elle représente la répartition des cultures, et non une présence humaine effective. L'aurignacien est à l'ouest, et concerne de plus toute la péninsule ibérique ; le gravettien est au centre et à l'est.
Le dernier maximum glaciaire (DMG) a été atteint il y a environ . La période de glaciation a commencé il y a environ , menant à une dépopulation de l’Europe du Nord. Selon un modèle qui a prévalu pendant longtemps, les populations auraient migré vers des refuges climatiques Human ecological niches and ranges during the LGM in Europe derived from an application of eco-cultural niche modeling William E. Banks, Francesco d’Errico, A. Townsend Peterson, Marian Vanhaeren, Masa Kageyama, Pierre Sepulchre, Gilles Ramstein, Anne Jost, Daniel Lunt – 5 janvier 2010 https://halshs.archives-ouvertes.fr/halshs-00444132/document : l’Ibérie du nord et le sud-ouest de la France qui forment ensemble le refuge « franco-cantabre » ; les Balkans ; l’Ukraine et plus généralement la côte nord de la mer Noire ; l’Italie.
Cependant, d'après des études plus récentes, le refroidissement climatique, particulièrement difficile autour de (période du Gravettien tardif), aurait provoqué l’extinction de 60 % des populations à travers l’Europe, à l’exception des zones les plus au sud comme le Portugal qui sont restées assez stables. Ce phénomène a réduit ainsi l’ensemble de la diversité génétique en Europe. Par exemple, on constate à cette période la disparition définitive de l’haplogroupe mitochondrial M alors qu’il est présent dans les populations d’Asie de l’est actuelles. Selon Andreas Maier et Andreas Zimmerman de l'université de Cologne, il est toutefois possible que certains individus des zones plus au nord se soient aussi dispersés plus largement en Europe centrale..
Toutefois, la période ne peut se résumer uniquement à ces refuges. D’après une étude de 2015, les zones d’habitation à cette période y compris au plus fort du DMG n’étaient pas fragmentées et couvraient 36 % de l’Europe. La limite nord se situait globalement au niveau du centre de la France, du sud de l’Allemagne, de l’Ukraine et de la partie européenne de la Russie. Les zones ibériques et méditerranéennes furent néanmoins les lieux les plus favorables pour les chasseurs-cueilleurs« Human population dynamics in Europe over the LastGlacial Maximum »Miikka Tallavaara, Miska Luoto, Natalia Korhonen, Heikki Järvinen, and Heikki Seppä – 2015 https://www.pnas.org/content/pnas/112/27/8232.full.pdf. L’Europe s’est repeuplée doucement à partir de avec la fonte des glaciers.
Pendant longtemps il a été difficile de se représenter clairement les dynamiques des populations pendant cette période glaciaire car quatre individus seulement avaient été étudiés. Une étude de 2016 menée par le laboratoire de David Reich et portant sur 51 individus a permis d’apporter quelques éclaircissements.
D'une part, il a été déterminé que tous les individus anciens, datés entre et en Europe, descendaient d’une unique population ancestrale génétiquement isolée (c’est-à-dire qu’elle ne s’est pas croisée avec d’autres populations hors Europe).
Deux populations principales semblent avoir cohabité avant le DMG et pendant : Les individus de la lignée de l’individu Goyet Q116-1 en Belgique (il y a , voir Grottes de Goyet) liés à la culture aurignacienne et magdalénienne. On les retrouve en Belgique, Allemagne, France et Espagne. Goyet Q116-1 est l’un des plus anciens individus de la population ancestrale européenne. Il se relie à la culture aurignacienne (). Puis sa lignée se retrouve plus tard, après le DGM, dans le cluster d’El Miron () qui correspond aux chasseurs-cueilleurs magdaléniens. On constate donc ici une continuité génétique sur les deux versants du DMG. Il est possible que les individus de la lignée de Goyet 116-1 se soient réfugiés dans le sud-ouest de l’Europe avec le refroidissement climatique. Les individus liés à la culture gravettienne se rassemblant dans le cluster de Vestonice. Ces derniers sont proches de Kostenki14 (Russie - ), Buran Kaya III (Crimée – entre ) et l’individu Sunghir3 (Russie et )..On a retrouvé des individus en République tchèque, Belgique, Autriche, Italie. Malgré leur grande dispersion géographique, ils étaient très proches génétiquement. Depuis l’Europe orientale, ils semblent s’être propagés à l’ouest, repoussant la lignée aurignacienne y compris à Goyet en Belgique.
Tous les individus analysés à partir de (comme Kostenki14 en Sibérie et Goyet Q116-1 en Belgique) partagent une parenté avec les Européens actuels.
En dehors de l'Europe, les restes retrouvés d'un jeune garçon de Culture de Malta-Buret, vers le lac Baïkal en Sibérie, qui a vécu il y , permet d'établir une parenté entre Amérindiens et Européens. Des individus de sa lignée ont pu, il y a , traverser le détroit de Bering par la Béringie et s'établir aux Amériques, Ce n'est que plus tard que d'autres membres de sa lignée s'établiront en Europe.