thumb|La queue et la parade nuptiale du paon sont des produits de la sélection sexuelle. Leur fonction biologique est de séduire la femelle « Central Parc », in The mating mind, Geoffrey Miller (chap. 1)..
La sélection sexuelle constitue l'un des deux mécanismes de la sélection naturelle, celui qui est lié à la « lutte pour la reproduction », distincte et complémentaire de la « lutte pour la survie » (ou sélection de survie). Cette théorie comprend deux mécanismes de base, la compétition intrasexuelle et la sélectivité intersexuelle.
Proposée par Charles Darwin dès 1859, l'idée d'une sélection sexuelle a été rejetée pendant plus d'un siècle, victime des a priori des biologistes. Ce n'est que dans les années 1990 que ce domaine de recherche a pris son essor, la sélection sexuelle se révélant en réalité une pierre angulaire de la sélection naturelle.
Présentation générale thumb|Exemple classique de dimorphisme sexuel : le cerf volant.
Le concept de sélection sexuelle désigne, dans la compétition entre les individus d'une même espèce en vue de l'accouplement, l'évolution de certains traits héréditaires de façon indépendante des facteurs de survie propres (ex : le plumage de parade nuptial du paon est un phénotype clairement désavantageux pour échapper aux prédateurs mais très avantageux dans la séduction d'une femelle). Cette compétition entre individus d'une même espèce (compétition « intraspécifique ») exerce une pression de sélection différente sur les individus mâles et femelles d'une même population (compétition « sexe-dépendante »).
En biologie évolutive, la sélection naturelle correspond à toute sélection d'une meilleure capacité de survie ou de se reproduire dans un contexte donné (écosystème à l'équilibre, écosystème en crise, etc). Parler spécifiquement de « sélection sexuelle » permet de circonscrire un des aspects de l'Évolution : la capacité à se reproduire. Cette sélection sexuelle fait principalement appel à deux phénomène moteurs : le choix du partenaire (sélection intersexuelle) et la compétition pour l'accès aux membres du sexe opposé (sélection intrasexuelle)Male-Male Competition, www.oxfordbibliographies.com. Une troisième composante, la compétition spermatiqueSperm Competition and Sexual Selection, participe aussi de la sélection sexuelle une fois les accouplements effectués (il s'agit de la compétition entre spermatozoïdes de différents individus au sein d'une même femelle). La sélection sexuelle est un mécanisme complexe parallèle à la sélection naturelle de survie (ou « sélection écologique »), qui peut parfois prendre le pas sur celle-ci (exemple de cas extrême : les éphémères adultes ont perdu toute capacité de survie au profit des fonctions copulatoires). La sélection naturelle est en toute rigueur une combinaison sinon un compromis de ces deux types de sélections (sexuelle et écologique).
Parmi les illustrations frappantes et étudiées du phénomène de la sélection sexuelle : Le dimorphisme sexuel : les différences morphologiques entre mâles et femelles d'une même espèce reposant sur des parties et organes autres que génitaux. C'est notamment le cas avec le plumage nuptial des oiseaux de paradis ou encore du paon mâles (les plumes du dos formant la fameuse « queue » chatoyante associé à l'animal).
La différence d'espérance de vie : dans beaucoup d'espèces, les mâles ont une espérance de vie plus courte (ex : cas des hyménoptères) ou modifiée du fait des activités liées à la préproduction (ex : combats et quasi-jeûne chez les mâles cervidés à la saison du brâme). L'inverse existe aussi (ex : les pieuvres femelles meurent rapidement après éclosion de leurs œufs).
Selon la théorie du handicap, parce qu'un trait est facteur de risque pour la survie, il fait parfois l'objet d'une sélection sexuelle : les individus survivant malgré ce handicap sont potentiellement de bons reproducteurs car possédant d'autres traits (plus favorables) pour compenser. Par exemple la couleur foncée de la crinière du lion mâle est un autre phénomène de sélection sexuelle par les femelles, bien qu'un tel mâle souffre d'autant plus de la chaleur.
Historique Charles Darwin et L'Origine des espèces thumb|Charles Darwin distingue la « sélection naturelle » conférant un avantage de survie, et la « sélection sexuelle » conférant un avantage reproductif.
En publiant L'Origine des espècesCharles Darwin, L'Origine des espèces [édition du Bicentenaire], trad. A. Berra sous la direction de P. Tort, coord. par M. Prum. Précédé de Patrick Tort, « Naître à vingt ans. Genèse et jeunesse de L’Origine ». Paris, Champion Classiques, 2009. (1859), Charles Darwin révolutionne ce qui n'était alors que l'hypothèse de l'évolution en proposant le mécanisme de sélection naturelle fondé sur la reproduction différentielle des individus en fonction de leur capacité à survivre. Conscient de ce que l'aptitude à la survie est insuffisante pour expliquer certaines variations, il y propose également la sélection sexuelle comme mécanisme complémentaire, arguant que la compétition entre individus pour la reproduction sexuée peut aussi être un facteur majeur d'évolution de certains traits inexplicables dans le seul cadre de la sélection écologique, l'exemple le plus connu cité par Darwin étant celui de la queue du paon : (L'Origine des espèces, Charles Darwin)
L'idée que les espèces peuvent évoluer était connue, avec les travaux de Lamarck, Geoffroy Saint-Hilaire ou Cuvier ; l'idée de sélection naturelle était dans l'air, et Alfred Russel Wallace l'exprime dans son essai de 1858, un an avant Darwin ; mais l'idée d'une sélection sexuelle était en revanche originale et révolutionnaire. Pour Darwin, la « sélection sexuelle » se présente comme une intermédiaire entre la « sélection naturelle » aveugle et la « sélection artificielle » de l'éleveur visant une qualité particulière de l'espèce domestique : la sélection sexuelle est une sélection intéressée, fondée sur un processus cognitif, mais qui ne vise que l'intérêt reproductif du sélectionneur. Mais alors que sélections naturelle ou artificielle peuvent s'appliquer à n'importe quelles espèces, Darwin considère que la sélection sexuelle ne peut s'opérer qu'à travers l'action d'un système cognitif élaboré, ce qui la rapproche plus de la sélection artificielle de l'éleveur que de la sélection naturelle imposée par les forces de la nature« Darwin's prodigy », in The mating mind, Geoffrey Miller (chap. 2). : (L'Origine des espèces, Charles Darwin)
La Filiation de l'homme et la sélection liée au sexe
thumb|Chez l'éperonnier chinquis, la tache blanche est toujours en haut de l'ocelle quand le mâle fait la roue.
Bien que la sélection sexuelle soit donc mentionnée dans L'Origine des espèces, elle n'est exposée qu'en trois pages, ne faisant même pas l'objet d'un chapitre. Il y consacre par la suite tout un ouvrage, la Filiation de l'homme et la sélection liée au sexeCharles Darwin, La Filiation de l’Homme et la sélection liée au sexe, trad. sous la direction de P. Tort, coord. par M. Prum. Précédé de Patrick Tort, « L’anthropologie inattendue de Charles Darwin ». Paris, Champion Classiques, 2013. (1871).
Dans la Filiation de l'homme et la sélection liée au sexe, Darwin souligne par exemple que chez l'éperonnier chinquis, la tache blanche est toujours en haut de l'ocelle quand le mâle fait la roue, et que la seule fonction possible de ce trait est la parade nuptiale ; ce qui démontre à la fois que la sélection sexuelle peut produire des traits extrêmement complexes, et que la femelle dispose d'une capacité cognitive capable d'en apprécier la régularité et de sanctionner d'éventuelles imperfections. Mais il souligne également qu'un tel « choix » n'implique pas nécessairement de conscience, et peut intervenir chez toute espèce animale disposant d'un système nerveux suffisamment discriminant, comme des crustacés ou des insectes. (la Filiation de l'homme et la sélection liée au sexe, Charles Darwin)
Pour Darwin, la sélection sexuelle peut prendre deux formes : la compétition entre mâles, conduisant à une course aux armements, et la compétition pour attirer les femelles, conduisant à une course à l'ornementation. Ces compétitions ont pour conséquences d'accentuer le dimorphisme sexuel, et d'induire des divergences rapides entre espèces.
Mais il ne sait pas expliquer pourquoi ce sont les mâles qui font leur parade et les femelles qui choisissent.
Une théorie rejetée Expliquer l'évolution des espèces non par la volonté divine mais par la pression de la Nature était une chose, mais prétendre remplacer la main du Créateur par les pulsions lubriques de créatures aux cerveaux guère plus gros que des pois était dépasser les bornes : ce n'était plus de l'athéisme, mais de la pornographie athée. La théorie de la sélection se voit d'autant moins acceptée que Darwin la développe dans un ouvrage, la Filiation de l'homme et la sélection liée au sexe, où il défend aussi l'idée que certains attributs humains sont des purs produits de la sélection sexuelle. Il cite ainsi des traits dimorphiques comme la barbe présente chez les seuls individus mâles. ou la relativement faible pilosité humaine comparée aux autres mammifères. comme exemples de produits de la sélection sexuelle chez l'être humain.
La majorité des savants de l'époque refusait en effet de voir dans la sélection sexuelle autre chose qu'une forme de sélection de survie liée à la compétition entre les mâles d'une espèce, refusant l'idée que le choix des femelles puisse exercer une quelconque pression évolutive. Dans l'esprit de l'époque, s'il était acceptable que des mâles puissent se disputer les faveurs d'une femelle, c'est naturellement la jeune femme qui se pare de brillants atours pour attirer l'attention des célibataires. L'idée que des mâles puissent être des produits acceptés ou rejetés par le choix des femmes était impensable.
Dans l'Angleterre victorienne, Darwin eut beaucoup de difficultés à défendre cet aspect de sa théorie contre ses contemporains, comme face à son collègue Alfred Wallace qui était pourtant simultanément arrivé à une formulation analogue de la théorie de la sélection écologique. Pour Wallace, par exemple, les traits brillants et excessifs résultent naturellement de l'exubérance de la vie elle-même ; quand ils sont partagés entre mâles et femelles ils correspondent à une fonction de reconnaissance mutuelle de l'espèce ; mais les femelles ont une pression sélective plus forte pour gagner un meilleur camouflage et protéger leur portée.
Les critiques de Wallace furent meurtrières, et jusque vers 1930, l'idée d'une sélection sexuelle n'a été considérée que comme une curiosité aberrante dans l'histoire de la sélection naturelle.
Ronald Fisher et l'indicateur d'adaptation Le physicien et statisticien Ronald Fisher. contribue à renouveler la notion en appliquant des méthodes statistiques à la génétique des populations.
Fischer s'intéresse à la sélection sexuelle dès 1915, dans une publication. où il se demande ce qui conduit le choix des femelles à être déterminé par tel ou tel trait du mâle, ou plus exactement, quel peut être l'avantage sélectif pour elles de choisir tel ou tel ornement apparemment inutile, et donc, quelle peut être l'origine évolutive d'une telle préférence.
Il suppose alors que ces ornements ont pu être d'une manière ou d'une autre un indicateur de vitalité, de bonne santé, et donc en fin de compte d'une bonne adaptation due aux gênes et héritable. Dans ce cas, une préférence de la femelle pour cet ornement lui confère une descendance mieux adaptée que la moyenne, et donc un avantage reproductif, qui se traduit par plus de descendants de ce couple. De ce fait, cette meilleure adaptation du mâle et la préférence associée de la femelle se répandront dans la population, et deviennent des caractères corrélés.