Il existe une grande diversité de formes et de couleurs associées aux ailes des papillons. De nombreux mécanismes sont à l'origine de l'évolution de la coloration des papillons et de la diversité phénotypique des papillons actuels tels que la sélection naturelle, la sélection sexuelle, les stratégies anti-prédation (mimétisme batésien, mimétisme müllérien, le cryptisme c'est-à-dire la faculté des êtres vivants à se confondre avec leur environnement) ou encore les aspects développementaux et la plasticité phénotypique.
Deux types de couleurs chez les papillons Couleurs chimiques La couleur chimique est produite par la biosynthèse de pigments qui vont absorber certaines longueurs d'onde et en réfléchir d'autres. La couleur perçue par nos yeux correspond aux longueurs d'onde réfléchies. Les couleurs comme le rouge, le jaune et le noirStevens, M. & Ruxton, G. D. 2011 Linking the evolution and form of warning coloration in nature. Proc R. Soc. B., 279, 417-426. sont particulièrement représentées chez les papillons. Malgré leur brillance, elles permettraient soit de se fondre dans l'arrière-plan lorsqu'elles sont associées à des rayures ou autres motifs, soit d'avoir plus de contraste lorsque ce sont des couleurs pleines. Les motifs et couleurs employés dépendent donc de leur utilité (camouflage, sélection sexuelle, etc.). Selon la position et l'orientation du papillon et de ses ailes, la symétrie du motif rend plus difficile la détection ou augmente l'évitement des prédateurs. Les papillons de couleur rouge, jaune et/ou noir sont moins visibles à l'ombre que des papillons d'autres couleurs. Ces couleurs ont toutes une grande chromaticité (valeur représentant la qualité d'une couleur sans comprendre sa luminosité) et un contraste lumineux.
Couleurs structurelles La couleur structurelle ou physique est produite à l'aide de structures nanoscopiquesWasik, B. R. et al. 2014 Artificial selection for structural color on butterfly wings and comparison with natural evolution. PNAS, 111(33), 12109-12114. qui améliorent la réflectivité de certaines longueurs d'onde et peut produire des couleurs perçues différentes et irisées.
Par exemple les Lycaenidae Polyommatinae également appelés argus ou azurés de par leurs nuances bleutées possèdent des ailes d'une nanostructure de type "pepper-pot"Bálint, Z. et al. 2012 The well-tuned blues: the role of structural colours as optical signals in the species recognition of a local butterfly fauna (Lepidoptera: Lycaenidae: Polyommatinae). J. R. Soc. Interface, 9, 1745-1756. (littéralement "poivrier") qui permet de décrire un agencement des nanostructures avec des arêtes qui entourent une surface perforée. Cette structure, composée majoritairement de chitine et d'air, permet aux différentes espèces de Lycaenidae de distinguer aussi bien les partenaires sexuels que les compétiteurs. Plus précisément, une variation dans la nanostructure va modifier de façon quantitative et qualitative la nuance de bleu des ailes dorsales de l'animal. Elle est souvent non détectable par l’œil humain mais les ommatidies des yeux composés des papillons possèdent quatre types de photorécepteurs qui permettent de distinguer ces variations.
Chez une autre espèce, Bicyclus anynana, l'évolution de la couleur s'est faite par modification structurelle des écailles (augmentation de l'épaisseur) et physique (diminution d'absorption par les écailles). En effet, parmi les 80 espèces du genre Bicyclus, certaines ont évolué d'une couleur marron vers des motifs bleutés en milieu naturel. Cette évolution a été reproduite en laboratoire par sélection artificielle.
Mécanismes d'évolution de la coloration Il faut remarquer que la coloration des ailes chez la plupart des papillons est différente sur la partie dorsale, visible quand le papillon a les ailes ouvertes, et ventrale quand il a les ailes fermées. La sélection naturelle aurait joué un rôle sur les parties ventrales des ailes (avec une coloration généralement type "camouflage") et la sélection sexuelle un rôle pour les parties dorsales des ailes (avec plutôt des couleurs vives pour attirer les partenaires par exemple).
Sélection naturelle et prédation La sélection naturelle est l'un des grands mécanismes jouant un rôle dans l'évolution. Les individus possédant des avantages en termes de survie et de reproduction sont sélectionnés tandis que les autres sont éliminés. Il suffit d'imaginer un papillon dont la coloration le rend plus visible aux yeux des prédateurs: il sera consommé avant d'avoir eu le temps de se reproduire et ne contribuera donc pas à la génération suivante. La sélection sexuelle est également très liée à la pression de prédation (la pression exercée par le prédateur sur sa proie) ce qui entraîne des adaptations chez les individus concernés et donc leur évolution. En effet, l'apparition de caractères sexuels secondaires tels que des colorations ou des motifs extravagants attire les partenaires mais également les prédateurs. Il y a donc nécessairement un compromis (trade-off) entre survie et reproduction.
Mimétisme batésien Mimétisme chez les deux sexes au sein d'une espèce Le mimétisme batésien est une forme de mimétisme impliquant trois acteurs : une espèce modèle, un imitateur de l'espèce modèle et un prédateur qui affecte la mortalité des deux premiers acteurs. L'espèce modèle avertit par aposématisme sa non-profitabilité à la consommation au prédateur (mauvais goût et/ou toxicité chez les papillons). Le prédateur apprend ainsi à éviter cette espèce par reconnaissance visuelle des motifs et couleurs. Des motifs simples (rayures, points, etc.) semblent faciliter et accélérer l'apprentissage de l'évitement par les prédateurs. L'espèce imitatrice qui ne cause pas de désagrément au prédateur a un avantage sélectif puisqu'il profite du même signal d'avertissement que l'espèce modèle et augmente ainsi sa survie par diminution du taux de prédation.
Il a été mis en évidence une relation entre intensité du désagrément et vitesse d'apprentissage chez les prédateurs. Ainsi un imitateur imparfait peut être sélectionné si son modèle est extrêmement toxique ou répugnant Lindström, L. et al. 1997 Imperfect Batesian mimicry - the effects of the frequency and the disastefulness of the model. Proc. R. Soc. Lond. B, 264, 149-153.. Le taux de survie des imitateurs augmente avec le perfectionnement de la ressemblance au modèle. Les imitations parfaites sont mieux protégées que les imitations intermédiaires qui doivent présenter un ressemblance suffisante pour que les bénéfices soient supérieurs aux coûts de la colorationMapples, J. & Alatalo, R. V. 1997 Batesian mimicry and signal accuracy. Evolution, 51(6), 2050-2053.. Lorsque l'imitateur est en forte proportion il perturbe le processus d'apprentissage du prédateur qui aura une plus forte probabilité de rencontrer l'imitateur que l'espèce modèle. Dans ce cas le mimétisme est contre-sélectionné puisque le taux de mortalité des deux espèces augmente. C'est également valable lorsque l'espèce modèle disparaît. Ainsi le mimétisme batésien est un processus fréquence-dépendantWiklund, C. & Järvi, T. 1982 Survival of distasteful insectes after being attacked by naive birds: a reappraisal of the theory of aposematic coloration evolving through individual selection. Evolution, 36(3), 998-1002..
Exemple de Limenitis archippus, Danaus plexippus et Danaus gilippus
Limenitis archippus, communément appelé Vice-roi Ritland, D. B. 1998 Mimicry-related predation en two Viceroy butterfly (Limeninitis archippus) phenotypes. The American Midland Naturalist, 140(1), 1-20., a une distribution géographique allant de l'est au sud des États-Unis d'Amérique dont certaines zones sont partagées avec Danaus plexippus, appelé Monarque, à l'est et Danaus gilippus, appelé Queen, au sud. Une même espèce peut donc changer d'un motif à l'autre au cours de l'évolution selon sa répartition géographique et l'espèce modèle qu'elle côtoie. Cela correspond à la divergence de phénotypes héritables et implique donc une sélection directionnelle (type de sélection naturelle qui favorise les phénotypes extrêmes d'une population).
Exemple de Limenitis arthemis et Battus philenor
De nombreuses études théoriques et expérimentales ont été réalisées sur la fréquence dépendance du mimétisme batésien mais l'observation de cette propriété en milieu naturel est plus compliquée. Ries & Mullen (2008) Ries, L. & Mullen, A. P. 2008 A rare model limits the distribution of its more common mimic: a twist on frequency-dependent batesian mimicry. Evolution 62(7), 1798-1803. ont examiné chez Limenitis arthemis comment la distribution et l'abondance d'un modèle se défendant chimiquement influencent la force de sélection dans le cadre du mimétisme batésien. Il existe chez cette espèce nord-américaine des populations non mimétiques (Limenitis arthemis arthemis) et d'autres mimétiques (L. a. astyanax), qui ressemblent au Papilionidae toxique Battus philenor. Les auteurs ont cherché à déterminer si la distribution de la forme mimétique dépendait de la présence du modèle et de sa proportion. L'absence du modèle ne favorise pas le maintien de la forme mimétique L. a. astyanax. En revanche, la contre-sélection de la forme mimétique lorsque le modèle est rare n'a pas été vérifiée. Battus philenor étant hautement toxique, cela implique que même à faible densité il est avantageux pour l'imitateur de maintenir son mimétisme.
Ainsi l'évolution de la coloration chez les papillons mimétiques batésiens est influencée par la sélection naturelle et la fréquence-dépendance de l'espèce modèle et donc de sa localisation géographique.
Mimétisme chez un seul sexe au sein d'une espèce Dans certaines espèces, les deux sexes font du mimétisme, dans d'autres, seules les femelles sont mimétiques. Deux mécanismes ont été proposés pour comprendre pourquoi seules les femelles font du mimétisme comme chez les familles Pieridae ou Papilionidae, chez la sous-famille DanaidaeOhsaki, N. 1995 Preferential predation of female butterflies and the evolution of batesian mimicry. Nature, 378, 173-175., ou encore l'espèce Papilio polytesOhsaki, N. 2005 A common mechanism explaining the evolution of female-limited and both-sex Batesian mimicry in butterflies. Journal of Animal Ecology, 74, 728-734. : Les mâles mimétiques allouent plus d'énergie à leur coloration et sont désavantagés lors de la compétition intrasexuelle pour un territoire en raison des coûts de la coloration en terme énergétique (biosynthèse des pigments). Les mâles mimétiques seraient alors désavantagés pour la reproduction car le choix des femelles s'oriente vers des territoires attractifs possédés par les mâles non mimétiques. Les études ont montré que les femelles se font plus prédater que les mâles. L'hypothèse de cette différence s'explique par le fait que les femelles portant des œufs sont plus lourdes, moins agiles et lentes à l'envol. Le bénéfice des femelles par le mimétisme est alors beaucoup plus important que les coûts de coloration. La fréquence dépendance impose que les mimétismes rares soient les plus efficaces et durables.
Mimétisme müllerien Fritz Müller (1821-1897) propose en 1879 que deux espèces de papillons présentant des désagréments à la consommation et partageant le même pattern de coloration en tant que signal d'avertissement sont avantagées puisqu'elles répartissent le coût d'apprentissage des prédateurs par deux. Ce phénomène de convergence évolutive des patterns de coloration entre les différentes espèces de papillons s'appelle le mimétisme müllérien.
Exemple des papillons du genre Heliconius