La communication est l’échange d’informations entre un émetteur et un receveur. Dawkins et Krebs (1978) définissent la communication comme étant l’action d’un émetteur qui influence le système sensoriel d’un récepteur, ce qui change le comportement du récepteur au bénéfice du premier, le bénéfice se manifestant par une augmentation de la valeur sélective de l’émetteur.

Les signaux sont les véhicules convoyant l’information lors de la communication. Ils sont définis par Otte (1974) comme des caractéristiques morphologiques, physiologiques et comportementales des organismes maintenus par la sélection naturelle parce qu’ils convoient de l’information. On notera cependant que ces traits peuvent transmettre de l’information sans avoir été originellement sélectionnés pour cette fonction (cf. cooptation).

La communication visuelle concerne l’ensemble des interactions s’accordant avec la définition de communication selon Dawkins et Krebs, et dont le mode de transmission de l’information est un ou des signaux visuels, c’est-à-dire, un ensemble d‘ondes électromagnétiques visibles, ou encore : de la lumière visible (cf. Nature du signal visuel). Le sens associé à ce moyen de communication est la vue.

La communication visuelle est marquée par plusieurs étapes, depuis la production et l'émission du signal jusqu'aux décisions du récepteur basées sur le signal reçu. Les divers mécanismes de l'évolution (dérive génétique, sélection sexuelle (cf. 1.1), sélection sur les traits affectant la survie (cf. 1.2), mutations, migrations) peuvent opérer indépendamment et différemment à chacune de ces étapes.

Mécanismes évolutifs

L’évolution telle que décrite par Charles Darwin dans son ouvrage L'Origine des espèces (1859) est la transformation des traits des individus d’une population (microévolution), d’une espèce ou d’un clade (macroévolution) dans le temps pouvant mener à la spéciation. Depuis Darwin, de nouveaux éléments ont été ajoutés à la théorie de l’évolution jusqu’à aboutir à une théorie synthétique de l'évolution. Cette théorie reprend la mécanique de la sélection naturelle de Darwin mais inclut également les mécanismes de l'hérédité découvert par Gregor Mendel à la fin du ainsi que les résultats des travaux en génétique des populations pour expliquer l’évolution comme étant le changement dans le temps de la fréquence des allèles au sein d’une population.

L’évolution repose sur plusieurs mécanismes dont la sélection naturelle, mais pas uniquement. Les mutations génétiques aléatoires, la dérive génétique, et les migrations sont autant de mécanismes qui façonnent l'évolution des populations et des espèces.

La sélection naturelle ne peut s’opérer que si trois conditions sont réunies dans une population :

1/ la population présente une variabilité phénotypique (variabilité d’un trait) ;

2/ ce trait doit affecter la valeur sélective des individus ;

3/ ce trait est transmissible par hérédité.

La valeur sélective représente le succès reproducteur relatif d’un individu dans une population tout au long de sa vie. Il peut être évalué de manière directe par le nombre total de descendants de l'individu atteignant la maturité sexuelle dans la génération suivante. La valeur sélective d’un individu peut-être aussi formalisée comme étant le produit de sa fécondité et de sa survie relativement à celles des autres individus de la population. Les individus avec les meilleures valeurs sélectives propagent leurs gènes dans la population : il y a évolution. Finalement, la sélection naturelle peut être vue comme le fait que les traits qui favorisent la survie et la reproduction dans un milieu donné voient leur fréquence s'accroitre d'une génération à l'autre. En particulier, la sélection s’appliquant sur les traits liés à des différences de succès reproductif basées sur la variabilité d’accès aux partenaires sexuels est définie comme étant la sélection sexuelle.

Ainsi, la sélection naturelle explique l’adaptation des espèces à leur environnement (a minima leur environnement passé récent). Une adaptation évolutive est une caractéristique sélectionnée par la sélection naturelle car elle permet à l’individu d’augmenter sa valeur sélective relative au sein de la population. En conséquence, elle permet à la population de se maintenir car sa valeur sélective moyenne augmente. L’adaptation désigne à la fois le résultat (le trait sélectionné) et le phénomène par lequel les organismes sont en adéquation avec leur milieu.

La communication visuelle, comme toute caractéristique des organismes vivants n’échappe pas aux forces de sélection.

Sélection sexuelle

Principe vignette|Figure 1 : Paon (Pavo sp.) mâle faisant la cour à une femelle

La sélection sexuelle constitue un moteur majeur dans l’évolution des systèmes de communication visuelle. Darwin est le premier à parler de sélection sexuelle. Chez un grand nombre d’espèces, il observe que les mâles présentent une incroyable diversité de traits et notamment des signaux visuels (couleurs vives, motifs complexes, ornements exagérés) qui ne semblent apporter aucun avantage en termes de survie. Il en résulte un dimorphisme sexuel entre mâles et femelles. Le Paon en est un exemple bien connu : le mâle porte des couleurs vives et déploie une queue impressionnante lors de la parade nuptiale tandis que la femelle porte une queue courte et des couleurs plus ternes (cf. figure 1). Darwin en 1859 explique ces différences par la sélection sexuelle qu’il décrit comme reposant sur « une lutte entre mâles pour la possession des femelles et dont le résultat pour le compétiteur non dominant ne serait pas la mort mais la production de peu ou d’aucun descendants ». La sélection sexuelle se traduit alors par des différences du nombre d’accouplements et donc de fécondité.

Elle repose sur deux mécanismes : La sélection intersexuelle : choix du partenaire s’exerçant généralement par les femelles sur les mâles. Cette différence entre mâles et femelles peut s’expliquer par la théorie de Trivers sur l’investissement parental : l’investissement dans la production d’un descendant réduit la capacité du parent à investir dans la production d’autres descendants. Cet investissement est souvent plus important chez les femelles qui deviennent le sexe limitant et optimisent leur fitness par le choix de leurs partenaires. La sélection intrasexuelle : compétition entre les individus de même sexe (généralement mâles) pour l’accès aux partenaires (femelles).

Évolution de la préférence Dans le cadre de la sélection intersexuelle, des traits et notamment des signaux visuels (couleurs, motifs, ornements)  ayant pour but l’attraction du partenaire sexuel ont pu être sélectionnés s’ils augmentent la fitness de l’émetteur. Ces traits peuvent devenir exagérés si, malgré un coût pour la survie, les individus qui les portent bénéficient d’un fort succès reproducteur via l’attraction des femelles. Pour qu’ils soient sélectionnés, le trait ainsi que la préférence doivent être héritables. Hypothèse des signaux honnêtes Beaucoup de ces traits portés par les mâles permettent d’indiquer à la femelle la qualité du mâle soit en termes de bénéfices directs (protection, apport de nourriture) soit en tant qu’indicateurs de « bons gènes » qui seront transmis à la descendance (survie plus élevée). Ces signaux sont dits honnêtes quand ils indiquent avec exactitude la qualité du mâle (état de santé, vigueur…). La théorie du handicap formulée par Zahavi (1975) permet d’expliquer l’évolution de ces traits dit « honnêtes » par le fait que ces caractères qui ont évolué par sélection sexuelle confèrent un coût de survie aux individus qui les portent (ex : vulnérabilité aux prédateurs accrue).  Certains signaux seraient donc trop coûteux pour être simulés et seraient donc nécessairement « honnêtes ». Biais sensoriel Selon cette hypothèse, le trait de préférence préexiste dans le système sensoriel de la femelle qui aurait évolué dans un contexte autre que la sélection sexuelle. Lorsque les mâles développent un trait exploitant cette préférence, ce trait serait alors positivement sélectionné. Des études ont démontré que les femelles de nombreuses espèces avaient tendance à préférer les mâles portant des motifs symétriques. Cette préadaptation du système sensoriel à détecter les motifs symétriques aurait été sélectionnée car apportant un avantage à distinguer les objets par rapport à leur position et leur orientation dans le champ de vision. Emballement évolutif de Fisher. Selon la théorie de l'emballement évolutif ou runaway développée par Fisher en 1930 il existe un rétrocontrôle positif entre le trait porté par le mâle et la préférence chez la femelle : Une préférence forte chez la femelle lui permettra de mieux distinguer les mâles porteurs de « bons gènes » et ainsi d’optimiser la fitness de ses descendants. Le trait sera d’autant plus avantageux que la préférence sera forte. Cela explique la présence d’ornements extravagants renforçant la détectabilité par les femelles.

Le modèle de Russel Lande montre qu'une liaison génétique ou covariance non nulle entre le trait et la préférence conduit sous certaines conditions à un emballement évolutif. Ces conditions dépendent de la force de cette covariance mais aussi des gradients de sélection sexuelle et de sélection via la survie associée au trait : un emballement évolutif peut se produire lorsque la covariance génétique entre le trait et la préférence ainsi que la sélection sexuelle sont particulièrement fortes.

Sélection agissant sur les traits affectant la survie

Principe La sélection naturelle agit sur l'ensemble des traits affectant la survie des individus. En effet, la fitness d’un individu dépend directement de sa capacité à survivre : pour être en mesure de se reproduire, si possible plusieurs fois, il faut avant tout pouvoir survivre. Les individus survivant mieux peuvent réaliser plus d’événements de reproduction et donc transmettre davantage leurs gènes à la génération future via leurs descendants : leur fitness est supérieure. Mieux survivre, correspond, selon le principe de niche écologique de G.E. Hutchinson (1957), à augmenter sa niche réalisée. D’un point de vue évolutif, des phénotypes ayant une meilleure fitness ont une niche réalisée plus grande car ils sont de meilleurs compétiteurs, mais peuvent aussi avoir une niche fondamentale plus large, en acquérant la capacité à détecter et exploiter de nouvelles ressources. Ces mécanismes d'évolution influencent la capacité à survivre dans une niche donnée, et résultent dans l’évolution des traits biologiques des populations lorsque l'environnement change.

Stratégie de prédation et anti-prédateur Les pressions dues à la prédation favorisent les proies présentant les meilleures stratégies anti-prédation et les prédateurs les plus performants. Les caractéristiques de communication visuelle sont sélectionnés pour que les proies augmentent leur capacité à échapper aux prédateurs, en les impressionnant (comportement déimatique), en indiquant une dangerosité réelle ou non (aposémantisme, mimétisme, comportement déimatique…), ou encore en se substituant de leur champ visuel (camouflage, encre…). Chez les prédateurs, la compétition se matérialise par une concurrence pour l’accès aux ressources (i.e. les proies) où les capacités visuelles de détection sont fondamentales.

Compétition interspécifique La compétition interspécifique se matérialise par une compétition pour l’accès à la même ressource (e.g. nourriture, territoire...), par deux espèces différentes. Ici, les capacités visuelles de détection sont fondamentales. Les capacités à effrayer un compétiteur, ainsi qu’à indiquer son territoire entrent aussi en compte.

Compétition intraspécifique