thumb|upright=1.5|Le chat domestique, même élevé à l'intérieur, manifeste l'instinct de chasser les oiseaux. L’instinct est la totalité ou partie héréditaire et innée des comportements, tendances comportementales et mécanismes physiologiques sous-jacents des animaux. Il est présent sous différentes formes chez toutes les espèces animales. Son étude intéresse nombre de sciences : biologie animale (éthologie et phylogénie), psychologie, psychiatrie, anthropologie et philosophie. Chez l'humain, il constitue la nature qui s'oppose traditionnellement au concept de culture.
Quelques définitions
Analyse scientifique left|thumb|150px|Nikolaas Tinbergen (gauche) et Konrad Lorenz (droite), 1978.
La science qui a pour objet l'étude de l'instinct et du comportement en général est l'éthologie, ses fondations furent élaborées par Konrad Lorenz (1903-1989), Nikolaas Tinbergen (1907-1988) et Karl von Frisch (1886 - 1982), dans la première moitié du . Ils reçurent conjointement, en 1973, le prix Nobel de physiologie ou médecine pour leurs découvertes concernant « l'organisation et la mise en évidence des modes de comportement individuel et social ». Il s'agit du seul prix Nobel jamais remis à des spécialistes du comportement.
Les méthodes et théories de l'éthologie objective furent introduites progressivement, dans le dernier quart du , de manière disparate en psychologie et en anthropologie. Notons son intégration dans la spécialisation de l'anthropologie qu'est l'étude des grands singes (primatologie) réalisée dans la deuxième moitié du par des spécialistes, maintenant célèbres, tels Louis Leakey (1903-1972), Jane Goodall (1934-2025), Dian Fossey (1932-1985), Desmond MorrisLe Singe nu 1967 (best-seller vendu à plus de dix millions d'exemplaires). (1928-2026) et Birutė Galdikas (1946-2026). La stricte utilisation des méthodes de l'éthologie pour l'étude des comportements instinctifs chez l'homme fut réalisé par Irenäus Eibl-Eibesfeldt (1928-2018) ; fondateur de l'école d'éthologie humaine, il dirige depuis 1975 l'institut Max Planck de Physiologie Comportementale. Nous devons à W.C. Mc. GrewAn ethological study of children's behavior (1972), Academic press, New York and London et N. Blurton-JonesEthological studies of children behaviour (1972), Cambridge university press l'utilisation de l'éthologie pour l'étude des enfants en bas âge (depuis la naissance jusqu'à cinq ans).
L'intégration des théories de l'éthologie aux sciences humaines contribua à la révolution cognitive qui balaya la psychologie américaine au cours des années 1960. Cette révolution peut être grossièrement interprétée comme la victoire de l'innéisme sur le comportementalisme et le culturalisme, mais cette position est trop simpliste car, comme le souligne Konrad Lorenz :
Les approches contemporaines tentent de comprendre les subtiles imbrications de l'inné et de l'acquis : psychologie évolutionniste, , éthologie humaine
left|thumb|150px|Edward Osborne Wilson. right|thumb|150px|Jane Goodall.
Ces études ont permis d'établir que la conception du nouveau-né en tabula rasa n'est pas plus scientifiquement acceptable que celle d'une machine biologique pour toujours entièrement déterminée par ses gènes. Le grand paradoxe émergeant de l'étude scientifique des instincts chez l'homme est que la grande capacité d'apprentissage de l'humain est corrélée à une augmentation des mécanismes comportementaux innés. La capacité d'acquérir une culture humaine n'est donc pas la conséquence, comme on le croyait dans la première moitié du , de la perte de mécanismes « instinctifs » par l'homme, mais bien par un ajout de mécanismes innés spécifiquement humains. Remarquons que cette conception fut défendue, en premier lieu, par Konrad Lorenz au début du puis par Noam Chomsky (né en 1928) vers 1960. Chomsky apporta de nombreux élémentsA Review of B. F. Skinner's Verbal Behavior (1959) article. permettant de penser que la structure syntaxique de toute langue est limitée par des mécanismes innés. Par la suite, plusieurs anthropologues généralisèrent la grammaire universelle de Chomsky à l'ensemble des sphères culturelles (concept de biogrammaire)L'Animal impérial (1971), Robin Fox et Lionel Tiger..
L'étude mathématique formelle de l'évolution des comportements des animaux fut développéeThe Theory of Evolution (1958), London, Penguin Books . par John Maynard Smith (1920-2004), William Donald Hamilton (1936-2000), George R. Price (1922-1975) et populariséeSociobiology: The New Synthesis (1975), Harvard University Press (Twenty-fifth Anniversary Edition, 2000 ). par Edward Osborne Wilson (1929-2021). Ces analyses mathématiques complexes permettent d'expliquer l'essence (l'origine phylogénétique) des comportements des animaux, et de réaliser des prédictions théoriques sur l'existence de tel ou tel comportement dans la nature. Il est également possible de relier des variables comportementales entre elles, comme la durée de la période de séduction et le temps d'élevage de la progéniture. Ces résultats sont également largement utilisés par les psychologues évolutionnistes (voir Écologie comportementale, Sociobiologie, Sélection sexuelle).
Méthode éthologique
L'étude scientifique du comportement part du fait que la seule possibilité d'agir sur le monde, pour un animal, est d'exécuter des contractions musculaires ; un acte peut ainsi se définir comme une séquence de contractions musculaires. Pour déterminer si un acte est inné (génétiquement déterminé) ou acquis (appris), il est possible d'utiliser quatre critères. La séquence est identique chez tous les représentants de l'espèce. Il s'agit de la méthode de comparaison horizontale. La séquence varie en forme et en intensité selon la distance génétique séparant les groupes taxinomiques proches (espèces, genres, familles), révélant la phylogenèse de ces comportements. Il s'agit de la méthode de comparaison verticale. La séquence n'est modifiée par aucune forme d'apprentissage ceci étant facilement vérifiable pour les espèces où les soins parentaux sont absents ou par isolation artificielle dès la naissance. Il s'agit de la méthode par isolation. Dans plusieurs cas, il est possible de remonter vers le centre nerveux responsable de cette séquence comportementale ; la rigidité constitutive de ce centre moteur implique une origine aussi déterminée pour ce type de comportement que pour les organes du corps. Il s'agit de la méthode physiologique.
Coordinations héréditaires Les actes innés sont baptisés coordinations héréditaires par les éthologues et ils possèdent comme caractéristique fondamentale qu'une fois déclenchés ils s'exécutent jusqu'à la fin, même si en cours de mouvement ils perdent toute finalité. De plus, les coordinations héréditaires sont souvent combinées à des taxies qui sont des formes de contrôle (régulation cybernétique) du mouvement. Par exemple, une oie dont un des œufs roule en bas du nid va étendre le cou pour le ramener à l'intérieur. Le mouvement de roulis de l'œuf doit être corrigé par des mouvements droite-gauche du cou, il s'agit de la taxie. De plus, même si l'œuf disparaît (retiré par l'expérimentateur) ou qu'il lui échappe, l'oie doit compléter le mouvement avant de pouvoir recommencer. Les coordinations héréditaires ne se réalisent que dans certains contextes. Les contextes motivationnels sont des états spécifiques dans lesquels se trouve l'animal et qui permettent de déclencher tel ou tel comportement en fonction de stimuli externes. Par exemple, pour que soit déclenché le mouvement pour ramener un œuf par une oie, il faut absolument que celle-ci soit en train de couver ; la couvaison est un contexte motivationnel. Certaines coordinations héréditaires comme la marche ou la course se trouvent associées à plusieurs contextes motivationnels et sont utilisées au cours d'autres coordinations héréditaires plus complexes.
Dans la nature, les cas de transmission culturelle sont des exceptions pratiquement miraculeuses, très étudiées et documentées ; même chez les grands singes non humains. Pour la plupart des animaux, l'ensemble des coordinations sont héréditaires et les coordinations culturelles sont, en pratique, l'apanage de l'humain. L'apprentissage de nouvelles coordinations chez les animaux ne se fait pas par la création de nouveaux gestes, mais bien par le simple enchaînement de coordinations héréditaires. Seul l'humain possède une telle maîtrise sur ses mouvements qu'il puisse inventer des gestes inéditsLa conception erronée que les animaux et en particulier les autres mammifères possèdent des capacités cognitives comparables à l'homme fut violemment combattu par Lorenz dans toute son œuvre, en particulier il combattit la conception finaliste du comportement. Remarquons que Lorenz a établi que pour tous les animaux, la gestuelle est stéréotypée (concept d'éthogramme).« Nos dispositions à exécuter des mouvements exceptionnellement compliqués découlent du fait que notre cortex moteur entretient beaucoup plus de connexions avec nos muscles. Chez d'autres mammifères, le cortex frontal joue un rôle moins direct dans le comportement moteur. La plupart des autres animaux se fient largement aux parties archaïques du cerveau pour produire leurs comportements. » Jeff Hawkins et Sandra Blakeslee, Intelligence, CampusPress, 2005, . Cependant, il serait tout à fait faux de prétendre que les coordinations héréditaires n'existent pas chez l'humain.
Chez les humains L'expression faciale des émotions (joie, tristesse, surprise, peur) sont des exemples de coordination héréditaire ; en effet, ils obéissent aux quatre critères.
Verticale. Déjà dans L'Expression des émotions chez l'homme et les animaux publié en 1872, Darwin démontre clairement que les coordinations utilisées pour exprimer la surprise, la peur et la tristesse chez les grands singes sont les mêmes que pour l'homme. Il remarque que le comportement se rapprochant le plus du sourire et du ricanement est le comportement de défiance qui consiste à montrer ses canines. Il établit ainsi un lien phylogénétique entre le sourire, le ricanement et le comportement d'agressionCharles Darwin, L'expression des émotions chez l'homme et les animaux, Ricanement, Défi, à . Horizontale. Les expressions faciales se retrouvent exprimées de la même façon dans toutes les sociétés humaines. Ceci fut démontré par Eibl-Eibesfeldt qui filma, à leur insu, les expressions de plusieurs peuplades à travers le monde. Par isolation. Les expressions faciales sont parmi les premiers comportements des bébés. Cependant, il est impossible d'isoler un bébé à la naissance pour vérifier si ce comportement est inné ou acquis par imitation. L'existence de cas d'enfants et de bébés sourds et aveugles de naissance a permis à Eibl-Eibesfeldt de démontrer que ces coordinations étaient bien innées. Physiologique. L'étude du système nerveux par la psychiatrie clinique, la neurologie et la neurochirurgie a permis de mettre en évidence les centres nerveux responsables des expressions faciales. Par exemple, les ganglions de la base et la formation réticulée ont un rôle primordial pour la production de sourires spontanés.
Bien que l'humain soit capable de contrôler le déclenchement d'une coordination héréditaire, ceci est extrêmement difficile ; essayez de ne réaliser aucune expression faciale durant toute une journée. Par contre, comme pour tous les animaux, il lui est impossible de l'arrêter en cours d'exécution. Il est donc impossible de déglutir à moitié ou d'arrêter au milieu d'un pas, seulement au début ou à la fin. Remarquons qu'il en est de même pour tous les gestes automatiques appris comme allumer un interrupteur ou saisir une poignée de porte. Ce type d'apprentissage, programmé dans le cervelet, ne peut s'interrompre en cours d'exécution.