En mathématiques, une orientation est une convention à fixer pour l'objet étudié, dont la formulation dépend de la nature de cet objet. Elle se révèle nécessaire, par exemple, pour régler des problèmes de signes. Si l'espace possède une orientation canonique, l'orientation d'espaces vectoriels ou de figures géométriques en général relève d'une convention arbitraire. Tous les objets concernés n'admettent pas forcément une orientation : ils sont dits orientables ou non orientables selon le cas.
Approche intuitive
Pour se repérer dans son espace de vie, être capable de communiquer sa position ou sa trajectoire, il est nécessaire d'appréhender et de définir des orientations. Aussi l'Homme a-t-il inventé les vocables de gauche et de droite, d'avant et d'arrière, de haut et de bas, d'est et d'ouest, de nord et de sud. Cependant, ces vocables ne sont pas de même essence. La définition du haut et du bas est liée à celle du champ gravitationnel ou à la position de notre corps, celle d'avant et d'arrière est liée à une ligne de vision, celle d'est et d'ouest est liée au lever et au coucher du Soleil : elles relèvent d'expériences directes. La notion de gauche et de droite, ou de nord et de sud est d'une autre nature : elles ne relèvent pas d'une expérience, mais d'une convention arbitraire. La difficulté qu'éprouvent certaines personnes à distinguer la droite de la gauche montre que la notion d'orientation n'est pas si simple que cela à percevoir. Elle exige en effet d'introduire une rupture dans une configuration perçue a priori comme ayant une certaine symétrie, et de s'entendre sur des conventions communes.
En mathématiques, la mise en place de l'orientation s'est d'abord effectuée sur des objets simples – la droite, le plan, l'espace – en s'appuyant souvent sur l'intuition. Le mathématicien s'est ensuite attaché à définir l'orientation de manière plus rigoureuse et sur des objets plus complexes comme les lignes courbes, les espaces de dimension n et les surfaces.
La droite
On oriente une droite en choisissant sur celle-ci un sens de parcours, c'est-à-dire un vecteur unitaire On verra par la suite que la condition unitaire (de longueur 1) est simplificatrice mais inutile. . Le parcours de A vers B est dit positif si le vecteur est un multiple positif du vecteur , c'est-à-dire si les deux vecteurs ont le même sens.
On ne peut choisir que deux vecteurs unitaires différents sur une même droite, il y a donc deux orientations possibles de la droite. Aucune orientation n'a de raison objective d'être privilégiée. Par tradition seulement, une droite parallèle à la ligne d'écriture sera orientée de la gauche vers la droite comme la lecture du français.
Le plan
On oriente le plan en choisissant deux vecteurs unitaires orthogonaux (base orthonormée)On verra par la suite que la condition orthonormale est simplificatrice mais inutile.. On est alors capable d'orienter le cercle unité puis les angles. Si le plan est orienté par la base orthonormale et si, dans le repère , les points A et B ont pour coordonnées respectives (1 ; 0) et (0 ; 1), le parcours le plus court sur le cercle du point A au point B sera dit parcours positif et l'angle correspondant sera dit angle droit positif.
Deux bases orthonormales superposables par rotation définissent la même orientation du cercle unité. On distingue alors deux orientations possibles du plan. Une base orthonormale étant donnée, changer un vecteur en son opposé ou permuter les deux vecteurs change l'orientation du plan.
Dans un plan matériel vu par un observateur, une orientation dans laquelle les aiguilles d'une horloge tournent dans le sens positif est appelée orientation horaire ou sens des aiguilles d'une montre. En mathématiques, on privilégie plutôt l'autre orientation appelée orientation antihoraire ou sens trigonométrique.
L'espace
Orienter l'espace, c'est choisir trois vecteurs unitaires deux à deux orthogonaux (base orthonormale).
On dit que deux bases (orthonormales) définissent la même orientation si, par rotation autour d'un axe, on peut les superposer. De nouveau, deux types d'orientations sont possibles. Une base étant donnée, changer un vecteur en son opposé ou permuter deux vecteurs modifie l'orientation de l'espace. Opérer une permutation circulaire des trois vecteurs ne change pas l'orientation : et définissent la même orientation.
La culture, ici aussi, a privilégié un sens appelé direct : celui correspondant au vissage d'une vis ou d'un tire-bouchon. La base est dite directe si, en tournant de vers avec un angle positif, la vis ou le tire-bouchon parcourt l'axe donné par dans le sens croissant. C'est ainsi que l'orientation est directe et permet accessoirement de distinguer la droite et la gauche. C'est la même orientation directe que l'on obtient avec la règle des trois doigts de la main droite : le triplet (pouce, index, majeur) définit une orientation directe. Les règles du bonhomme d'Ampère et du tire-bouchon de Maxwell sont utilisés par les physiciens pour expliquer intuitivement ce que signifie orienter l'espace. On voit donc que le choix d'une orientation de l'espace physique est liée à la notion de droite et de gauche.
Si cette convention est choisie, alors on a concrètement : Le sens direct (ou orienté à droite) de l'espace correspond au mouvement d'une vis que l'on visse dans une plaque de bois ; Son sens indirect (ou orienté à gauche) correspondant alors au mouvement de la vis que l'on dévisse de cette plaque de bois.
Il est cependant évident que ces définitions s'appuyant sur un contexte culturel ne peuvent pas être satisfaisantes pour un mathématicien et qu'il s'est révélé nécessaire de donner des définitions plus générales et non contingentes. Cette définition s'établira à l'aide de la notion de déterminants .
Orientation d'une courbe L'orientation d'une courbe (en toute rigueur, différentiable) est imposée par le choix d'une paramétrisation. Une courbe a exactement deux orientations. Intuitivement, l'orientation d'une courbe est un sens de parcours : si on se représente une courbe par une route à double sens, il y a deux façons différentes de la parcourir suivant le sens dans lequel on roule. Formellement, deux paramétrisations définissent la même orientation lorsque les vecteurs dérivés sont positivement proportionnels ; on définit ainsi une relation d'équivalence sur l'ensemble des paramétrisations d'une courbe, et on dispose de deux classes d'équivalence distinctes, appelées orientations. Si c(t) est un paramétrage de la courbe (t est un paramètre réel), le sens direct est le sens dans lequel t augmente. L'application est un autre paramétrage qui définit la seconde orientation.
Pour une courbe définie dans un espace vectoriel réel euclidien E, l'abscisse curviligne est une version orientée de la longueur. À une constante additive près, sa définition dépend d'un choix arbitraire de signe qui correspond exactement au choix d'une orientation de la courbe. L'abscisse curviligne augmente quand on parcourt la courbe dans le sens direct, et diminue donc dans l'autre sens. On peut choisir librement son origine, c'est-à-dire le point où elle prend la valeur 0. L'abscisse curviligne est alors positive ou négative selon qu'on est en deçà ou au-delà de l'origine.
Un premier exemple parlant est celui du cercle unité. Il est vu comme une courbe de R2 définie par :
Ce paramétrage naturel définit une orientation du cercle unité, appelée orientation trigonométrique ou sens anti-horaire.
Un exemple plus élémentaire est une droite affine D d'un espace vectoriel réel E (éventuellement de dimension infinie). Les paramétrages classiques sont donnés par le choix d'un point M de D et d'un vecteur directeur v de D ; le paramétrage correspondant est . De tels paramétrages définissent la même orientation de D lorsque les vecteurs directeurs correspondants sont positivement colinéaires. La droite réelle R est naturellement orientée par les réels positifs.
Orientation d'un espace affine L'orientation d'une droite affine dépend du choix d'un vecteur directeur, ou plutôt du choix d'un tel vecteur à positive colinéarité près. Le choix d'une orientation pour un espace affine de dimension finie doit donc dépendre du choix d'un repère ; mais l'origine doit jouer un rôle secondaire dans la définition. L'orientation est donc imposée par le choix d'une base de l'espace directeur.
Deux bases d'un espace vectoriel réel E définissent la même orientation lorsque le déterminant de la matrice de passage est (strictement) positif. Cette matrice est évidemment inversible : son déterminant est donc non nul. Est ainsi définie une relation d'équivalence sur l'ensemble des bases de E, relation admettant exactement deux classes d'équivalence, les orientations de E. Une fois fixée une orientation, une base de E est dite soit base directe (ou positivement orientée) soit base indirecte (ou négativement orientée) selon que cette base définit l'orientation choisie ou l'autre. Une orientation d'un espace affine est une orientation de l'espace directeur. Le vocabulaire correspondant est repère direct ou repère indirect.
L'espace Rn admet une base canonique, et donc une orientation canonique.
Cette définition généralise fort heureusement la situation en dimension 1.
Orientation d'un plan
Pour un plan vectoriel P, le choix d'une orientation est imposé par le choix de deux vecteurs non colinéaires, formant donc une base . Intuitivement, l'orientation d'un plan consiste à définir la manière de tourner autour d'un point. On tourne autour de 0 en parcourant une courbe enfermant 0, en allant de en direction de et en retournant à sans faire demi-tour. Il n'est donc pas étonnant que la question de l'orientation soit liée au problème des angles orientés en géométrie euclidienne.
L'orientation d'un plan vectoriel euclidien E se résume essentiellement au choix d'une orientation de son cercle unité. Cette orientation revient à fixer un signe au niveau des mesures d'angle.
Par le théorème de Jordan, une courbe de Jordan, c'est-à-dire une courbe périodique et simple (injective sur une période), d'un plan orienté P borde un domaine compact du plan P (voir figure). Il existe donc une notion naturelle d'intérieur et d'extérieur. On impose à un paramétrage c que pour tout vecteur sortant n(t) en c(t), (c '(t), n(t)) soit une base directe. Ainsi, toute courbe de Jordan d'un plan orienté est naturellement orientée.
Orientation de l'espace de dimension trois Orienter l'espace consiste également à choisir une base directe arbitraire.
L'orientation d'un espace vectoriel euclidien de dimension 3 autorise l'introduction du produit vectoriel. L'orientation intervient dans le choix du sens du vecteur .
Espace vectoriel complexe Un espace vectoriel complexe E de dimension finie est, en tant qu'espace vectoriel réel, naturellement orienté. Plus exactement, si est une base complexe de E, alors est une base vectorielle réelle de E. Si M est la matrice de passage entre deux bases complexes e et f, alors la matrice de passage entre les bases réelles correspondantes est :
Son déterminant est . Étant positif, les bases e' et f' définissent les mêmes orientations de E.
Orientation d'une surface Une fois choisie une orientation de l'espace de dimension 3, pour orienter un plan, on choisit un vecteur normal à ce plan : une base du plan est alors dite directe si la base de l'espace l'est.
Plus généralement, la définition de l'orientation d'une surface dépend de la manière de regarder cette surface (points de vue intrinsèque ou extrinsèque).
Une orientation d'une surface S est la donnée d'orientations de ses plans tangents TMS, et qui en un sens à préciser sont compatibles. Si ce plan tangent peut se réaliser comme un plan vectoriel de R3, le choix d'une orientation se résume au choix d'une orientation sur l'orthogonal, qui est une droite vectorielle. La définition de l'orientation des surfaces plongées dans R3 est donc particulière.