L'analyse canonique des corrélations, (ACC) parfois aussi nommé analyse des corrélations canoniques, (canonical-correlation analysis en anglais, CCA) permet de comparer deux groupes de variables quantitatives appliqués tous deux sur les mêmes individus. Le but de l'analyse canonique est de comparer ces deux groupes de variables pour savoir s'ils décrivent un même phénomène, auquel cas on pourra se passer d'un des deux groupes de variables.

Un exemple parlant est celui des analyses médicales effectuées sur les mêmes échantillons par deux laboratoires différents. L'analyse canonique généralise des méthodes aussi diverses que la régression linéaire multiple, l'analyse discriminante et l'analyse factorielle des correspondances.

Histoire La méthode a été introduite pour la première fois par Harold Hotelling en 1936, bien que, dans le contexte des , le concept mathématique ait été publié par Camille Jordan dès 1875.

Définition mathématique thumb|right| Analyse Canonique des Correlations : matrices des corrélations sur les données nutrimouse du package CCA de R d'après l'article d'Ignacio et al. dans Soient deux vecteurs colonnes X et Y de dimensions respectives n et m : et de variables aléatoires ayant un moment d'ordre deux fini. On peut définir la covariance croisée comme la matrice de taille n × m dont l'élément (i,j) est la covariance de xi et yj. En pratique, cette covariance est souvent estimée à partir d'un échantillon de X et Y, c'est-à-dire d'après deux matrices dont chaque colonne est une réalisation de X et Y.

L'analyse canonique des corrélations recherche deux vecteurs a et b de dimensions respectives n et m qui maximisent la corrélation entre les produits scalaires (a·X) et (b·Y). En d'autres termes :

Pour avoir une solution unique, on peut rajouter une contrainte sur les variances tel que :

Les variables aléatoires U = a·X et V = b·Y sont la première paire de variables canoniques. On peut alors répéter la procédure pour obtenir une seconde paire de variables non corrélée à la première et ainsi de suite :

thumb|left|Analyse Canonique des Correlations : représentation des variables et des individus dans le plan des deux premières variables canoniques sur les données nutrimouse du package CCA de R d'après l'article d'Ignacio et al. dans

Dérivation

Soit la matrice de covariance croisée associée à une paire de variables aléatoires vectorielles et . La fonction objectif à maximiser est :

On introduit un changement de base en posant :

où et sont obtenues par décomposition spectrale (ou par diagonalisation) :

On obtient alors :

D’après l’inégalité de Cauchy-Schwarz :

L’égalité est atteinte si les vecteurs et sont colinéaires. Le maximum de est atteint lorsque est le vecteur propre associé à la plus grande valeur propre de la matrice :

ce qui correspond au quotient de Rayleigh. Les paires suivantes sont obtenues en considérant les valeurs propres décroissantes. L’orthogonalité des solutions découle de la symétrie des matrices considérées.

De manière équivalente, et peuvent être interprétés comme les vecteurs singuliers gauche et droit associés à la plus grande valeur singulière de la matrice de corrélation (voir décomposition en valeurs singulières). Solution La solution s’écrit : est un vecteur propre de ; est proportionnel à .

Réciproquement :

est un vecteur propre de ;

est proportionnel à .

En revenant aux coordonnées initiales :

est un vecteur propre de ; est proportionnel à* ;

et est un vecteur propre de ; est proportionnel à.

Les variables canoniques sont donc définies par :

Tests d’hypothèses Chaque ligne peut être testée pour sa significativité par la méthode suivante. Les corrélations étant ordonnées, dire que la ligne est nulle implique que toutes les corrélations suivantes sont également nulles. Si l’on dispose de observations indépendantes dans un échantillon et que est la corrélation estimée pour , alors, pour la -ème ligne, la statistique de test est :

qui suit asymptotiquement une loi du chi carré avec degrés de liberté pour grand. Comme toutes les corrélations de à sont logiquement nulles (et estimées comme telles), le produit des termes au-delà de ce point est sans importance.

On remarque que, dans le cas d’un petit échantillon avec , les plus grandes corrélations sont nécessairement égales à 1, rendant le test dénué de sens.

Applications pratiques Une utilisation typique de la corrélation canonique dans un contexte expérimental consiste à considérer deux ensembles de variables et à identifier ce qu’ils ont en commun. Par exemple, en psychologie, on peut considérer deux tests de personnalité multidimensionnels bien établis, tels que le Minnesota Multiphasic Personality Inventory (MMPI-2) et le NEO Personality Inventory. En examinant les relations entre les facteurs du MMPI-2 et ceux du NEO, il est possible d’identifier les dimensions communes aux deux tests et la part de variance partagée. On peut ainsi constater, par exemple, qu’une dimension d’extraversion ou de névrosisme explique une part importante de la variance commune.

L’analyse de corrélation canonique peut également être utilisée pour construire une équation de modèle reliant deux ensembles de variables, par exemple un ensemble de mesures de performance et un ensemble de variables explicatives, ou encore un ensemble de sorties et un ensemble d’entrées. Des contraintes peuvent être imposées afin de respecter des exigences théoriques ou des conditions intuitives. Ce type de modèle est appelé modèle à corrélation maximale.

La visualisation des résultats de corrélation canonique se fait généralement au moyen de diagrammes en barres représentant les coefficients des deux ensembles de variables pour les paires de variables canoniques présentant une corrélation significative. Certains auteurs proposent de les représenter sous forme d’héliographes, un format circulaire avec des barres radiales, chaque moitié représentant l’un des deux ensembles de variables.

Un autre exemple est l'appariement statistique, par exemple pour de l'imputation.

Exemples Soit d'espérance nulle, c’est-à-dire .

Si , c’est-à-dire si et sont parfaitement corrélées, alors, par exemple, et , et la première (et unique dans cet exemple) paire de variables canoniques est et . Si , c’est-à-dire si et sont parfaitement anticorrélées, alors, par exemple, et , et la première (et unique dans cet exemple) paire de variables canoniques est et .

On remarque que, dans les deux cas, , ce qui montre que l’analyse de corrélation canonique traite de manière similaire les variables corrélées et anticorrélées.

Lien avec les angles principaux Supposons que et aient une espérance mathématique nulle, c’est-à-dire . Leurs matrices de covariance et peuvent être vues comme des matrices de Gram pour un produit scalaire sur les composantes de et . Dans cette interprétation, les variables aléatoires et sont considérées comme des éléments d’un espace vectoriel muni du produit scalaire défini par la covariance ; voir Covariance#Propriétés.

La définition des variables canoniques et est alors équivalente à celle des vecteurs principaux pour la paire de sous-espaces engendrés par les composantes de et relativement à ce produit scalaire. Les corrélations canoniques sont égales au cosinus des angles principaux.

Transformation de blanchiment et analyse de corrélation canonique probabiliste L’ACC peut également être interprétée comme une particulière dans laquelle les vecteurs aléatoires et sont transformés simultanément de sorte que la corrélation croisée entre les vecteurs blanchis et soit diagonale.

Les corrélations canoniques sont alors interprétées comme des coefficients de régression reliant et , et peuvent également être négatives. Cette interprétation en termes de régression permet aussi de construire un modèle probabiliste génératif à variables latentes pour l’ACC, dans lequel des variables cachées non corrélées représentent la variabilité partagée et non partagée.

Implémentation L’ACC peut être calculée à l’aide de la décomposition en valeurs singulières appliquée à une matrice de corrélation. Elle est disponible sous forme de fonction dans : MATLAB via la fonction canoncorr ( également dans Octave) R via la fonction standard cancor ainsi que plusieurs autres paquets, dont candisc,CCA et vegan. Le paquet CCPhttps://cran.r-project.org/web/packages/CCP/index.html permet les tests d’hypothèses statistiques en analyse de corrélation canonique SAS via proc cancorrhttps://go.documentation.sas.com/doc/en/pgmsascdc/9.4_3.5/statug/statug_cancorr_toc.htm Python dans la bibliothèque scikit-learn (module cross decomposition) ainsi que dans statsmodels (fonction CanCorrhttps://devdocs.io/statsmodels/generated/statsmodels.multivariate.cancorr.cancorr). La bibliothèque CCA-Zoo implémente des extensions de l’ACC, telles que l’ACC probabiliste, parcimonieuse, multi-vues et profonde SPSS via la macro CanCorr fournie avec le logiciel Julia dans le paquet MultivariateStats.jl Le calcul de l’ACC à l’aide de la décomposition en valeurs singulières sur une matrice de corrélation est lié au cosinus des . La fonction cosinus est mal conditionnée pour les petits angles, ce qui conduit à des calculs très imprécis des vecteurs principaux fortement corrélés en arithmétique à précision finie. Pour remédier à ce problème, des algorithmes alternatifs sont disponibles dans : SciPy via la fonction d’algèbre linéaire subspace_angles MATLAB via la fonction subspacea

Généralisation Il existe plusieurs type de généralisation : Analyse canonique généralisée qui va relier plus de deux groupes de variables; Analyse canonique à noyaux qui utilise l'astuce du noyau pour rendre l'ACC non linéaire.

Notes et références Notes

Références Ouvrages spécialisés

Articles publiés sur internet

Autres références

Voir aussi Bibliographie .

Articles connexes Analyse canonique généralisée Analyse canonique à noyaux Analyse des données Exploration de données

Liens externes FactoMineR, une bibliothèque de fonctions R destinée à l'analyse des données Cours d'Analyse des données donné à l'Institut d'études politiques de Paris

Catégorie:Analyse des données