La réduction non linéaire de la dimensionnalité est un processus permettant d'associer à des données appartenant à un espace ambiant de grande dimension une représentation de plus petite dimension obtenue au moyen d'une fonction non linéaire. Ces approches sont notamment pertinentes lorsque les données satisfont l'hypothèse de la variété, c'est-à-dire lorsqu'elles appartiennent à une variété latente de dimension plus faible que la dimension de l'espace ambiant. Ces techniques peuvent être utilisées pour simplifier la visualisation des données, ou afin de réduire les coûts de calcul inhérents à leur manipulation.
Il s'agit d'un cas particulier de réduction de la dimensionnalité, et d'une généralisation de la réduction linéaire de dimensionnalité, qui consiste à effectuer la réduction au moyen d'une fonction linéaire.
Méthodes Parmi les méthodes courantes, on peut citer : l'algorithme t-SNE, qui cherche à maintenir proches des points qui sont proches dans l'espace de départ en minimisant un critère basé sur la divergence de Kullback-Leibler, et qui est utilisé notamment pour la visualisation de données en dimension 2 ou 3 ; ISOMAP, qui consiste à utiliser la technique de positionnement multidimensionnel sur une matrice des distance dans un graphe des plus proches voisins ; UMAP consiste à construire un graphe des plus proches voisins dans l'espace d'entrée, et à construire dans l'espace réduit un second graphe basé sur l'optimisation d'un critère d'entropie croisée ; les plongements linéaires locaux ; les cartes propres laplaciennes ; l'analyse en composantes principales à noyaux ; les processus gaussiens à variables latentes ; l'auto-encodeur, technique utilisant un réseau de neurones artificiels.
Applications La réduction non linéaire de dimensionnalité est typiquement utilisée pour : la visualisation de données ; la réduction de modèles en simulation numérique ; la production de descripteurs en apprentissage statistique ; le débruitage et la détection d'anomalies ; l'approximation de fonctions ; la compression de données.
Notes et références
Articles connexes Réduction de dimensionnalité Analyse de sensibilité
Catégorie:Apprentissage automatique Catégorie:Statistiques