vignette|redresse=1.2|Deepfake sur Kim Jong-un.
Un Prononciation en anglais retranscrite selon la norme API. (mot-valise anglais formé de , « apprentissage profond », et de , « faux », « contrefait »)., ou hypertrucage.Billy Joe Siekierski, Hypertrucage : que peut-on faire à propos du contenu audio et vidéo de synthèse, Bibliothèque du Parlement, 2019, ., ou encore une infox vidéo. ou une vidéotox (dans le cas de fausses vidéos), est une image, une vidéo ou une séquence audio qui a été modifiée ou fabriquée au moyen d'une technique () de synthèse multimédia reposant sur l'intelligence artificielle (IA). Cette dernière permet de superposer des parties d'images, de vidéos ou de fichiers audio sur d'autres fichiers, par exemple pour changer le visage ou reproduire la voix d'une personne, mettre dans sa bouche des paroles inventées de toutes pièces, créer des fausses nouvelles et des canulars malveillants.., diffuser des informations trompeuses. Ces pratiques peuvent polluer les données d'apprentissage d'autres IA, contribuer à des fraudes, au vol d'identités, à de la cyberintimidation et à la propagande d'idéologies et de lobbies, et détruire la confiance du public, la vie sociale et privée. Les progrès de l'IA générative (IAg) ont, dans les années 2020, permis la production rapide de médias synthétiques entiers, parfois , qui présentent des risques importants pour la sécurité..
Exemples thumb|Image créée avec Midjourney montrant une arrestation fictive de Donald Trump. thumb|Deepfake vidéo mettant en scène Vladimir Poutine. thumb|upright|Image du pape François portant une doudoune papale, générée par Midjourney
Les techniques pour simuler des mouvements faciaux et les transposer sur une personne cible ont été présentées en 2016. Elles permettaient de contrefaire, en temps quasi réel, des expressions faciales dans des vidéos en 2D.. Des études sur la sociologie des utilisateurs de Deepfakes pornographiques montrent qu'ils les utilisent généralement , sachant que les cibles des deepfakes subissent des conséquences émotionnelles, psychologiques et sociales gravesKaren Hao. A horrifying new AI app swaps women into porn videos with a click. MIT Technology Review, 2021.. L'arrivée de l'IA a suscité plusieurs marchés en ligne soutenant l'achat et la vente de ces constructions numériques, principalement via la plateforme MrDeepFakes où les règles et limites affichées étaient peu respectées par les utilisateurs (Les conditions d'utilisation de MrDeepFakes interdisaient l'utilisation du contenu du site à des fins commerciales, la redistribution de contenu et l'envoi de messages non sollicités aux utilisateurs, mais elles n'interdisaient pas le scraping, ce qui a permis à des chercheurs de l'étudier.
L'hypertrucage audio est apparu en , avec la présentation du programme Adobe Voco, premier programme d'hypertrucage audio capable de reproduire la voix humaine..
En , la BBC diffuse un discours prononcé par une intelligence artificielle reproduisant Obama, discours essentiellement indiscernable de la réalité..
La pornographie hypertruquée est apparue sur Internet en 2017, notamment sur Reddit., et a depuis été interdite par Reddit, Twitter, Pornhub et d'autres....
En a été mise en ligne une application appelée FakeApp qui permet de créer facilement des vidéos où les visages ont été permutés et de les partager. Les célébrités sont les principales cibles de ces fausses vidéos sexuelles, mais certaines autres personnes sont aussi touchées....
En , des chercheurs de l'université de Californie à Berkeley ont publié une étude sur la création de fausses vidéos de danseurs. Un individu peut être collé sur les mouvements d'un danseur professionnel...
Ensuite les progrès de la synthèse faciale, du clonage vocal et de la synchronisation labiale haute résolution ont permis de produire des contrefaçons multimodales combinant tromperies visuelle et auditive sources de préoccupations éthiques et juridiques.
Début 2025, le principal site de deepfakes pornographiques était MrDeepfakes. Ce site a d'abord lancé, par un internaute canadien, comme simple plateforme d’hébergement. Il a ensuite été utilisé comme lieu de facilitation et d'échanges, entre "demandeurs" (proposant des photos d'anonymes ou de proches), et "créateurs" (ayant les compétences pour produire des deepfakes, sexuels notamment, réalistes) (Ces créateurs pouvaient postuler et devenir des créateurs vérifiés de vidéos, reçevant alors un badge « de confiance » et le droit de vendre des deepFakes (les prix étant négocié généralement en privé) et de monétiser leurs deepfakes sur la plateforme (vidéos payantes, paiements en cryptomonnaies, privilèges publicitaires sur les forums...), tout en échappant à la modération du contenu) ; ils devaient avoir un compte vérifié par e-mail (de plus de 30 jours), et ne pas avoir reçu d'avertissements de la part des modérateurs, prouver qu'ils disposaient des jeux de données ou des images des applications qu'ils utilisent, décrire leur processus de création, et être acceptés par la communauté MrDeepFakes, c'est-à-dire avoir au moins trois vidéos non supprimées par les modérateurs. Signalé dès 2021 par un rapport du Parlement européen, et régulièrement cité par les études et rapports sur l'usage abusif, déloyal, non-éthique, illégal et dangereux pour les personnes d'intelligences artificielles (IA), il a en quelques années hébergé jusqu'à plus de (vues par des millions de visiteurs mensuels). Parmi les 488 créateurs de vidéos vérifiés (moins d'un tiers des internautes ayant publié sur la plateforme), 55 (11,3 %) ont répondu, via le site, à des demandes payantes.
Selon une enquête du média d’investigation Bellingcat, le site comptait actifs début 2024. La fermeture du site a été annoncée le , sur sa page d'accueil par un message impliquant une perte de données rendant impossible la poursuite des opérations et la réouverture du site ; cette fermeture pourrait être liée à l'adoption aux États-Unis d'une loi "Take it down" interdisant la diffusion d’images intimes sans consentement. Utilisation de Grok
Motivations Des chercheurs se sont penchés sur les motivations des commanditaires de Deepfakes pour les deux grandes catégories que sont les deepfakes politiques et sexuels, qui parfois fusionnent pour discréditer des personnalités politiques en les présentant dans de fausses situations sexualisées.
La malveillance et la désinformation politique sont deux motivations fréquente Department of Homeland Security. Increasing threat of deepfake identities. Technical report, Department of Homeland Security, 2021. .
Sur la plateforme MrDeepFakes, la gratification sexuelle était un argument souvent cité ( gratification sexuelle non consensuelle fréquemment Les statistiques des commentaires laissés sur le site (avant sa fermeture en ) montraient des commandes explicitement justifiées par une recherche de plaisir sexuel de la part de l'acheteur dans 23,7 % des demandes ; avec parfois une demande de contenu extrême (racialisé ou violent) ou fétichiste« fétichiste » tel que défini par le DSM-5 [Martin P. Kafka (2010). The DSM diagnostic criteria for fetishism. Archives of sexual behavior], où le plaisir sexuel dépend d'objets non vivants (sous-vêtements, chaussures...) ou cible une partie particulière du corps, souvent non génitale, parfois masculiniste, visant à exercer un contrôle – physique, émotionnel et/ou financier – de la personne ciblée, parfois explicitement violent : un acheteur, cité par Catherine Han (Stanford University) et ses collègues, disant que le créateur aurait des « points bonus » s'il parvenait à rendre le contenu de son deepFake « brutal » ou « douloureux ». Inversement, aussi quelques cas de demandes parasociale ont été signalées, où le commanditaire expliquait souhaiter la mise en scène d'une personne qu'il appréciait, "comme elle était". Dans 7 % des demandes, l'acheteur disait vouloir un contenu qu'il n'a pas trouvé ailleurs, et il présentait sa demande comme pouvant combler un manque pour la communauté et les consommateurs de pornographie en général.
Domaines d'application Pornographie L'expression « deepfake porn » (littéralement « pornographie à hypertrucages ») est apparue avec de fausses vidéos érotiques () mettant en scène des célébrités et avec la pratique de la pornodivulgation ().. À l'automne 2017, un utilisateur anonyme du site Reddit publie, sous le pseudonyme « », plusieurs vidéos pornographiques. La première à attirer l'attention, qui est l'une de celles ayant suscité le plus de réactions, mettait en scène l'actrice Daisy Ridley. Une autre montrait l'actrice Gal Gadot (vedette du fim Wonder Woman) ayant un rapport sexuel avec son beau-frère. D'autres vidéos similaires avaient déjà été publiées, mais ce cas d'une personnalité publique a déclenché un premier débat public à l'échelle du pays. D'autres célébrités ont aussi été la cible de vidéos créées par ce même utilisateur « Deepfakes ». Avec le temps, le faussaire a corrigé les défauts des vidéos, les rendant de plus en plus réalistes. Ce phénomène a été dénoncé dès dans la section technique et scientifique du magazine Vice, suscitant l'apparition de nombreux reportages dans d'autres médias.. Il explose ensuite avec l'apparition de l'IA générative (IAg).
La législation a un temps de retard sur la violence des réseaux sociaux, mais dans de nombreux pays (comme le Royaume-Uni, le Canada, la France...), le droit pénal permet de poursuivre les producteurs malveillants d'hypertrucages, par exemple pour harcèlement et atteinte aux droits de la personne. Néanmoins, des appels à faire de l'hypertrucage un délit, sépcifique et à part entière, émergentCall for upskirting bill to include 'deepfake' pornography ban .
Parmi les cybermenaces qui affectent la société, Simon Robichaud-Durand (2023 note que l'hypertrucage pornographique, bien qu'il cause de grandes souffrances psychiques, et parfois le suicide, chez de nombreuses victimes, a moins suscité l'intérêt des élus et médias que les hypertrucages servant la désinformation et des propagandes politiques, issus de groupes politiques et d'intérêts, généralement proches de l'extrême droite, du libertarianisme de droite, ou de régimes populistes et illibéraux, et/ou liées aux ingérences étrangères cherchant à créer le chaos et une perte de confiance dans les institutions publiques, électorales notamment. Ainsi, en 2023, la Loi électorale du Canada semble mieux protéger contre les dangers des hypertrucages à finalités politiques, que protéger les victimes de montages pornographiques et non consensuels, , nous proposons une solution multiapproche regroupant quatre volets : la législation, la sensibilisation, l'innovation et la collaboration. Une comparaison des législations disponibles pour protéger les victimes de revenge porn a été faite pour neuf États membres de l'UE : trois de ces pays ont une incrimination distincte de cet acte, mais avec une portée juridique et des définitions sensiblement différentes faisant que les victimes ne peuvent faire valoir leurs droits de la même manière dans ces Etats.