Les assistants médicaux automatisés (aussi appelés scribes IA, assistants vocaux médicaux IA, assistants vocaux IA, technologies vocales ambiantes (TVA), assistants numériques, assistants virtuels ou assistants vocaux IA ambiants). sont des outils informatiques (agents intelligents) qui travaillent pour le personnel médical, en arrière-plan, en produisant des brouillons de documentation clinique (à partir de transcription de consultations), d'ordonnances et de notes cliniques dictées. Dans le contexte d'un développement des NTIC en médecine et en particulier du dossier médical électronique, ils produisent et conservent des résumés de consultations, allégeant la charge administrative des cliniciens et améliorent l'efficacité de leur documentation.

Ils sont tous basés sur les progrès récents des LLM larges modèles de langage, communément dits « IA », qui connaissent une popularité croissante en 2024, surtout aux États-Unis..

Ils font évoquer des enjeux de protection de la vie privée et des données médicales (qui sont des données sensibles et un enjeu majeur d'éthique médicale, en raison de niveaux de sécurité qui varient considérablement selon les modèles. Ces outils intelligents, principalement dédiés à la transcription médicale automatisés pourraient théoriquement parfaitement fonctionner localement, même sans connexion Internet, mais la plupart sont des solutions propriétaires qui exigent que les données soient envoyées dans le cloud pour y être traitées et renvoyées à l'utilisateur, de manière sécurisée, certains fournisseurs utilisant par exemple un chiffrement à connaissance nulle (ce qui signifie que le fournisseur de services ne peut pas non plus accéder aux données). Certains fournisseurs de systèmes de transcription automatisés s'engagent à ne pas utiliser les données de patients pour entraîner leurs IA, ni les louer ou les revendre à des tiers., mais rares sont ceux qui ont publié des données sur la sécurité ou l'utilité de leurs systèmes dans des revues scientifiques, et rares sont ceux qui répondent aux demandes des chercheurs étudiant ces produits..

Enfin, ils posent la question d'un éventuel remplacement progressif des emplois de secrétariat médical par l'IA.

Histoire Les médecins ont d'abord dicté leurs notes à une secrétaire, puis utilisé des dictaphones, dont le contenu était ensuite transcrit par la secrétaire ou le médecin.

Puis depuis les années 2020 avec l'apparition des LLM, l'intellligence artificielle peut exploiter la capture audio continue de la conversation (voire des photos ou scanns) pour faire tout ou partie de ce travail (sans supprimer le besoin de relecture et vérification).

Mais

Plusieurs de ces scribes intelligents intègrent déjà des modules de reconnaissance multilingue ou de traduction en temps réel, ce qui semble devoir être la tendance du secteur, car la traduction facilite grandement les consultations avec des patients ne parlant pas la langue du clinicien.

Les retours d'expérience des cliniciens sont positifs concernant l'efficacité documentaire, le gain de temps passé sur les notes, la hausse des clôtures de visites le jour même, la charge mentale lié à la documentation, avec un meilleur sentiment d’engagement envers les patients, mais ces retours sont mitigés concernant la longueur et/ou la qualité des notes générées par les scribes ambiants. Certains les jugent précis et détaillés, tandis que d’autres les jugent trop sujets aux erreurs. Tous estiment qu'une relecture substantielles et attentive des notes ainsi générées est nécessaire, ce qui atténue l'impression de temps gagné..

Craintes quant à la confidentialité Certains fournisseurs ne sont pas transparents quant au devenir des données utilisateur.. Certains peuvent les vendre à des tiers, qui sont a priori des entreprises technologiques à but lucratif, à des fins secondaires parfois non précisées. Certains exigent que l'utilisateur signe un consentement pour une telle réutilisation de leurs données.. Certains intègrent les données utilisateur pour entraîner le logiciel en promettant de les anonymiser ; Mais une désanonymisation est possible (c'est-à-dire que l'identité du patient peut être révélée).

Il est intrinsèquement impossible d'empêcher un modèle linéaire mixte (LLM) de corréler ses entrées, car ces modèles fonctionnent en identifiant des schémas similaires dans de très grands ensembles de données. Des informations sur le patient seront retrouvées par croisement avec d'autres sources (par exemple, s'il a été blessé lors d'un incident à une date précise si cette information a été données par un média ; de l'information sur ses rendez-vous médicaux (lieux et heures précis) est probablement accessible via son opérateur mobile, ses applications ou des courtiers en données ; la date de naissance de son enfant sera par exemple probablement déduite de son historique d'achats en ligne ; et il pourrait évoquer des informations privées sur des changements de mode de vie ou sa sexualité, qu'une IA peut facilement croiser avec d'autres informations trouvées en lignes (forums, blogs, réseaux sociaux...). Le logiciel peut corréler ces informations avec le dossier de consultation clinique « anonymisé » et, interrogé sur le patient nommé, fournir des informations que celui-ci n'a partagées qu'avec son médecin en privé. Le dossier d'un patient ne concerne que ce dernier et une partie du personnel médical, mais il est inévitablement lié à d'autres données et dans de très nombreux cas, les antécédents médicaux sont intrinsèquement identifiables. Selon la fréquence d'une pathologie, des rendez vous médicaux et les médicaments utilisés et bien d'autres données disponibles, l'anonymat K peut s'avérer insuffisant. La confidentialité différentielle pourrait théoriquement préserver la confidentialité.

Des entreprises courtage de données que sont devenues Google, Amazon et Microsoft ont créé ou acquis des services de transcription médicale, dont certains utilisent les données des utilisateurs à des fins secondaires, ce qui a suscité des inquiétudes en matière de concurrence.. Le transfert de dossiers de patients pour l'entraînement de l'IA a, par le passé, donné lieu à des poursuites judiciaires.

Les logiciels libres effectuent généralement toute la transcription localement, sur l'ordinateur du médecin.. Ils sont largement utilisés dans le domaine de la santé, et certains organismes nationaux de santé publique organisent des journées de développement informatique pour concourir à les améliorer

Revente et commercialisation des données Plusieurs fournisseurs de services de transcription médicale automatisée incluent dans leurs contrats des clauses autorisant la réutilisation, la vente ou la commercialisation de données dépersonnalisées ou soumises par l'utilisateur. Bien que ces données soient généralement qualifiées d'anonymisées ou agrégées, ces pratiques soulèvent des questions d'éthique parmi les cliniciens et les défenseurs de la vie privée quant aux utilisations secondaires des informations médicales, au-delà de la simple documentation clinique.

Freed, une plateforme de transcription et de scribe par IA, indique dans ses conditions d'utilisation qu'elle peut « collecter, utiliser, publier, diffuser, vendre, transférer et exploiter de toute autre manière » les données anonymisées et agrégées issues des entrées des utilisateurs.

OpenEvidence indique également qu'elle peut « collecter, utiliser, transférer, vendre et divulguer des informations non personnelles et des données d'utilisation des clients à toutes fins, y compris à des fins commerciales ».

Doximity, qui propose un assistant médical doté d'IA dans le cadre de sa plateforme pour médecins, s'octroie une licence « non exclusive, irrévocable, mondiale, perpétuelle, illimitée, cessible, sous-licenciable et exempte de redevances » pour « copier, créer des œuvres dérivées, améliorer, distribuer, publier, analyser, indexer, étiqueter et commercialiser » le contenu soumis par les utilisateurs, sous réserve de sa politique de confidentialité.

Étant donné que ces termes autorisent une large utilisation secondaire — y compris la vente, la concession de licences, l'entraînement de modèles, les œuvres dérivées et l'exploitation commerciale de données dépersonnalisées ou soumises par l'utilisateur —, certains commentateurs ont recommandé aux cliniciens d'examiner attentivement les dispositions relatives au traitement des données lors de l'adoption d'outils de description par IA, en particulier dans les environnements cliniques où la confidentialité des patients et la conformité réglementaire sont essentielles.

Cryptage L'authentification multifactorielle pour l'accès aux données est une pratique courante.

L'échange de clés Diffie-Hellman est généralement utilisé pour le chiffrement ; il s'agit de la méthode standard couramment employée pour des services tels que les opérations bancaires en ligne. Ce chiffrement est coûteux, mais pas inviolable ; il n'est généralement pas considéré comme sûr face à des écoutes clandestines menées par un État-nation disposant de ressources comparables..

Si le contenu est chiffré entre le client et le serveur distant du fournisseur de services (chiffrement de transport), le serveur possède une copie non chiffrée. Ceci est nécessaire si les données sont utilisées par le fournisseur de services (par exemple, pour l'entraînement du logiciel). Le chiffrement à divulgation nulle de connaissance implique que la seule copie non chiffrée se trouve chez le client, et que le serveur ne peut pas déchiffrer les données plus facilement qu'un attaquant utilisant une technique d'interception.

Plateformes Les logiciels de traitement de données peuvent fonctionner sur des ordinateurs de bureau, des ordinateurs portables ou des appareils mobiles, sous différents systèmes d'exploitation. Les risques associés varient ; par exemple, les appareils mobiles peuvent être perdus. Les systèmes d'exploitation sous-jacents, qu'ils soient mobiles ou de bureau, font également partie de la base informatique de confiance, et s'ils ne sont pas sécurisés, les logiciels qui en dépendent ne le sont pas non plus. 20 21.

Confabulation, omissions et autres erreurs Comme les autres modèles de langage, les modèles de langage utilisés pour la transcription médicale sont sujets à la confabulation, c'est-à-dire qu'ils inventent du contenu en se basant sur des associations statistiques entre leurs données d'entraînement et l'enregistrement audio. Ces modèles ne font pas la distinction entre la transcription de l'audio et la prédiction des mots suivants, mais effectuent les deux processus simultanément ; ils sont particulièrement susceptibles de transformer de courts silences ou des bruits parasites en paroles inventées pour les transcrire..

Les transcripteurs médicaux des LLM (Legal Management Professionals) sont connus pour parfois inclure des propos racistes ou empreints de préjugés ; ceci est dû au fait que les jeux de données d'entraînement de nombreux LLM contenaient des textes biaisés et des notions pseudo-scientifiques de racisme médical. Ils peuvent aussi se tromper de genre pour désigner les patients ce qui peut ensuite être source de confusion.