Deepfakes en santé : l'AP-HP en fait les frais à son tour

L’AP-HP et Sorbonne Université ont réagi par communiqué après « la diffusion de trois vidéos publiées sur le réseau social Facebook utilisant l’image et la notoriété du Pr Renaud Piarroux, spécialiste de parasitologie de l’hôpital Pitié-Salpêtrière AP-HP, faisant la promotion d’un produit présenté comme permettant de débarrasser l’organisme de ses parasites ». « Il s’agit incontestablement d’un montage réalisé par intelligence artificielle en utilisant la voix et l’image de ce médecin, et qui a été mis en ligne évidemment sans son consentement », dénoncent les institutions, rappelant qu’« elles ne cautionnent ni n’autorisent ces pratiques ».

Les deepfakes sont des contenus (images, vidéos ou voix) générés ou modifiés grâce à l’intelligence artificielle pour faire croire qu’une personne dit ou fait quelque chose qu’elle n’a jamais dit ou fait. S’ils peuvent être utilisés à des fins de divertissement, ils peuvent également servir à tromper, désinformer ou usurper l’identité d’une personne.

Rebelote à peine les vidéos supprimées

Face à cette situation, l’AP-HP indique avoir déposé plainte et saisi notamment Meta afin d’obtenir le retrait de ces vidéos. « Celles-ci ont depuis été supprimées, mais d’autres vidéos similaires ont de nouveau été diffusées sur Facebook », rapporte le communiqué.

Au-delà du préjudice porté au médecin et à l’AP-HP, la diffusion de tels contenus constitue « un véritable danger pour la santé des patients : ils peuvent conduire des internautes à adhérer à de fausses informations ou à recourir à des produits dont l’efficacité et la sécurité ne reposent sur aucune donnée scientifique », met en garde l'AP-HP, soulignant plusieurs précédents de ce type sur les réseaux sociaux.

Des cas qui pullulent

En France, le Pr Serge Hercberg, nutritionniste et père du Nutri-Score, a été mis en scène en blouse blanche dans un cabinet fictif dans 32 vidéos pour donner des conseils fictifs et vanter des compléments alimentaires pour seniors. Autres exemples, des doubles virtuels des Drs Michel Cymes, Jean-Michel Cohen, Jimmy Mohamed ou encore Marine Lorphelin ont été rapportés.

En septembre, l'image du médecin québécois Jean-Marie Després de l'université de Laval a été utilisée pour une prétendue méthode miracle. Sans compter les faux profils de médecins utilisés sur TikTok qui délivrent des conseils d'un ton professoral. 

« En tant que service public hospitalier, l’AP-HP ne fait pas la promotion commerciale de services ou de produits sur les réseaux sociaux », insiste l'institution qui « appelle chacun à la vigilance ». « L’utilisation de l’image d’un professionnel de santé ou de l’identité visuelle d’un établissement hospitalier ne constitue en aucun cas une garantie de l’authenticité ou de la fiabilité d’une publication ».