Intelligence artificielle en santé : analyses et recommandations du rapport Villani

L'intelligence artificielle et la santé, un des 5 domaines prioritaires du rapport Villani
Le 28 mars 2018, Cédric Villani, chargé de mission par le Premier ministre Edouard Philippe, a donc remis son rapport intitulé "donner un sens à l'intelligence artificielle", après avoir procédé à plus de 400 auditions et travaillé avec Marc Schoenauer, directeur de recherche INRIA, Yann Bonnet, secrétaire général du Conseil national du numérique, Charly Berthet, responsable juridique et institutionnel du Conseil national du numérique, Anne-Charlotte Cornut, rapporteur au Conseil national du numérique, François Levin, responsable des affaires économiques et sociales du Conseil national du numérique et Bertrand Rondepierre, ingénieur de l'armement, Direction générale de l'armement.

Le gouvernement a ensuite annoncé débloquer 1,5 milliard d'euros sur l'ensemble du quinquennat pour développer l'intelligence artificielle (IA).

La santé fait partie des 5 domaines prioritaires de développement de l'IA en France identifiés par la mission Villani, avec l'éducation, l'agriculture, les transports, la défense et la sécurité.

"Innover à pharmacopée constante"
Selon l'analyse effectuée par Cédric Villani et les autres membres de la mission énumérés ci-dessus, l'IA ouvre de nouvelles opportunités pour "innover à pharmacopée constante, en construisant un diagnostic et une stratégie thérapeutique plus adaptés au besoin du patient, son environnement et son mode de vie".

Concrètement, les auteurs estiment que l'IA permet de mieux détecter les symptômes, d'améliorer le suivi, voire de le rendre prédictif, de mieux analyser l'imagerie, de personnaliser davantage le diagnostic et le traitement, d'affiner les ciblages thérapeutiques, d'accélérer, mieux cibler et sécuriser la mise sur le marché des médicaments innovants, ou encore d'élargir l'exploration des publications et de leurs résultats ("fouille automatique de données", ou deep learning).

Une explosion des données de santé à "capter, structurer et annoter"
Le système de santé produit de multiples données : consultations, actes, médicaments prescrits, médicaments effectivement délivrés, hospitalisations, etc.

De plus, les citoyens, via leur smartphone, des applications ou des objets connectés santé ou "bien-être", conseillés ou non par leur médecin, produisent des données de santé supplémentaires.

Le système national des données de santé (SNDS), "unique au monde", a été créé pour en regrouper une partie, en particulier les données de l'assurance maladie (SNIIRAM) de 99 % des 66 millions de Français, celles du PMSI (codage lors des hospitalisations publiques et privées) et les causes médicales de décès. Ces données sont anonymisées et ne doivent pas pouvoir être ré-identifiées.

L'analyse de ces données par des acteurs publics et privés, désormais facilitée par la création de l'Institut national des données de santé (INDS*), permet d'obtenir des informations sur le bon usage, ou non, des produits de santé (en comparant les populations de tel ou tel département par exemple), de repérer des facteurs de risque modifiables associés à telle ou telle pathologie ou condition, ou des "signaux faibles" de pharmacovigilance qui n'auraient pas été repérés dans les essais cliniques, d'évaluer l'application des recommandations de bonne pratique, l'incidence d'une pathologie, d'identifier les populations éligibles à des essais thérapeutiques ou interventionnels, etc.

Le rapport Villani préconise de "capter, structurer et annoter les données de santé" (données cliniques, biomédicales, mais aussi données de bien-être, environnementales), afin de mieux faire avancer la recherche et d'améliorer le suivi.

Permettre l'émergence d'une médecine davantage personnalisée et prédictive, en veillant à "limiter l'intrusion dans la vie privée"
Les auteurs estiment que les développements numériques actuels et à venir, en particulier "de capteurs intégrés à l'individu (objets de quantified self, apps de santé sur le smartphone, véritable « laboratoire d'analyses médicales distribuées »)", vont mettre un suivi en temps réel et contextualisé des patients.

Ce suivi et les données qui en découlent vont permettre d'améliorer les IA (affinage, "apprentissage" en fonction de telle ou telle caractéristique, par exemple un surpoids, une prise d'alcool, une activité physique soutenue, des comorbidités, etc.).

Cette "surveillance en permanence de notre état physiologique à la recherche d'un pré-symptôme ou d'une prédisposition à une maladie" permettra, toujours selon les auteurs, l'émergence d'une médecine prédictive et personnalisée, à condition "d'impliquer, d'encapaciter les individus dans la production de ces informations tout en veillant à limiter les risques d'intrusion dans la vie privée".

Compléter le DMP qui devrait enfin être déployé en France
Le Dossier Médical Partagé (DMP) est un peu le serpent de mer de la e-santé, n'étant toujours pas déployé après 20 ans d'efforts et d'investissements publics significatifs.

Pourtant un tel système, à condition à nouveau qu'il respecte la vie privée et sous réserve de mise au point de techniques d'automatisation et de codifications des informations patients et professionnelles, permettrait de faciliter l'interopérabilité entre les différents producteurs de données (informations cliniques, données biologiques, imageries diverses, anatomo-pathologie, génétique, données de télésurveillance ou téléconsultation, etc.), condition indispensable pour une exploitation coordonnée.

Ce DMP, désormais géré par l'Assurance Maladie, pourrait cependant voir enfin le jour dans les mois qui viennent, en étant créé à l'initiative du patient et alimenté par les données de remboursement de soins de l'Assurance Maladie. Les professionnels de santé pourront aussi l'alimenter via une solution de messagerie sécurisée, la MSSanté, mais ces données ne seront pas "structurées", elles seront téléchargées sous la forme de documents. Il faudra donc trouver un moyen de les exploiter.

Les logiciels des professionnels permettront d'y accéder "de façon rapide et simple", toujours selon les auteurs (ou l'Assurance Maladie ?).

L'IA en santé pour compléter l'expertise humaine et faciliter les interactions
Les auteurs, à l'instar de beaucoup d'observateurs français et internationaux, pensent que le développement de l'IA "est appelé à transformer en profondeur les pratiques des professionnels de santé", sans pour autant "remplacer le médecin par la machine" : aide au diagnostic (par exemple les IA, après avoir appris à identifier des pathologies sur une imagerie, peuvent très rapidement s'avérer plus performantes que l'œil humain, même expert), appui à la construction d'une prise en charge thérapeutique, suivi évolutif personnalisé, etc.

Clarifier le régime de responsabilité en cas d'erreur de l'IA en santé
Les auteurs du rapport rappellent qu'un algorithme ou un robot ne sont pas des personnalités juridiques autonomes (pour mémoire, l'IA forte, dotée d'une conscience, n'existe pas et rien n'indique qu'une telle IA à la HAL 9000, telle qu'imaginé par Arthur C Clarke en 1968, verra le jour).

Il est donc "envisageable de tenir le médecin pour responsable de l'utilisation des programmes, algorithmes et systèmes d'intelligence artificielle, sauf défaut de construction de la machine".

Adapter la formation initiale et continue des professionnels de santé
Les auteurs souhaitent une transformation des voies d'accès aux études de médecine, pour "intégrer davantage d'étudiants spécialisés dans le domaine de l'informatique et de l'IA" (double cursus avec reconnaissance d'équivalence), et pour "mettre un terme à la logique de compétition tout au long du cursus universitaire " (NDLR : cette logique prévaut surtout en première année et en sixième année, au moment du concours de l'internat, mais il est vrai que c'est déjà beaucoup…).

Ils souhaitent aussi une formation des professionnels de santé aux usages de l'IA, des objets connectés (IoT) et du big data en santé, "ainsi qu'aux compétences de coordination, d'empathie et du rapport aux patients (ex : expérience virtuelle pour mieux voir, comprendre la vie des patients)".

Faciliter l'expérimentation en temps réel, avec les professionnels et les patients
Cette expérimentation en temps réel, appelée "bac à sable" par les auteurs, est "indispensable pour tester l'efficacité du système et l'améliorer en se fondant sur les retours d'expérience et les données produites en situation par les usagers".

En clair, les auteurs envisagent de créer les conditions pour que les IA puissent apprendre par retour d'expérience avant d'être déployées (une IA se nourrit des retours sur la validité de ses propositions, comme celle qui régit le moteur de recherche Google depuis 1998 par exemple).

Agir politiquement pour favoriser le déploiement et le bon usage de l'IA en santé
Outre la nécessaire coordination des acteurs, l'utilisation de l'IA requiert une "véritable coordination de la donnée". Actuellement, outre l'INDS précédemment évoqué, l'ASIP santé, l'Administrateur général des données et la mission Etalab se partagent les politiques de données de santé.

La mission Villani espère donc une clarification de cette gouvernance "afin d'énoncer des lignes directrices fortes et de proposer une offre de services lisible autour des données".

Les auteurs jugent aussi que le SNDS, tel qu'il existe actuellement, n'est pas adapté à la recherche en IA, en raison de l'impossibilité de suivre le patient dans son parcours de soins (les données sont anonymisées, cf. supra), et de la nécessité d'une procédure d'évaluation d'interêt public par l'INDS* avant l'autorisation de l'accès, alors que "la recherche en matière d'IA nécessite des capacités d'exploration et d'expérimentation qui ne peuvent pas toujours être décrites complètement par leurs concepteurs en amont".

Vers une nouvelle plateforme des données de santé, à la place du SNDS ?
Afin de lever les freins décrits ci-dessus, les auteurs recommandent la création d'une nouvelle plateforme d'accès et de mutualisation des données pertinentes pour la recherche et l'innovation en santé (données médico-administratives, puis données génomiques, cliniques, hospitalières, avec toujours une nécessité d'interopérabilité…), avec un "changement d'échelle en termes de moyens humains et financiers" pour gérer les accès et la recherche.

Pour la mission Villani l'INSERM pourrait tenir "ce rôle de guichet" des accès aux données, dont la demande va probablement exploser dans les années à venir.

Les hôpitaux pourraient aussi être incités à organiser des challenges autour des jeux de données et des projets collaboratifs.

Faciliter l'expérimentation, l'utilisaiton de l'IA en santé… mais sans oublier l'éthique
La mission Villani a effectué des constats sur le système de santé actuel, l'émergence de l'utilisation des données de santé, du rassemblement de leur collecte, de la gestion de leur accès, le tout dans un contexte d'explosion des outils numériques d'aide, d'explication, d'échanges et de suivi (internet, applications, objets, etc.).

Dans la dernière partie du rapport, les auteurs préconisent la création d'un corps d'experts pour procéder à des audits des algorithmes et bases de données, procéder à des tests.

L'éthique devra aussi être intégrée à la formation des ingénieurs et chercheurs en IA, "pour identifier et confronter de manière responsable les problèmes éthiques et moraux rencontrés dans le cadre de leur activité professionnelle". Les juristes devront aussi être formés, de même que les professionnels de santé (cf. supra).

Du côté des usagers, l'information sur leurs droits doit être délivrée. En particulier, le droit à la vie privée doit être respecté, et l'action de groupe, autre serpent de mer en France, doit enfin pouvoir être possible en cas d'infraction sur les données personnelles (avec possibilité de réparation du préjudice subi).

Enfin, plus globalement, les auteurs souhaitent la création d'un "Comité consultatif national d'éthique pour les technologies numériques et l'intelligence artificielle", qui pourra se saisir des questionnements éthiques qui surgissent en permanence avec les nouvelles technologies, en santé ou non. Au niveau mondial, le Québec vient de proposer la création d'une agence mondiale qui pourrait être hébergée à Montréal, comme l'Agence internationale contre le dopage. Dans le même temps, l'Unesco a lancé une réflexion internationale.

En conclusion : un tour d'horizon qui annonce une possible facilitation de l'utilisation de l'IA en santé
L'IA en santé pourrait s'avérer plus aisée à utiliser si toutes ces préconisations sont mises en œuvre et l'éthique respectée.

Notons tout de même que ce rapport ne parle pas des faux positifs pouvant être induits par des dépistages ou suivis de masse, sans parler d'une possible anxiété générée par cette surveillance ou d'éventuelles annonces sur des risques augmentés de maladies graves à venir.

Par ailleurs, ce rapport, en tout cas de son focus sur "la santé à l'heure de l'IA", est très franco-centré, même si des exemples étrangers sont cités. Les Anglo-saxons et les Chinois, qui possèdent des plateformes gigantesques (GAFAM, IBM Watson, BATX) utilisent par exemple déjà beaucoup le deep learning et autres techniques d'analyse des données de santé.

Peut-être que des coopérations internationales nous feraient gagner du temps, ou éviterait la survenue d'erreurs, possibles avec ces technologies relativement nouvelles, ou en tout cas davantage utilisables en raison de l'augmentation de la puissance de l'informatique ?

* L'auteur de cet article fait partie, depuis septembre 2017, du Comité d'expertise sur l'intérêt public de l'INDS.

En savoir plus :

La stratégie IA, pour faire de la France un acteur majeur de l'intelligence artificielle, enseignementsup-recherche.gouv.fr, mars 2018

Le rapport de la mission Villani (fichier PDF, 235 pages)

Synthèse du rapport en 10 pages (fichier PDF)

Intelligence artificielle en santé : analyses et recommandations du rapport Villani

Vidal News du 2019-03-21

Dans la même rubrique