Parution du rapport de Cédric VILLANI sur l'intelligence artificielle

PARIS, 29 mars 2018 (TICsanté) –

Le rapport de la mission Villani sur l'intelligence artificielle (IA) remis le 28 mars à l'exécutif anticipe une "réorganisation des pratiques médicales" et formule une série de recommandations pour adapter le système de santé et soutenir le développement de l'IA dans le secteur.

Le mathématicien et député LREM Cédric Villani s'est vu confier par Matignon une mission sur la stratégie française en matière d'IA en septembre 2017, rappelle-t-on (cf voir dépêche du 12 septembre 2017).

Il s'est notamment allié au directeur de recherche à l'Institut national de la recherche en informatique et en automatique (Inria), Marc Schoenauer, et à plusieurs personnalités du Conseil national du numérique (CNNum) pour mener ces travaux qui ont donné lieu à près de 420 auditions d'experts issus de différents domaines impactés par l'IA, et à une consultation publique en ligne.

Le député a remis son rapport à la veille d'un sommet sur l'IA organisé le 29 mars au Collège de France, en clôture duquel le président de la République, Emmanuel Macron, doit présenter la stratégie nationale de la France en la matière.

Le document comprend "10 messages clés" pour une stratégie française et européenne "ambitieuse" (voir encadré ci-dessous).

"Face aux géants chinois et américains, la France et l'Europe doivent concentrer leurs efforts sur des secteurs spécifiques, où il est encore possible de faire émerger des acteurs d'excellence", relève le rapport qui cite "quatre secteurs stratégiques": la santé, les transports, l'écologie et la défense/sécurité.

Dans ces secteurs, "la stratégie industrielle doit permettre de mobiliser et de structurer les écosystèmes autour de grands défis sectoriels", poursuit le rapport, faisant référence à la détection précoce des pathologies, la médecine 4P (personnalisée, préventive, prédictive, participative) et la disparition des déserts médicaux.

Une "deuxième pilier" de cette stratégie est de "mettre en place des plateformes sectorielles de mutualisation" des données pertinentes pour le développement de l'IA.

La troisième action à mener est la mise en place de "bacs à sable d'innovation", où des allègements temporaires des contraintes réglementaires et organisationnelles permettraient de "laisser le champ libre" aux innovateurs.

Ces "bacs à sable" pourraient être mis en place pour "permettre les expérimentations en conditions réelles pour les technologies d'IA en santé, au sein des CHU et des lieux d'expérimentation locaux en santé, voire jusqu'aux professionnels".

Revoir les voies d'accès aux études de médecine

Dans un "focus sectoriel" du rapport consacré à la santé, la mission Villani estime que la "vitesse d'évolution" et la "démocratisation des usages" liés à l'IA en santé "exigent des pouvoirs publics une adaptation rapide sous peine d'assister impuissant à la reformulation complète des enjeux de santé publique et de pratiques médicales".

"Il n'est pas question de remplacer les médecins par la machine", mais d'"organiser des interactions vertueuses entre l'expertise humaine et les apports de l'IA", défend le rapport.

Il estime que les professions médicales les plus impactées seront "les spécialités basées sur l'analyse de signaux et d'imagerie médicale", mais que les compétences d'orientation, de coordination, d'explication et d'accompagnement du patient "se révèleront probablement plus résilientes".

Il note que les professionnels de santé vont "jouer un rôle fondamental dans l'expérimentation et l'entraînement des IA à des fins médicales dans des conditions réelles".

Pour faire face à ces nouveaux enjeux, le rapport propose de "transformer les voies d'accès aux études de médecine" en intégrant "davantage d'étudiants spécialisés dans le domaine de l'informatique et de l'IA". Il recommande de former les professionnels aux usages de l'IA, des objets connectés et du big data en santé. "Cette transformation de la formation initiale pourrait avoir lieu dans la réforme en cours du premier et deuxième cycle de médecine", est-il précisé.

La mission Villani insiste également sur la nécessité de "clarifier la responsabilité médicale des professionnels de santé". "En l'absence de la reconnaissance d'une personnalité juridique autonome pour l'algorithme et le robot, il serait envisageable de tenir le médecin pour responsable de l'utilisation des programmes, algorithmes et systèmes d'IA, sauf défaut de construction de la machine", estime-t-elle.

Mieux produire l'information médicale

Pour permettre d'entraîner les technologies d'IA sur des données suffisamment nombreuses et de qualité, le rapport Villani propose de "lancer un nouveau chantier spécifique" de "production d'informations et de données de santé".

Il s'agirait, en articulation avec le DMP (dossier médical partagé), de créer "un espace sécurisé où les individus pourraient stocker leurs données, en ajouter d'autres eux-mêmes, autoriser leur partage à d'autres acteurs […] et les récupérer pour créer d'autres usages".

Il recommande aussi le déploiement d'outils et techniques d'automatisation de la codification des informations produites par les patients, en parallèle à un travail de "normalisation de l'information médicale" et de sensibilisation des patients à la maîtrise de leurs données.

Parer aux limites du SNDS

Si la mission reconnaît le caractère "pionnier" de la mise en place en France du système national d'information inter-régimes de l'assurance maladie (Sniiram) et du système national des données de santé (SNDS), elle pointe aussi les limites d'un outil conçu à des fins administratives pour le développement de l'IA en santé.

Elle pointe par exemple l'obligation de non-réidentification dans le traitement de ces données, alors que "les capacités d'entraînement des systèmes techniques automatisés dépendent fortement de la qualité des données et de la capacité à suivre le patient dans son parcours de soin".

Elle rappelle aussi que l'accès au SNDS est conditionné par une procédure d'évaluation d'intérêt public ex ante où le demandeur doit décrire les finalités de son projet, alors que la recherche en IA "nécessite des capacités d'exploration et d'expérimentation qui ne peuvent pas toujours être décrites complètement par les concepteurs en amont".

Pour dépasser ces limites, la mission Villani recommande de créer "une plateforme d'accès et de mutualisation des données pertinentes pour la recherche et l'innovation en santé […] ayant vocation à se substituer à terme au socle du SNDS".

En plus des données médico-administratives, cette plateforme pourrait contenir des données génomiques, cliniques et hospitalières, dont l'accès serait organisé par l'Etat.

Moyens humains et financiers

"Un changement d'échelle en termes de moyens humains et financiers et nécessaire pour organiser efficacement cet accès", poursuit le rapport, estimant par exemple que l'Inserm (Institut national de la santé et de la recherche médicale), qui assure la disposition effective des données pour la recherche, "doit être armé pour tenir ce rôle de guichet et faire face à une demande qui ne peut qu'exploser".

Sur les procédures d'accès à la plateforme, la mission Villani milite pour la création d'un "guichet unique", avec un délai d'instruction de dossier "garanti sous trois mois" et assorti du principe de "silence vaut acceptation". En cas de désaccord entre autorités de régulation et acteurs économiques sur ces accès, elle évoque "la possibilité d'un recours à un médiateur indépendant".

Le rapport préconise aussi le développement d'une "offre lisible d'accès aux bases de données hospitalières", notamment par l'organisation de "challenges" pour développer des services à partir des jeux de données détenus par le secteur hospitalier.

"Il faudra aussi assurer l'interopérabilité des données et des systèmes (des hôpitaux jusqu'au SNDS), chantier qui pourra être articulé avec le développement d'une architecture technique du Dossier médical partagé [DMP] compatible avec les usages de recherche et d'innovation", est-il ajouté.

Repenser la régulation

La mission Villani constate que les procédures actuelles de certification de l'innovation en santé sont "inappropriées à l'heure de l'IA" car fondées sur le principe qu'un produit ou service est testé cliniquement à un instant, et commercialisé "sous cette forme immuable".

"Or les technologies d'IA sont par nature des processus automatiques apprenants et donc extrêmement évolutifs", ce qui pose la question de leur "certification dynamique", met en avant le rapport.

Il propose d'expérimenter de nouvelles procédures inspirées d'un programme mis en place en juillet 2017 par la Food and Drug Administration (FDA) aux Etats-Unis et intitulé "Pre-cert" (voir dépêche TICpharma du 9 mars 2018).

Ce programme de pré-certification concerne les logiciels informatiques développés pour une utilisation à des fins médicales et permet de concentrer les inspections "sur les développeurs plutôt que sur le produit lui-même", évitant ainsi de repasser par les fourches caudines de la FDA à chaque évolution du logiciel.

La FDA a sélectionné neuf entreprises volontaires pour intégrer ce programme, dont Apple, Fitbit et Samsung, et entend identifier avec elles les paramètres clés et les indicateurs de performance pour la pré-certification.

Sur le plan éthique, la mission préconise de mieux intégrer les enjeux liés à l'IA en santé dans les réflexions, et de "développer des modes de consultation citoyens plus réguliers et adaptés au rythme de l'innovation".