L’arrivée récente d’agents conversationnels mobilisant l’Intelligence Artificielle (IA) tout en lui conférant un aspect relativement « humain » a récemment projeté l’IA au cœur du débat public. Un phénomène qui, à date, fascine autant qu’interroge.

L’actualité du secteur s’avère riche : le parlement européen vient d’approuver le projet de règlement « Artificial Intelligence Act (IA Act) » le 14 juin dernier. L’occasion, pour Proxicare, de rappeler concrètement ce qui est qualifié d’IA en santé et d’aborder, face à un contexte réglementaire en ébullition, les perspectives de développement de l’IA dans le secteur de la santé.

Nous souhaitons, au travers de cet article, aborder 3 questions clés : Que qualifie-t-on d’IA ? Quels sont les domaines d’application actuels de l’IA et à fort potentiel pour la santé ? Quelles évolutions attendre du parcours réglementaire associé à la mise sur le marché de produits de santé intégrant de l’IA ?

Que qualifie-t-on d’IA ?

Le Parlement Européen qualifie d’Intelligence Artificielle toute technologie utilisée afin de « reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité ».

A noter, la création d’algorithmes (pouvant être qualifiés d’IA) cherchant à copier et automatiser des raisonnements humains est un centre d’intérêt depuis les années 1950 et n’est donc, à ce titre, pas véritablement considéré comme innovant.

La nouveauté réside, aujourd’hui, dans le processus de création de l’IA ; c’est-à-dire sur le fait de baser celle-ci sur un système d’apprentissage automatique, et non plus, uniquement, sur des règles de calculs et de décisions (i.e. système expert).

Une illustration : Identification d’un nombre pair

• Un système expert va identifier un nombre pair à partir d’une règle qui aura été définie. Un exemple : « si ce chiffre est divisible par deux, alors il est pair »
• Un apprentissage automatique va quant à lui effectuer une déduction de l’analyse des données qui lui auront été injectées. Un exemple : « 2, 6, 8, 24, 68 sont des chiffres pairs » ; le système pourra alors déduire que « quand un nombre est divisible par deux, alors il est considéré comme pair »

Ce changement de paradigme est rendu possible par la capacité à stocker un grand nombre de données et par la puissance de calcul des technologies actuelles. L’IA est donc aujourd’hui un mélange de données, de mathématiques et d’algorithmie.

Toutefois, l’IA par apprentissage automatique n’est pas une technologie parfaite et comporte des risques liés à chaque domaine. Le biais des données (i.e. la représentativité d’un jeu de données par rapport à l’objectif ou à la population visée, l’exactitude de l’étiquetage et la traçabilité), la fiabilité des algorithmes ou la recevabilité des hypothèses retenues en sont 3 exemples clés. Ce sont notamment ces risques et les enjeux de contrôle des usages qui ont amené l’Union Européenne à se saisir du sujet afin de construire des règles harmonisées pour les pays de l’Union.

Quelles applications pour le domaine de la santé ?

Les logiciels embarquant des algorithmes créés par apprentissage automatique sont vecteurs de progrès et d’innovations dans de nombreux domaines médicaux. Ces innovations émergent et ont un impact dans de nombreux champs :

• La prévention primaire
• L’aide au diagnostic médical
• L’accompagnement thérapeutique
• La recherche médicale
• La facilitation des tâches quotidiennes des professionnels de santé

Prévention primaire

Des modèles d’IA sont proposés dans le domaine de la prévention primaire. Ils visent à détecter le risque de survenue de maladies chez des patients sur la base d’analyses de leurs données de santé (données médicales ou en lien avec le mode de vie). Ce champ d’application est fortement lié au développement de la médecine prédictive.

• • L’éditeur Claude Bernard, présent lors de l’édition 2023 de SantExpo, met en lumière ce type d’application à travers son module de prévention et d’adressage, dont le premier cas d’usage vise la détection du cancer du poumon. L’éditeur se spécialise notamment dans l’exploitation et la valorisation des données et documents de santé (que ceux-ci soient structurés ou non). L’IA vise à permettre, dans ce cas, de scanner des documents médicaux et d’en extraire les données afin de les intégrer dans le logiciel métier du professionnel de santé, voire dans une plateforme dite de « services d’intelligence médicale ». Cette plateforme pourra proposer l’intégration d’un patient dans un programme de prévention en fonction de ses facteurs de risque [1].

Aide au diagnostic médical

L’aide au diagnostic médical est d’ores-et-déjà un domaine d’application concret de l’IA. L’objectif visé est d’assister le médecin dans sa prise de décision. Pour ce faire, l’IA mobilisant des méthodes d’apprentissage poussées (Deep Learning) prend appui sur des images médicales (IRM, radio ou scanner) ou toute autre donnée de santé pertinente (données histologiques, immunologiques, ou encore transcriptomiques).

• • A titre d’exemple, OphtAI, IA spécialisée dans l’expertise en Ophtalmologie, propose une solution de diagnostic de la rétinopathie diabétique grâce à l’analyse d’une image de fond d’œil par son système d’IA [2].
  • Une équipe de recherche d’Université Paris Cité, de l’Inserm et de l’AP-HP, a créé un assistant informatique automatisé permettant de corriger 40 % des diagnostics erronés de rejet d’allogreffe chez l’humain et de mieux orienter la prise en charge des patients [3].

Accompagnement thérapeutique

Ce champ d’application recouvre l’élaboration d’algorithmes permettant la prédiction de l’évolution de certaines maladies et/ou de leurs réponses aux traitements proposés. Il mobilise le travail conjoint d’informations et de scientifiques.  De façon plus concrète, une IA peut exploiter des images médicales afin d’en extraire des informations biologiques et cliniques ; ceci afin de quantifier la maladie et ses chances de propagation ou d’aggravation.

• • A titre d’exemple, l’entreprise TheraPanacea commercialise un logiciel permettant, sur la base de données médicales (imageries, biomarqueurs, …), de prédire les résultats d’un traitement par radiothérapie et donc d’assister le médecin dans le choix de la bonne dosimétrie. Dans d’autres cas, l’IA intervient directement dans la délivrance des soins via la chirurgie robotique[4] .

Recherche médicale

Le champ de la recherche médicale intègre des applications de l’IA tant applicables au domaine de la recherche fondamentale que de la recherche clinique.

• • Dans le secteur de l’industrie pharmaceutique, l’IA peut constituer un levier d’accélération du processus de recherche en venant proposer de nouvelles molécules, en prédire les interactions avec le corps et simuler leurs effets sur des patients virtuels (ceci pouvant par ailleurs permettre de réduire les risques lors des essais cliniques). L’entreprise IKTOS propose – sur ce segment – une IA générative permettant de proposer certaines combinaisons de molécules pour créer un traitement[5].
  • L’IA peut également intervenir au sein de protocoles de recherche visant à identifier des facteurs de risques associés à des maladies ou troubles de santé. Une équipe Inserm/CNRS dirigée par les chercheurs Jean-Luc Martinot et Éric Artiges a ainsi permis d’identifier des prédicteurs de l’apparition de troubles anxieux à l’adolescence [6].

Facilitation des tâches des professionnels de santé

Une dernière application de l’IA concerne l’appui du praticien dans ses tâches quotidiennes. Les nouveaux robots assistant le personnel médical au chevet des patients dans les hôpitaux sont en partie programmés via des méthodes d’apprentissage automatique. De même, les modules de prise de rendez-vous, de suggestion de remplissage automatique (ordonnances ou feuilles de soins) ainsi que les logiciels de téléconsultations utilisent – pour certaines tâches – des algorithmes crées par le biais de l’apprentissage automatique.

• • La société Nuance permet par exemple aux médecins d’utiliser la reconnaissance vocale (technique prenant appui sur du Deep et du Machine Learning) pour retranscrire leurs rapports médicaux[7].
  • La solution ZenIA de Zenidoc, représentée lors du forum SantExpo, propose quant à elle un assistant virtuel pour les établissements de santé permettant de prédire des actes CCAM sur la base de la lecture d’un compte-rendu opératoire, ou encore de structurer en automatique une prescription sur la base d’une lettre de sortie.

Les technologies basées sur de l’IA investissent donc aujourd’hui tous les champs de la médecine et cette tendance est en hausse. Le marché de l’IA en santé est en croissance de 50% par an. S’il pesait 2.1 milliards de dollars en 2019, on estime qu’il pourrait atteindre 36.1 milliards de dollars en 2025 [8].  Il convient cependant de noter que la tendance actuelle vise au renforcement de la législation appliquée à ces outils.

Quelles évolutions attendre du parcours réglementaire associé à la mise sur le marché de produits de santé intégrant l’IA ?

L’IA est donc une combinaison de données et d’algorithmie embarquée dans un logiciel, ce logiciel étant susceptible d’être intégré dans un produit, par exemple, un logiciel de gestion de cabinet ou un dispositif médical s’agissant du secteur de la santé.

Impacts de la mise en application à venir de l’IA Act

Le cadre européen de règlementation de l’IA est en construction depuis 2018. En décembre 2022, le Conseil de l’Union européenne adoptait son orientation générale sur la réglementation de l’IA, à la suite de la proposition de directive de la Commission européenne publiée 2 mois plus tôt.

Le 14 juin dernier, le Parlement européen a adopté le projet de règlement sur l’IA (i.e. IA Act) avec un objectif d’entrée en vigueur pour la fin d’année 2023.

Le règlement propose un encadrement de l’IA en distinguant les systèmes d’intelligence artificielle (SIA) selon trois catégories de risque :

• Risque inacceptable (technologie alors interdite)
• Haut risque
• Risque faible ou minimal

Il convient de noter que si les systèmes d’IA à risque faible ou minimal se verront principalement assortis d’obligations de transparence spécifiques. Les exigences du règlement se concentrent en particulier sur les SIA classés à haut risque.

SIA classés à haut risque

En synthèse, les SIA classés à haut risque sont des IA intégrées dans des produits dont la mise sur le marché est encadrée par l’un des actes législatifs d’harmonisation de l’UE cités dans le règlement, ET nécessitant une évaluation de conformité par un organisme tiers habilité. Les deux conditions sont cumulatives.

Le MDR ou Medical Device Regulation fait partie des actes législatifs d’harmonisation de l’UE cités dans le règlement. Les IA incluses dans des Dispositifs Médicaux de classe IIa et plus représenteront ainsi des SIA à haut risque. La certification des DM de classe IIa nécessite en effet le recours à un organisme notifié, contrairement aux DM de classe I.

Les DM de classe IIa, IIb et III devront donc alors se soumettre aux exigences relatives aux SIA à haut risque, qui sont au cœur du règlement.

De façon plus concrète, le règlement s’attache à encadrer l’IA et impose, pour ce faire :

• • La mise en place de palliatifs des biais que pourrait contenir l’IA au travers notamment de la mise en place (par le fournisseur) d’un système de gestion des risques, la conservation dans un registre des résultats et/ou décisions prises par l’IA ainsi que la spécification d’exigences relatives à la qualité des jeux de données servant à entraîner l’IA
  • Une obligation de transparence sur les caractéristiques du système, ses capacités et ses limites propres. Sur ce point, le fournisseur sera tenu de rédiger une notice technique obligatoire intégrant lesdits points et aura l’obligation de tester son système tout au long du cycle d’existence afin de garantir sa robustesse et sa résistance aux cyberattaques
  • La présence d’un contrôle humain. Ce point, au cœur du projet de réglementation, impose que le système IA soit développé en intégrant une interface permettant la supervision du développement par une personne physique

Si le projet de loi engage particulièrement le fournisseur sur les points sus-évoqués, les distributeurs et utilisateurs de ces systèmes à hauts risques n’en ont pas moins des obligations. Le distributeur est ainsi tenu de vérifier que le logiciel satisfait les exigences mises en place et a l’obligation d’informer le fournisseur et les autorités nationales si le système s’avère non conforme. L’utilisateur doit quant à lui veiller à la pertinence des données d’entrées et doit arrêter d’utiliser le système s’il présente des risques. Il doit également conserver les registres générés par l’IA et surveiller le bon fonctionnement du système. Enfin, obligation lui est faite de rendre compte au fournisseur, distributeur ou aux autorités compétentes s’il constate que le système présente un risque pour la santé, la sécurité ou la protection des droits fondamentaux.

Regard by Proxicare

L’intelligence artificielle ouvre des perspectives significatives pour les industriels du numérique en santé, qu’il s’agisse d’éditeurs de logiciels ou des fabricants de DM.

Celles-ci sont d’autant plus larges dans un contexte actuel en pleine ébullition marqué par le développement des nouvelles technologies mobilisables (à l’instar de la valorisation de thérapies digitales), la volonté accrue d’organiser l’exploitation de données (au travers notamment de la création et du développement d’Entrepôts de Données de Santé (EDS)) ou encore d’opérer des gains de temps médicaux réallouables à d’autres activités.

Pour capter les gisements de valeur colossaux que représente l’IA dans le domaine de la santé et des services associés, les industriels développant des SIA vont devoir gagner la confiance des utilisateurs en démontrant l’effectivité de leur système de gestion de risque, le respect des obligations de transparence, la robustesse de leur système et la supervision humaine des développements.

Proxicare accompagne les acteurs du secteur de la santé éditeur de SIA dans leur mise en conformité réglementaire et la mise en place d’une organisation de nature à maitriser les risques et renforcer la confiance des utilisateurs.

Raphaël Caille & Dan Brevière

[1] Pour rappel, est considéré comme Dispositif Médical (DM) un produit de santé destiné à être utilisé à des fins de diagnostic, de prévention, de contrôle, de traitement ou d’atténuation d’une maladie ou d’une blessure. Ainsi, tout logiciel à usage médical et effectuant un traitement sur les données entrantes, créant une information médicale nouvelle, est qualifié de DM. A noter :  un logiciel destiné à l’observance, sans traitement, de données médicales, n’est pas un DM. Au contraire, un logiciel de calcul de doses ou générant des alertes en fonction des évolutions d’une constante physiologique est quant à lui qualifié de DM [9] [10]. Les DM sont soumis aux exigences de management de la qualité portées par le règlement UE 2017|745 (également appelé Medical Device Regulation (MDR) [11] et spécifiquement dédié aux DM). Ce dernier apporte une classification des DM articulée autour de 4 catégories :

• Classe I : Faible degré de risque
• Classe IIa : Degré moyen de risque
• Classe IIb : Potentiel élevé de risque
• Classe III : Potentiel très sérieux de risque

Il convient de noter que si les DM de classe I ne requièrent qu’une auto-déclaration de conformité de la part du fabriquant, les DM de classe supérieure nécessitent quant à eux, une certification par un organisme notifié.