🏛️ Délégation à la prospective : l’IA et l’avenir du service public.
Rapport Thématique #2 : IA et Santé
👉 Après le premier rapport autour l’IA et des services fiscaux et sociaux, notre délégation sénatoriale a aujourd’hui rendu son rapport sur l’IA et la Santé par les voix de nos rapporteurs Anne Ventalon et Christian Redon-Sarrazy.
👉 Confronté à l’explosion des données, à la complexité des situations, dans un contexte de tensions budgétaires et de temps contraint pour assurer les soins aux patients, le secteur de la santé est l’un de ceux qui pourraient le plus tirer parti des progrès de l’IA. Le potentiel de transformation des pratiques soignantes par l’IA, au bénéfice des patients, est fort. Le caractère spectaculaire de l’IA générative a porté un regain d’engouement pour
l’IA, même si nombre des applications de l’IA en santé ne relèvent pas de l’IA générative mais de l’IA classique.
Il n’y a pas un modèle unifié d’IA mais en réalité plusieurs formes d’IA, pour lesquelles une première exigence réside dans la qualité des données d’entrée utilisées pour entraîner les modèles d’apprentissage automatisé et d’apprentissage profond. Les utilisations de l’IA en santé sont également très variées : recherche, dépistage, fourniture d’informations, aide à la décision, production documentaire.
👉 La médecine a toujours intégré les meilleures connaissances et l’ensemble des technologies disponibles pour améliorer la prise en charge des patients. Si l’IA est capable de résoudre des questions pratiques comme la lecture d’un cliché radiologique, la synthèse d’articles scientifiques ou la modélisation 3D de protéines, elle sera à n’en pas
douter adoptée par ceux dont le travail quotidien sera ainsi facilité.
Mais cette adoption pourrait se faire à un rythme variable : certains y auront accès plus vite que d’autres, certains verrous psychologiques ou financiers créeront des réticences.
Les inégalités de santé pourraient s’accroître si l’on n’y prend pas garde.
L’IA va aussi transformer la relation entre patients et médecins, comme l’a déjà fait la démocratisation de l’information médicale grâce à Internet. Mieux informés, les patients seront plus exigeants mais ils pourront aussi être davantage acteurs des soins.
Enfin, l’IA pourrait transformer l’approche du soin, fondée largement aujourd’hui sur le curatif. Avec l’IA et le développement des dépistages et prédictions à partir de données massives, c’est vers une médecine plus personnalisée et plus axée sur la prévention de
l’apparition de potentielles maladies que l’on s’orientera. Nous pourrions faire ainsi des
économies dans les dépenses de santé, en évitant des traitements curatifs coûteux. Mais nous pourrions aussi multiplier les examens de contrôle et dériver vers un monitoring permanent anxiogène.
L’économie de la santé et celle du numérique seront davantage imbriquées, et l’enjeu d’une IA souveraine n’est pas à négliger dans les politiques publiques nationale et européenne.
👉4️⃣Quatre axes se dégagent aujourd’hui pour une IA en santé efficace et juste.
1️⃣ DÉVELOPPER UNE CULTURE DE L’IA EN SANTÉ PAR LA FORMATION INITIALE ET CONTINUE DES SOIGNANTS
Comme toute nouvelle technologie, son bon usage, voire son usage tout court, passe par une étape de prise en main par ses utilisateurs et ses bénéficiaires.
Si l’informatique contemporaine se caractérise par d’importants efforts de fluidité et le souci du caractère très intuitif des interfaces homme-machine, le fonctionnement de l’IA dans la santé doit être bien compris afin d’en tirer profit, mais aussi d’en mesurer les limites.
La formation à l’IA devrait donc être intégrée aux cursus universitaires pour les médecins mais aussi les professions paramédicales.
Pour adapter les personnels de santé déjà en poste, des efforts renforcés de formation continue à l’utilisation des outils d’IA devraient aussi être envisagés.
Enfin, un nouveau métier d’opérateur de l’IA en santé pourrait voir le jour, pour gérer la complexité et assurer une médiation entre les différents acteurs du système de santé : soignants, patients et producteurs de dispositifs médicaux numériques.
2️⃣ ACCÉLÉRER L’ACCÈS DES CHERCHEURS ET DES STARTUPS AUX DONNÉES SECONDAIRES DE SANTÉ
L’accès aux données est une condition indispensable pour pouvoir développer des solutions de haut niveau fondées sur l’utilisation de l’IA. Cela est possible sans remise en cause fondamentale des grands principes de protection des données personnelles, en
développant les méthodologies de référence (MR) dont le respect permet de se passer des procédures d’autorisation plus lourdes.
Une part importante des délais d’accès ne résulte pas de verrous juridiques mais de contraintes techniques. Il convient de faire adopter par le plus grand nombre de producteurs de données de santé des normes d’interopérabilité facilitant les croisements, et de renforcer le rôle du Health Data Hub comme fédérateur des différentes bases de données.
Enfin, des contrats types pourraient lever les verrous contractuels entre producteurs et utilisateurs de données, en définissant des normes de partage de la valeur.
3️⃣ CONSTRUIRE UN CADRE ÉTHIQUE ROBUSTE DE L’INTELLIGENCE ARTIFICIELLE EN SANTÉ
La confiance dans l’IA de la part de l’ensemble des acteurs de la santé, patients comme professionnels, est conditionnée au respect de principes éthiques garantissant le caractère fiable et non discriminant du fonctionnement des IA mises à disposition pour notre santé, la protection des données personnelles de santé, qui sont des données sensibles qu’on ne
souhaite pas voir être exposées sur la place publique, ou encore l’absence de délégation complète de la prise de décisions importantes à la machine. Patients comme soignants doivent pouvoir comprendre avec précision la portée et les limites de l’utilisation des
solutions d’IA disponibles.
Les exigences éthiques doivent être intégrées dans les dispositifs d’IA dès leur conception (ethics by design) et les enjeux d’éthique doivent être intégrés eux aussi dans la formation des soignants à l’IA.
Enfin, les exigences éthiques doivent trouver leur traduction juridique dans les textes et leur
mise en application concrète. Le caractère dissuasif des sanctions prévues par l’AI Act européen en cas de manquement des fournisseurs de services numériques à risque élevé à leurs obligations (amende de 35 millions d’euros ou 7 % du chiffre d’affaires) constitue une forte incitation à placer la barre haut en matière d’éthique. Il conviendra toutefois que les instances nationales de contrôle (en France, la Cnil) disposent de moyens renforcés
d’investigation et d’expertise pour que la menace de sanctions puisse jouer à plein.
4️⃣ ÊTRE CAPABLE DE FINANCER LA « COURSE À L’IA »
Dans le domaine de la santé comme dans les autres domaines, l’IA connaît un essor qui se traduit par la multiplication d’initiatives et d’expérimentations. L’irruption de l’IA générative a donné un coup d’accélérateur aux investissements et contribue à faire évoluer très vite les technologies et leurs possibilités d’application.
Cette phase expérimentale un peu foisonnante qui repose sur une multitude d’acteurs pourrait être suivie d’une phase de stabilisation qui ne laissera que quelques opérateurs sur le marché. Le rapport de la Commission de l’intelligence artificielle de mars 2024 alerte sur le risque de rater la marche et de dépendre in fine de firmes américaines ou chinoises. Pour
éviter un décrochage français et européen, il propose d’investir 5 milliards d’euros sur 5 ans.
Il convient qu’une part significative de cette enveloppe soit orientée sur l’IA dans le domaine
de la santé.
L’ambition d’un écosystème de l’IA en santé peu dépendant de partenaires étrangers passe aussi par l’accélération du projet de cloud sécurisé souverain, car nos données de santé, au même titre que nos données de sécurité ou nos données fiscales, ne sauraient être soumises au risque de transmission à une puissance étrangère.
Enfin, la course à l’IA ne trouvera un aboutissement concret pour les patients que si, au-delà des investissements initiaux, un modèle économique est trouvé pour financer les nouveaux outils par une tarification adaptée. Il s’agit de disposer de fonds au-delà de la seule phase de mise en route. De ce point de vue, une enveloppe dédiée au secteur hospitalier pourrait, sur le modèle du financement des missions d’intérêt général, favoriser l’acquisition et la maintenance de solutions logicielles performantes.
👉 Faire résolument le choix du « soignant augmenté » et non celui du « robot médecin » ouvre de réelles perspectives que nous devons aborder avec enthousiasme parce qu’il est illusoire de penser qu’on pourra échapper aux risques que l’IA comporte par des contradictions. Beaucoup est déjà engagé en la matière.
👉 Je rappelle en conclusion les propos de cadrage de la mission de la Presidente de la Délégation à la Prospective, Christine Lavarde :
« À l’instar des révolutions technologiques générales que furent la machine à vapeur, l’électricité ou encore Internet, l’intelligence artificielle (IA) pourrait profondément changer la façon dont nous vivons et travaillons, et ceci dans tous les domaines. Pourtant, dans le secteur public, les expérimentations restent à ce jour limitées, les annonces modestes, et la parole très prudente.
Pour l’État, les collectivités territoriales et les autres acteurs publics, le potentiel de l’IA générative est immense. Bien utilisée, elle pourrait devenir un formidable outil de transformation de l’action publique, rendant celle-ci non seulement plus efficace – qu’il s’agisse de contrôle fiscal ou de diagnostic médical – mais aussi plus proche des
citoyens, plus accessible, plus équitable, plus M individualisée et finalement plus humaine – avec une capacité inédite à s’adapter aux spécificités de chaque élève, de chaque demandeur d’emploi, de chaque patient ou de chaque justiciable.
Pour autant, le secteur public n’est pas un secteur comme les autres. Si l’IA n’est qu’un outil, avec ses avantages, ses risques et ses limites, son utilisation au service de l’intérêt général ne pourra se faire qu’à condition que les agents, les usagers et les citoyens aient pleinement confiance.
La confiance, cela passe d’abord par la connaissance : par son approche sectorielle,
la délégation espère contribuer à démystifier une technologie qui suscite encore beaucoup de fantasmes, et à en montrer concrètement les possibilités comme les limites.
La confiance, c’est aussi et surtout l’exigence : une IA au service de l’intérêt général, c’est une IA au service des humains (agents et usagers), et contrôlée par des humains (citoyens). C’est aussi une IA qui s’adapte à notre organisation administrative et à notre
tradition juridique, et qui garantit le respect des droits et libertés de chacun. C’est, enfin, une IA qui n’implique ni dépendance technologique, ni renoncement démocratique. »
À suivre : Prochain rapport « IA et Éducation ».
