À l’instar des révolutions technologiques générales que furent la machine à vapeur, l’électricité ou encore Internet, l’intelligence artificielle (IA) -certains préférant parler d’intelligence augmentée- pourrait profondément changer la façon dont nous vivons et travaillons, et ceci dans tous les domaines. Pourtant, dans le secteur public, les expérimentations restent à ce jour limitées, les annonces modestes, et la parole très prudente.
C’est la raison pour laquelle la Délégation à la prospective du Sénat, sous la présidence de Christine Lavarde, et dont je suis vice-président, par la voie de 11 rapporteurs, a engagé des travaux qui trouvent leurs conclusions au moment du sommet mondial de l’IA qui s’est tenu à Paris en début de semaine pour tenter d’éclairer cette question autour de 5 thèmes :
Impôts, prestations sociales et lutte contre la fraude ; santé ; éducation ; environnement ; territoires et proximité.Je vais revenir ici plus spécifiquement sur ce dernier point qui concerne très directement les collectivités territoriales et dont le rapport thématique a été rendu aujourd’hui même lors de notre réunion de la Délégation.
Je veux souligner combien à travers ces travaux, le Sénat qui fête cette année ses 150 ans, est tourné vers l’avenir.
Pour l’État, les collectivités territoriales et les autres acteurs publics, le potentiel de l’IA générative est immense. Bien utilisée, elle pourrait devenir un formidable outil de transformation de l’action publique, rendant celle-ci non seulement plus efficace – qu’il s’agisse de contrôle fiscal ou de diagnostic médical – mais aussi plus proche des citoyens, plus accessible, plus équitable, plus individualisée et finalement plus humaine – avec une capacité inédite à s’adapter aux spécificités de chaque élève, de chaque demandeur d’emploi, de chaque patient ou de chaque justiciable.Pour autant, le secteur public n’est pas un secteur comme les autres. Si l’IA n’est qu’un outil, avec ses avantages, ses risques et ses limites, son utilisation au service de l’intérêt général ne pourra se faire qu’à condition que les agents, les usagers et les citoyens aient pleinement confiance.La confiance, cela passe d’abord par la connaissance : par son approche sectorielle, il s’agit donc de démystifier une technologie qui suscite encore beaucoup de fantasmes, et à en montrer concrètement les possibilités comme les limites.
La confiance, c’est aussi et surtout l’exigence : une IA au service de l’intérêt général, c’est une IA au service des humains (agents et usagers), et contrôlée par des humains (citoyens). C’est aussi une IA qui s’adapte à notre organisation administrative et à notre tradition juridique, et qui garantit le respect des droits et libertés de chacun. C’est, enfin, une IA qui n’implique ni dépendance technologique, ni renoncement démocratique.
La présence et l’efficacité des services publics sur les territoires constitue un enjeu majeur pour nos concitoyens, qui craignent voire constatent et déplorent la disparition des antennes de proximité qui existaient par le passé, avec une conséquence : le développement de fortes inégalités d’accès.Le déploiement du numérique et des téléprocédures auquel on assiste depuis deux décennies dans le secteur public permet de s’affranchir de certaines contraintes en élargissant les possibilités de trouver des renseignements ou encore réaliser des démarches administratives sans dépendre d’un guichet physique. Mais ceci s’effectue au prix d’une réduction des contacts directs entre usagers et fournisseurs des services publics et d’une absence d’explication et de dialogue entre usagers et administration.
De nombreux acteurs interviennent sur les territoires : État, collectivités territoriales, opérateurs publics ou même privés chargés de missions extrêmement variées : aménagement urbain, mobilités, fourniture d’énergie ou d’eau, déchets, restauration scolaire … Ils sont tous confrontés, dans un contexte de tension sur les moyens budgétaires disponibles, à la nécessité de gagner en efficacité et en efficience.Les progrès technologiques possibles en matière d’IA suscitent l’espoir d’améliorer les processus administratifs, d’abord par une meilleure connaissance du territoire et de ses habitants, ensuite par une prise de décision plus rapide en étant capables de prendre en compte une plus grande variété de paramètres, enfin par le renforcement du suivi des décisions et un meilleur contrôle des conditions d’exécution des tâches des acteurs locaux. Globalement, l’IA pourrait ainsi être un moyen de mieux répondre aux besoins des territoires.l’IA suscite aussi la crainte d’une aggravation des effets négatifs déjà constatés de la numérisation : déshumanisation, absence de souplesse d’interprétation, dessaisissement des décideurs locaux et en premier lieu les élus, au profit d’une approche purement technocratique, accroissement des inégalités territoriales.
Pour que l’IA puisse être un atout pour les territoires et renforcer les services publics de proximité, il conviendra d’agir à deux niveaux : d’une part maximiser l’impact positif de l’IA pour mieux connaître et donc mieux gérer le territoire, être plus efficaces dans le fonctionnement des services locaux en fiabilisant et en accélérant la prise de décision, rapprocher le citoyen de l’administration ; et d’autre part minimiser les risques liés à l’IA, les textes européens récemment adoptés constituant un cadre de précaution pour un bon usage de l’IA qui permettra d’éviter les dérives.Au-delà de ces considérations générales, on peut identifier trois principes à respecter pour un déploiement réussi de l’IA dans les territoires. Premier principe : même si des mutualisations seront nécessaires, il convient que les acteurs locaux aient une certaine autonomie dans la définition de leur stratégie d’IA et dans la mise en place opérationnelle. Toute démarche excessivement centralisée risque, sinon d’être vouée à l’échec, au moins à jouer un rôle de frein, nuisant aux initiatives locales. Deuxième principe : même si chacun a conscience que l’IA va intégrer de plus en plus les outils que nous utilisons au quotidien, même si l’automatisation intelligente des processus qu’elle permet va immanquablement progresser, il existe encore une méfiance vis-à-vis des effets possibles de dépossession et de déshumanisation. Des craintes existent aussi en matière de manipulations de données, de fuites d’informations et d’atteintes à la vie privée. La mise en œuvre de solutions d’IA devra donc faire l’objet d’efforts de pédagogie, d’explication et même de négociations. L’IA ne pourra pas être imposée ni par la force ni en secret. Son implantation dans les territoires devra être expliquée et débattue en impliquant les élus et les citoyens ainsi que les agents territoriaux dans les collectivités. Seule une IA comprise sera acceptée. Troisième principe : l’IA ne doit constituer qu’un outillage supplémentaire, une aide à la décision et éventuellement à l’action mais en aucun cas fonctionner de manière totalement automatique et autonome. La responsabilité de la prise de décision doit toujours être rattachée à une personne physique et ne pas être noyée dans la boîte noire d’un traitement algorithmique.Ainsi la Délégation a formulé, via ses rapporteurs Armel Gacquerre et Jean-Jacques Michau, une dizaine de propositions pour faire en sorte que l’utilisation de l’IA pour la gestion de nos territoires soit véritablement un atout dans les années qui viennent, et tienne la promesse ambitieuse d’une meilleure efficacité des services publics, au service de tous les territoires hexagonaux mais aussi d’outre-mer. La collecte de données massives et de qualité est essentielle à la construction d’outils d’IA performants. Dans ce domaine deux propositions peuvent être faites : mieux connaître te mieux organiser la production et l’exploitation des données numériques territoriales ; et affirmer le principe de propriété collective des données publiques locales. Ensuite, trois propositions portent sur l’utilisation proprement dite des outils d’IA (applications, logiciels, plateformes) dans les territoires : mettre en production des systèmes d’IA à travers la pratique de l’expérimentation, préalable à la diffusion des bonnes pratiques ; privilégier, lorsqu’ils existent, les outils d’IA souverains ; et orienter les choix vers des IA frugales. Deux autres préconisations concernent les moyens à mobiliser pour réussir les utilisations de l’IA dans les territoires : garantir une couverture complète du territoire en infrastructures numériques ; rechercher la mutualisation des compétences locales en IA. Enfin, les trois dernières propositions sont tournées vers les utilisateurs de l’IA et les citoyens, qui doivent être des acteurs de la transformation numérique des territoires par l’IA et non la subir de manière passive et résignée : former dans les collectivités les utilisateurs actuels et futurs de l’IA ; anticiper la reconversion des agents dont les tâches vont être automatisées ; et mettre en place une gouvernance locale participative de l’IA.J’ajoute enfin que la gestion de la data et le mode managerial sont sans doute dans toutes les organisations les sujets les plus sensibles et les premiers à traiter.Ce sujet est un défi majeur pour tous et pour la sphère public en particulier qui doit se montrer ouverte et facilitatrice pour centrer l’action humaine sur la vraie valeur ajoutée.
