L’intelligence artificielle au sein de la fonction publique et le respect de l’IA Act
- Session : 2024-2025
- Année : 2025
- N° : 51 (2024-2025) 1
2 élément(s) trouvé(s).
Question écrite du 28/02/2025
- de ROBERTY Sabine
- à GALANT Jacqueline, Ministre de la Fonction publique, de la Simplification administrative et des Infrastructures sportives
Ce règlement impose aux employeurs – qu'ils soient fournisseurs ou développeurs de systèmes d'IA – de s'assurer que leur personnel, ainsi que toute personne exploitant ou utilisant ces technologies en leur nom, dispose d'un niveau de maîtrise suffisant. Cette exigence ne se limite pas aux compétences techniques, mais inclut également une connaissance approfondie des opportunités offertes par l'IA ainsi que des risques et préjudices potentiels qu'elle peut engendrer.
L'IA Act repose sur une approche fondée sur le risque, classant les systèmes d'IA du risque « minimal » au risque « inacceptable », ce dernier étant strictement interdit. Parmi les systèmes interdits figurent notamment les outils de notation sociale, susceptibles d'engendrer des discriminations, ainsi que les systèmes d'inférence émotionnelle en milieu professionnel. Dès lors, les employeurs doivent veiller à ce qu'aucun système d'IA relevant de cette catégorie ne soit utilisé au sein de leur organisation.
Toutefois, l'application effective du règlement n'interviendra que dans six mois, soit le 2 août 2025, afin de permettre aux fournisseurs et développeurs de s'y conformer. À ce titre, il est essentiel que nos administrations et organismes administratifs publics, en tant que potentiels développeurs d'IA, soient pleinement informés et préparés à ces nouvelles exigences.
Mme la Ministre peut-elle préciser comment nos administrations et les unités d'administration publique wallonnes (UAP) seront sensibilisées et accompagnées dans la mise en œuvre de ce règlement européen ?
Un état des lieux de l'utilisation de l'IA au sein des administrations et UAP wallonnes a-t-il été réalisé ?
Si oui, quels en sont les principaux enseignements ?
Des outils, plateformes ou guides spécifiques sont-ils en cours d'élaboration pour aider à identifier et maîtriser les risques liés à l'IA ?
Par ailleurs, des programmes de formation adaptés pour les fonctionnaires sont-ils prévus ?
Si oui, qui en sera chargé et quel en sera le contenu ?
La mise en place de l'IA doit s'accompagner de garanties et de mécanismes de contrôle, assurant une utilisation sûre et efficace.
Mme la Ministre peut-elle me préciser quelles mesures sont mises en place pour soutenir nos administrations et UAP en ce sens ?
Réponse du 08/04/2025
- de GALANT Jacqueline
L’entrée en vigueur de l’IA Act offre un cadre sécurisant en matière de transparence des algorithmes et de protection des droits des citoyens. L’IA Act offre notamment une transparence sur le mécanisme des modèles IA (explicabilité des résultats), une sécurité par rapport à de potentielles dérives et une protection des droits fondamentaux des individus. En outre, la réglementation donne une forte responsabilité au programmeur qui devra concevoir des outils technologiques sans faille au bénéfice des utilisateurs.
Afin d’être prête, l’administration mène diverses actions couvrant les aspects technologiques, l’accompagnement au changement et la sensibilisation.
Concernant l’accompagnement à la mise en place et à l’utilisation de l’IA au SPW, la mise en place de solutions d’IA générative se fait avec l’expertise de divers partenaires publics et de prestataires afin de s’assurer du respect des divers aspects de l’IA Act. En particulier, le SPW bénéficie du soutien de l’Agence du Numérique, via les programmes « Start et Tremplin IA », dans le développement du socle technologique nécessaire au développement de solution d’IA.
À cet effet, le SPW a mis en place un bureau d’étude interne composé de divers experts IT. Ce bureau chapeaute aussi une mission d’accompagnement avec une société du pool IA de Digital Wallonia 4IA. L'objectif est de développer une méthodologie de gestion des projets IA sur l’ensemble du cycle de vie et de définir une plateforme IA transversale. Pour cela, une analyse globale est réalisée afin de garantir le respect de l’IA Act dans la plateforme choisie et dans les futures initiatives à mettre en place. Cette mission couvre aussi une formation technique sur l’IA à destination des experts IT. À ce jour, plus d’une cinquantaine de personnes ont pu en bénéficier.
Dans le cadre de l’utilisation de l’IA générative dans le quotidien des agents, des formations, par des experts en intelligence artificielle, sont prévues pour l’année 2025. En outre, une offre de formation en deux modules est en cours de mise en place à l’École de l’administration publique en collaboration avec l’Agence du Numérique, le SPW et la FWB. Deux modules sont prévus afin de :
- expliquer son fonctionnement et son champ d’application quotidien ;
- s’approprier son usage et être capable d’utiliser l’IA de manière autonome ;
- présenter le cadre régissant l’utilisation de l’IA, dont l’IA Act et l’entrainement des modèles d’IA.
En termes d’état des lieux de l’utilisation de l’IA au SPW, avant toute chose, il s’agit de bien identifier le bénéficiaire final du produit d’IA.
Premièrement, aucune IA n’est actuellement au service du citoyen dans l’administration. Chaque citoyen faisant une démarche auprès du SPW est assuré que son dossier sera traité par un agent « humain » de bout en bout. Cependant, des prototypes de produits d’IA sont en cours de réalisation. Nous pouvons citer la génération de brouillons de permis d’environnement par de l’IA générative, l’utilisation de l’IA pour l’analyse des flux sur les autoroutes wallonnes ou encore l’accompagnement des entreprises dans l’introduction de leurs demandes de subventions. Ces prototypes sont encore en phase de test et prennent en compte les considérations éthiques, juridiques, sécuritaires et même environnementales nécessaires à leur utilisation pérenne.
Deuxièmement, l’IA générative de Microsoft « Copilot365 » est disponible, en phase expérimentale, pour les agents du SPW pour les soutenir dans leur travail quotidien. Son utilisation au sein de l’environnement informatique du SPW est en cours de test afin de mesurer son impact et les besoins en termes d’éthique, de capacité informatique et de sécurité.
Concernant les enseignements principaux sur l’utilisation de l’IA, l’expérience, en cours, relative à l’utilisation de l’IA Générative au SPW a révélé les enseignements suivants :
• un accompagnement au changement et des formations sont nécessaires pour maximiser l’appropriation de l’IA générative ;
• une centralisation et diffusion des cas d’usage est nécessaire, au travers de sessions de travail, de librairies de cas d’usages et d’événements ;
• une analyse de l’impact est nécessaire, ainsi que la mise en place d’une gouvernance pour cadrer le produit ;
• une intégration de la sensibilisation à la confidentialité des données, l’accès aux informations est à inclure dans les réflexions sur la stratégie globale de l’IA au SPW ;
• l’expérimentation de « Copilot365 » révèle une inquiétude autour du traitement des données et du respect du RGPD, ce qui doit être analysé pour trouver des mitigations.
À propos de la rédaction de guides, chartes et mise à disposition d’outils, diverses chartes et guides sont en cours de réalisation. Plus concrètement, durant l’année 2025, il est prévu de mettre à disposition des agents :
- un guide de bonnes pratiques sur l’IA, rédigé en collaboration avec Paradigm (Région bruxelloise), sur la base du document proposé par Digitaal Vlaanderen. Celui-ci couvrira, notamment, les aspects sécuritaires ;
- une charte éthique sur l’utilisation de l’IA dans le quotidien des agents, sur base du document proposé par le SPF BOSA et le FOREm ;
- un guide de bonnes pratiques pour l’utilisation de l’IA générative lors de communication vers le citoyen (simplification de textes administratifs vers les publics fragilisés, vulgarisation de contenus techniques, et cetera).
En plus de ces chartes, une bibliothèque de cas d’usages « par les agents pour les agents » sera mise à disposition des agents afin de leur permettre une plus-value maximale dans l’utilisation de l’IA générative.
De plus, le SPW Digital, au travers de son Pôle « Développement des Usages Innovants » (PDUI), organise des ateliers et conférences pour vulgariser l’IA au SPW. Ces conférences sont réalisées en collaboration avec des partenaires privés (entreprises spécialisées), et publics via le programme DigitalWallonia4ai et son réseau d’experts « TRAIL ».
Concernant la garantie et les mécanismes de contrôle, la mise en place de l’IA se fait avec le soutien de divers acteurs du SPW impliqués sur le sujet de l’IA, avec la coordination d’un groupe de travail transversal piloté par le SPW Digital. Ce groupe est composé de représentants des services et départements de sécurité informatique, des données transversales, du délégué à la protection des données, et cetera, mais aussi en prenant en considération les aspects juridiques et éthiques. Finalement, la création d’un comité éthique au niveau belge est en cours de discussion, avec une représentation du SPW.
L’enjeu de l'éthique exige la mise en place de système de mesure et d'acceptation sociétale, de lutte contre la désinformation. Cela demande le développement d’une IA éthique et digne de confiance, avec une évaluation de l’impact des applications de l’IA dans un dialogue ouvert et transparent avec les parties prenantes. Pour ce faire, le respect du règlement européen sur l'IA et la mise en conformité de celui-ci est une priorité du Gouvernement et des services de l’administration wallonne pour cette législature.