Cartographie des pratiques d’alignement des valeurs de l’IA : une approche fondée sur des données probantes pour une IA plus sûre dans la fonction publique
Le projet
Le développement rapide et l’utilisation croissante des systèmes avancés d’intelligence artificielle (IA) suscitent des préoccupations d’ordre éthique et sociétal au sein du grand public et chez les responsables des politiques, notamment en ce qui concerne les risques de biais et de discrimination, les menaces pour la vie privée, les pertes d’emplois et les incidences négatives sur l’environnement. Ces défis sont aggravés par la complexité des systèmes d’IA polyvalents – comme l’IA générative –, car la compréhension limitée du fonctionnement de ces systèmes rend difficiles l’évaluation et la gestion des risques potentiels. L’alignement des valeurs, une approche de l’atténuation des risques, garantit que les systèmes d’IA fonctionnent conformément aux intentions et aux valeurs humaines. Par exemple, pour concilier les services basés sur l’IA et la protection de la vie privée, il faut concevoir des systèmes de manière réfléchie, en tenant compte de l’utilisation de renseignements confidentiels et propres au contexte concernant les destinataires.
Le présent projet évalue de manière critique l’état des connaissances sur l’alignement des valeurs de l’IA comme aspect essentiel de la gouvernance de l’IA. Notre examen systématique a permis de relever des pratiques concrètes pour aligner les systèmes d’IA sur les valeurs humaines, organisationnelles et sociétales. De plus, il indique quels changements institutionnels sont nécessaires pour soutenir ces pratiques et prévenir le préjudice causé par une exposition directe ou indirecte aux systèmes d’IA, en particulier dans le contexte de la fonction publique. Notre analyse s’est appuyée sur le Code de valeurs et d’éthique du secteur public afin de garantir des propositions de valeur fondées sur les comportements attendus des fonctionnaires du Canada.
Principales conclusions
Certaines valeurs sont plus concordantes que d’autres
- Des valeurs clés comme l’ouverture, l’équité et la responsabilité sont couramment citées comme nécessaires au développement responsable de systèmes d’IA qui protègent la dignité humaine.
- Des valeurs telles que l’efficacité, la fiabilité et le professionnalisme sont souvent liées à des justifications pratiques pour la mise en œuvre des outils d’IA dans le secteur public.
- La durabilité est une valeur souvent négligée, seuls quelques articles spécialisés la mentionnant comme un élément indispensable à un système d’IA responsable. Cela indique un décalage général entre les valeurs environnementales et les outils d’IA.
Obstacles à l’alignement des valeurs de l’IA
- Les barrières organisationnelles et institutionnelles constituent les obstacles les plus fréquemment cités à la réussite de l’alignement des valeurs dans la pratique. Ces difficultés découlent d’interprétations divergentes des objectifs de mise en œuvre au sein des organisations, de priorités contradictoires en matière de valeurs et de lacunes réglementaires.
- Les contextes géographiques et culturels constituent aussi un obstacle notable. Par exemple, les communautés autochtones qui ont recours à des services basés sur l’IA ont constaté une prise en compte lacunaire de leurs normes et valeurs culturelles.
- Les lacunes en matière de connaissances et de littératie numérique entravent la mise en œuvre réussie de systèmes d’IA alignés sur les valeurs. Ces défis se manifestent dans le recrutement de spécialistes, la disponibilité de formations et les pratiques de conception des outils et services basés sur l’IA.
Moyens d’assurer l’alignement des valeurs
- Les sondages sont l’outil le plus courant pour déterminer les valeurs publiques communes, ainsi que les cadres décisionnels multicritères et les méthodes pour combiner les préférences. Cependant, les spécialistes recommandent de s’orienter vers des processus plus interactifs et participatifs, qui rassemblent les parties prenantes pour discuter des compromis, écouter des points de vue diversifiés et se forger des opinions plus éclairées et nuancées.
- Les cadres et modèles de mise en œuvre sont considérés comme des méthodes solides et exploitables pour s’assurer que les valeurs publiques sont intégrées dans les systèmes d’IA du secteur public. Par exemple, des cadres de conception comme la conception sensible aux valeurs, le cadre en quatre étapes et le modèle de confiance humain-ordinateur intègrent tous les valeurs dans leur conception dès le début du projet.
- Un contrôle humain effectif des systèmes d’IA est nécessaire pour préserver l’autonomie humaine et la responsabilité. Ainsi, l’IA explicable est préférable aux modèles de type « boîte noire », parce qu’elle permet une prise de décision éclairée.
Conséquences relatives aux politiques
Une gouvernance renforcée en matière d’alignement des valeurs
- Actuellement, le gouvernement du Canada fournit divers guides et directives pour l’utilisation responsable de l’IA au sein du gouvernement. Bien que le Guide sur l’utilisation de l’intelligence artificielle générative et l’outil d’évaluation de l’incidence algorithmique exigent une approche d’atténuation des risques, ils devraient être affinés pour inclure des valeurs cibles sensibles aux usages visés et aux populations concernées.
- Le gouvernement du Canada pourrait aussi envisager d’intégrer l’alignement des valeurs dans la Politique sur les services et le numérique comme exigence pour tous les projets numériques.
Assurer l’adhésion de la population
- Pour instaurer la confiance, les ministères pourraient adopter des pratiques de transparence telles que la publication de « tableaux de bord des valeurs » qui documentent les indicateurs, les objectifs visant à garantir l’alignement des valeurs publiques et les limites connues du système. Des audits externes périodiques peuvent permettre de vérifier ces engagements, tandis que l’accès public aux journaux de décision et aux dossiers du système peut renforcer l’adhésion publique.
Main-d’œuvre et renforcement des capacités autour des rôles en IA
- L’un des principaux obstacles à la réussite de la mise en œuvre de l’IA réside dans les disparités en matière de littératie numérique entre les différents postes du secteur public. Alors que la mise en place d’une formation à grande échelle sur l’IA destinée à la fonction publique nécessiterait des investissements considérables, la création d’un dépôt centralisé de connaissances permettrait d’harmoniser rapidement la compréhension des outils et des systèmes d’IA. Intégrer les valeurs publiques clés dans ces ressources aiderait à normaliser la conception sensible aux valeurs dans l’ensemble de la fonction publique.
Coordonnées
Adegboyega Ojo, professeur et titulaire de la Chaire de recherche du Canada en gouvernance et intelligence artificielle, School of Public Policy and Administration, Carleton University : adegboyega.Ojo@carleton.ca
Renseignements supplémentaires
Lire le rapport complet (À venir)