L’être humain derrière la machine : plan pour une intelligence artificielle digne de confiance
–
Madeleine Ransom, chercheuse au campus Okanagan de l’University of British Columbia, affirme que pour créer une IA digne de confiance, il faut d’abord prendre conscience que l’expertise humaine demeure la ressource la plus précieuse.
Date de publication :
| Durée estimée de lecture : 6 min
Conseil de recherches en sciences humaines
Madeleine Ransom s’adresse à une classe d’étudiantes et étudiants en philosophie à l’University of British Columbia (campus Okanogan).
Photo : UBC Studios Okanagan
Les organes législateurs et les parties prenantes travaillent d’arrache-pied pour mettre en place des politiques et des infrastructures destinées à mieux préparer le Canada à l’intelligence artificielle (IA), mais un nombre important de Canadiennes et Canadiens préféreraient plutôt freiner cette évolution.
Réalisé en août 2025, un sondage Léger (en anglais) a révélé que plus d’un tiers des personnes interrogées estimaient que l’IA pourrait nuire à la société. Les autres opinions étaient partagées (quasiment à parts égales) entre optimisme et incertitude. L’ambivalence est donc clairement marquée.
« En Amérique du Nord, beaucoup de gens sont convaincus que l’IA aura des effets négatifs », explique Madeleine Ransom, titulaire de la Chaire de recherche du Canada en intelligence artificielle, bien-être et éthique. « Cette conviction entraîne de vives réactions et une forte résistance. »
Depuis le lancement public des plateformes d’IA générative, à commencer par ChatGPT en novembre 2022, ces technologies suscitent des inquiétudes partout dans le monde. Toutes les réactions ne sont toutefois pas aussi polarisées qu’en Amérique du Nord.
« Les sondages montrent que les gens sont plus optimistes vis-à-vis de l’IA dans les pays où la réglementation et les mesures de protection des particuliers sont plus strictes », précise Mme Ransom, qui est également professeure agrégée au Département d’économie, de philosophie et de sciences politiques du campus Okanagan de l’University of British Columbia.
Ces mesures de protection, qui visent à atténuer les risques et les préjudices potentiels tels que la suppression d’emplois, l’atteinte à la vie privée et la mésinformation sont parfois critiquées sous prétexte que la réglementation pourrait freiner l’innovation. C’est peut-être vrai, mais il a été démontré que les approches laxistes ont elles aussi leurs limites.
« Lorsque la réglementation est insuffisante, la confiance du public diminue, remarque la chercheuse. La plupart des grandes entreprises technologiques en sont conscientes, c’est pourquoi elles plaident activement en faveur d’une réglementation, sous différentes formes. »
Avoir foi en l’humanité
Madeleine Ransom
Photo : UBC Studios Okanagan
La méfiance du public a donné naissance à un mouvement en faveur d’une IA digne de confiance, destiné à remédier aux problèmes existants, tels que les hallucinations d’IA (des réponses inventées que l’IA présente comme étant des faits), ainsi qu’à d’autres formes de mésinformation. Une autre préoccupation majeure concerne les préjugés qui découlent de l’utilisation d’ensembles de données biaisés pour l’entraînement de l’IA. Ces préjugés peuvent conduire à des pratiques discriminatoires concrètes, comme le biais de genre caractéristique observé dans les institutions financières qui utilisent l’IA pour évaluer les demandes de crédit. Les préjugés liés à l’IA ont notamment été mis en évidence dans les domaines de la santé, de la justice et des ressources humaines.
« L’idéal serait que l’IA détecte et corrige les préjugés humains plutôt qu’elle les renforce », souligne Mme Ransom, qui ajoute que la découverte de préjugés dans les systèmes d’IA mène les utilisatrices et utilisateurs à se méfier de la technologie dans son ensemble, ce qui se comprend bien.
Madeleine Ransom raconte avoir été inspirée par les travaux sur la confiance menés par ses étudiantes et étudiants des cycles supérieurs, dont Bukunmi Okoduwa, une chercheuse de son université. Originaire du Nigeria, cette dernière applique la philosophie Ubuntu à l’IA pour apporter un regard neuf au domaine. En effet, les recherches de Mme Ransom ont été inspirées par un texte rédigé par Mme Okoduwa sur l’Ubuntu et la justice qui l’a incitée à se demander s’il serait possible d’appliquer la philosophie de l’Ubuntu à une IA digne de confiance.
« Au début, je me suis demandé comment ce serait possible, puis j’ai réalisé que l’IA exclut souvent les minorités, explique Mme Okoduwa. Les théories de la confiance issues de l’Ubuntu, en revanche, impliquent l’ensemble de la communauté et, si l’on fait participer la communauté au sens large à l’IA, on réduira les partis pris et les préjugés structurels. »
De façon générale, Mme Ransom estime que les approches plus globales en matière d’IA digne de confiance, comme celle de Mme Okoduwa, peuvent aider à construire un avenir qui intègre l’IA tout en protégeant la vie privée, la santé mentale et l’emploi pour le bien de l’humanité.
« Pour développer une IA véritablement fiable, nous devons protéger la population contre les risques et les préjudices, précise la chercheuse. En définitive, développer une IA digne de confiance ne se résume pas à concevoir une technologie, mais consiste à façonner une société. »
Un accès universel à la littératie en IA
Toutefois, avant de pouvoir concevoir une société digne de confiance, Madeleine Ransom estime que la population canadienne doit mieux maîtriser les principes fondamentaux de l’IA, notamment les questions éthiques, la détection des erreurs de l’IA et l’utilisation sécuritaire de cette technologie.
Madeleine Ransom discute avec Bukunmi Okoduwa.
Photo : UBC Studios Okanagan
Pour ce faire, financée par une subvention Savoir du CRSH et aidée de ses collègues, elle met au point de nouveaux outils de sensibilisation à l’IA destinés à la population canadienne. Par ailleurs, elle organise autant d’événements grand public que possible, notamment dans le cadre d’une initiative d’autonomisation par l’IA menée en partenariat avec le Centre for Migration Studies de l’University of British Columbia – initiative qui lui a permis, l’automne dernier, de proposer des ateliers gratuits de sensibilisation à l’IA destinés à la population immigrante (en anglais).
Elle participe aussi à des activités de sensibilisation en organisant des causeries publiques, des panels et des débats ouverts sur l’éthique de l’IA.
« Lors d’une récente causerie donnée à Vancouver, j’ai fait valoir que, si nous voulons une société fonctionnelle où il fait bon vivre, nous ne pouvons pas concevoir l’avenir post-travail vers lequel certains pensent que nous nous dirigeons », rapporte-t-elle.
« Il ne suffit pas de simplement impliquer quelques êtres humains dans le processus », ajoute la chercheuse dont les recherches suggèrent qu’une IA digne de confiance n’est envisageable que si l’on dispose également de systèmes solides de freins et de contrepoids gérés par des communautés de spécialistes qualifiés.
« Même en supposant que les gens bénéficient d’une forme de revenu de base universel, les fantasmes selon lesquels l’IA nous déchargera de nos tâches pour que nous puissions nous consacrer à nos loisirs, ou selon lesquels nous deviendrions de simples masses flottantes nourries à la cuillère, ne sont rien d’autre que des hypothèses fantaisistes », affirme Madeleine Ransom.
Vous voulez en savoir plus?
Pour en savoir plus sur les recherches de Madeleine Ransom dans le domaine de l’IA, consultez son site Web (en anglais). Le site du Digital Transparency Research Excellence Cluster (en anglais) contient aussi plus d’informations sur les travaux menés pour promouvoir la littératie en IA.
