L’IA et les services policiers : la gouvernance et l’utilisation de l’intelligence artificielle par la police au Canada
Le projet
Les services policiers partout au Canada utilisent, ou envisagent d’utiliser, un large éventail de technologies d’intelligence artificielle (IA), notamment la reconnaissance faciale, les services prédictifs fondés sur la localisation, les lecteurs automatisés de plaques d’immatriculation, les rapports de police assistés par l’IA, la veille des médias sociaux, la détection des coups de feu, le génotypage probabiliste, la fouille de données et les outils d’analyse vidéo servant à repérer du contenu portant sur l’exploitation et l’abus sexuels d’enfants.
Bien que ces outils promettent des gains de productivité et des avantages pour la sécurité publique, ils soulèvent aussi diverses préoccupations et présentent plusieurs risques. Le Canada ne dispose actuellement d’aucune loi ni d’aucun règlement propre à l’IA qui encadre l’utilisation de ces technologies, ni même d’un énoncé de principes sur la gouvernance et l’utilisation de l’IA par la police.
Ce projet examine l’utilisation croissante de l’IA par la police, les avantages et les risques que présentent ces technologies, ainsi que les possibilités de renforcer la gouvernance dans les domaines suivants :
- Utilisations de l’IA par la police : quels types de technologies d’IA sont actuellement utilisés, ou ont été utilisés, par les services policiers canadiens, et à quelles fins précises? Quelles données probantes existent quant à leurs avantages et à leurs risques?
- Autoréglementation policière : dans quelle mesure les services de police au Canada encadrent-ils efficacement leur propre utilisation des technologies d’IA?
- Approches de gouvernance : comment les initiatives canadiennes et internationales de gouvernance de l’IA peuvent-elles orienter une adoption responsable et digne de confiance de l’IA dans les services policiers au Canada?
Nous avons analysé des données provenant de recherches publiées et des connaissances provenant d’un vaste éventail de sources publiques, ainsi que de tables rondes avec des parties prenantes. Ces tables rondes ont été particulièrement importantes, compte tenu de l’évolution rapide du sujet, pour lequel les travaux publiés accusent généralement plusieurs années de retard. Dans trois villes, 40 participantes et participants ont contribué avec franchise selon la règle de Chatham House, ce qui a permis un échange libre d’idées et d’expériences. Parmi les participantes et les participants figuraient des représentantes et représentants d’organismes de défense des droits de la personne et de réforme du droit, des commissaires à la protection de la vie privée, des services policiers et des organismes de surveillance, des universitaires et chercheuses et chercheurs, des organisations de la société civile et de défense des droits, des avocates et des avocats de la défense pénale et des législatrices et législateurs.
Principales conclusions
- Validation empirique indépendante limitée, évaluée par les pairs, des outils d’IA utilisés par les services policiers : Il existe étonnamment peu de données scientifiques indépendantes démontrant que les technologies d’IA utilisées par les services policiers sont exactes, fiables, efficaces ou nécessaires. Malgré les nombreuses affirmations quant à leur efficacité et à leur objectivité, les taux d’erreur documentés, l’amplification des biais et les faux positifs demeurent importants. Cependant, des données montrent que certains outils d’IA ont entraîné des gains en matière de sécurité publique et d’efficacité, et ont démontré des améliorations dans des conditions contrôlées à mesure que la technologie progresse. Il faut donc faire preuve d’un degré élevé de scepticisme et de prudence à l’égard de toute technologie d’IA utilisée par les services policiers.
- Risques largement documentés liés aux outils d’IA utilisés par les services policiers : Les risques les plus répandus et les plus persistants que présentent de nombreuses applications opérationnelles sont l’amplification des biais et les résultats discriminatoires, les atteintes à la vie privée, la surveillance de masse, le manque de transparence et de reddition de comptes, les préoccupations liées à l’exactitude et à la fiabilité, ainsi que les atteintes aux droits constitutionnels.
- L’autoréglementation par la police de l’utilisation de l’IA varie beaucoup : Les services policiers canadiens ont adopté un large éventail d’approches à l’égard de leur utilisation des technologies d’IA, allant de politiques officielles assorties d’exigences variant selon le niveau de risque, comme au service de police de Toronto, à des mécanismes de transparence publique et de surveillance interne, comme à la Gendarmerie royale du Canada, en passant par des directives sur certaines technologies d’IA, comme au service de police régional de Peel, et par des engagements à adopter des politiques avant le déploiement de nouvelles technologies d’IA, comme au service de police de Vancouver. Toutefois, des préoccupations ont été soulevées concernant l’élaboration réactive des politiques, la classification contestée des risques, l’absence de surveillance indépendante par des tiers, l’ampleur de la consultation publique et les lacunes en matière de transparence.
- Rôle important, mais limité, des outils d’évaluation des répercussions et des organismes de surveillance existants : Les commissions de protection de la vie privée et des droits de la personne sont intervenues pour répondre à certains des défis posés par les utilisations policières de l’IA. Cela est particulièrement important en l’absence de mesures législatives et réglementaires particulières et compte tenu du faible nombre de décisions judiciaires rendues jusqu’à maintenant dans ce domaine. Les évaluations des facteurs relatifs à la vie privée, les évaluations algorithmiques de l’incidence et les évaluations des répercussions de l’IA sur les droits de la personne sont des instruments opérationnels clés pour gérer les risques liés aux utilisations de l’IA par les services policiers. Toutefois, ces outils sont de nature générale et ne sont pas conçus expressément pour les dimensions coercitives, probatoires et de surveillance propres aux services policiers. Ils ne traitent pas non plus pleinement du respect de la Charte canadienne des droits et libertés dans tous les aspects pertinents pour la justice pénale.
- Consensus sur les principes fondamentaux de gouvernance de l’IA : Les initiatives de gouvernance de l’IA pertinentes pour les services policiers font ressortir des thèmes récurrents, notamment la nécessité et la proportionnalité, le pouvoir légal, la protection des droits de la personne et de la vie privée, les normes d’exactitude, l’atténuation des biais, l’explicabilité, la surveillance humaine, la transparence et l’avis au public, la participation du public, la reddition de comptes et l’accès à des recours.
Conséquences relatives aux politiques
- Les lois existantes d’application générale devraient être appliquées rigoureusement aux outils d’IA utilisés par la police : La Charte, la procédure pénale, le droit de la protection des renseignements personnels, le droit de la preuve et le droit de la personne s’appliquent déjà à toute utilisation de l’IA par la police au Canada. Bien que ces cadres soient insuffisants à eux seuls, ils fournissent un ensemble essentiel de normes à appliquer immédiatement. Les praticiennes et les praticiens de la justice pénale, les juges et les juristes jouent un rôle essentiel dans la protection de l’intégrité du système de justice pénale, ce qui rend indispensables la littératie en IA et la compétence juridique dans ce domaine.
- Nécessité de principes sur la gouvernance et l’utilisation de l’IA par la police au Canada : Des normes nationales cohérentes pourraient s’appuyer sur la richesse des initiatives canadiennes et internationales de gouvernance de l’IA, y compris celles qui sont propres aux services policiers. Il convient de souligner qu’un angle mort important de ces instruments pourtant éclairants concerne les effets de l’utilisation de l’IA par la police sur les peuples autochtones.
- Il faut mener des activités de participation publique et des discussions multipartites sur le développement, l’acquisition et le déploiement de l’IA par les services de police canadiens.
- Importance de lois et de règlements propres à l’IA dans les services policiers : Il n’existe aucune loi ni aucun règlement fédéral ou provincial portant directement sur l’utilisation de l’IA par la police. Cette lacune persiste malgré les appels répétés de commissions de réforme du droit, de commissaires à la protection de la vie privée, d’organismes de défense des droits de la personne et d’organisations de la société civile en faveur de cadres législatifs clairs, adaptés aux risques connus que présente l’utilisation de l’IA par la police.
Coordonnées
Benjamin Perrin, professeur, Peter A. Allard School of Law, University of British Columbia : perrin@law.ubc.ca
Renseignements supplémentaires
Lire le rapport complet (À venir)