Le processus d’implication des parties prenantes qui a conduit à l’adoption du projet de loi 194 de l’Ontario met en évidence d’importantes lacunes en matière de participation efficace du public, en particulier dans un contexte de gestion des technologies de transformation numérique telles que l’intelligence artificielle (IA). Avec la prorogation du Parlement en janvier 2025, qui a entraîné la disparition du projet de loi fédéral C-27 et de Loi sur l’intelligence artificielle et les données (LIAD), le projet de loi 194 est la seule législation importante du Canada en matière d’IA. Bien que le gouvernement ait cherché à obtenir des contributions par le biais de consultations et d’auditions publiques de comités, le processus n’a finalement pas réussi à favoriser une véritable collaboration pour façonner la législation. Cet échec a non seulement sapé la légitimité démocratique du projet de loi, mais a également gâché une occasion de renforcer la confiance du public dans la gouvernance de l’IA, une problématique cruciale à l’heure où les gouvernements adoptent de plus en plus de systèmes d’IA ayant des implications sociales considérables. Avec l’adoption du projet de loi et le bouleversement de l’écosystème de l’IA à l’échelle mondiale, il est grand temps que le gouvernement de l’Ontario crée des opportunités de participation significatives pour les parties prenantes qui ont un impact démontrable sur l’adoption de l’IA dans le service public.
Le projet de loi 194 a été déposé le 13 mai 2024 et le gouvernement a simultanément publié un document de consultation sur le Registre réglementaire de l’Ontario afin de recueillir les commentaires des parties prenantes jusqu’au 11 juin 2024. Entre autres, le Commissaire à l’information et à la protection de la vie privée de l’Ontario,[1] la Commission du droit de l’Ontario,[2] Teresa Scassa[3] et Nord Ouvert ensemble avec Brenda McPhail ont fourni des commentaires détaillés. Ces réponses étaient presque toutes en accord avec le contenu et l’ampleur considérable des changements nécessaires afin de faire du projet de loi 194 un élément majeur de la réglementation en matière d’IA. Après cette période de consultation, et à la suite de sa deuxième lecture à l’Assemblée législative, le projet de loi a été renvoyé à une commission permanente. Les parties prenantes ont ainsi eu à nouveau l’occasion de faire part de leurs commentaires par écrit ou en personne. Malheureusement, la version finale du projet de loi 194 ne tient pas compte des remarques recueillies lors de ces deux consultations et a été adoptée en grande partie sans modification par rapport à sa version initiale.
Les avantages de la participation du public à la prise de décision gouvernementale sont reconnus depuis longtemps dans la littérature scientifique et professionnelle. La recherche montre clairement qu’avec les structures sociopolitiques et administratives appropriées, les décisions prises dans le cadre de processus participatifs sont considérées comme plus légitimes, la politique qui en résulte est mieux acceptée et il est moins nécessaire de la remanier. Cependant, le processus de consultation mis en place par le gouvernement provincial de l’Ontario n’a pas offert de possibilité significative de contribuer à l’élaboration de la législation, et encore moins d’explorer les enjeux de pouvoir, de confiance et de participation à la réglementation en matière de technologies numériques.
Pour comprendre ces lacunes, nous pouvons examiner le processus à travers le prisme de cadres de participation établis, tels que l’échelle de participation d’Arnstein [4] et l’Association internationale pour la participation publique (AIP2) [5], ainsi que la littérature émergente sur la mobilisation du public en matière de gouvernance de l’IA. Ces outils révèlent que l’approche de l’Ontario en matière de participation du public était largement symbolique. Selon l’échelle d’Arnstein, qui catégorise les niveaux de participation publique à la prise de décision, le processus relatif au projet de loi 194 s’est déroulé aux échelons inférieurs, tels que la consultation et l’apaisement. Bien que les parties prenantes aient été invitées à fournir une rétroaction – principalement par l’intermédiaire du Registre de la réglementation de l’Ontario et d’auditions publiques de comités – le gouvernement n’était pas tenu de donner suite à ces informations. Par exemple, les recommandations de la Commission du droit de l’Ontario, qui mettaient l’accent sur les mesures de transparence et de responsabilité, ont été largement ignorées. Cela reflète une approche de « façade », où l’avis du public est sollicité mais n’est pas intégré de manière significative dans le processus décisionnel.
Par ailleurs, lorsqu’on l’analyse à travers le spectre d’engagement de l’AIP2, le processus mis en place par l’Ontario ne répond même pas aux normes de base d’un d’une mobilisation efficace. Même le niveau le plus bas du spectre, la consultation, exige du gouvernement qu’il fournisse une rétroaction sur la manière dont l’avis du public a influencé la décision. Dans le cas présent, rien n’indique que les commentaires du public aient été sérieusement pris en compte ou incorporés dans la législation finale. Les participants n’ont pas su si leurs préoccupations, telles que les appels à un contrôle indépendant des systèmes d’IA, avaient été retenues ou rejetées. Ce manque de transparence a érodé la confiance et renforcé l’idée que la participation du public ne constituait qu’une simple formalité.
La nécessité d’un engagement public significatif est particulièrement aiguë en ce qui concerne la gouvernance de l’IA. Comme le soulignent des organisations de premier plan telles que Partnership on AI[6] et la Commission ontarienne des droits de la personne,[7] la participation du public est essentielle pour garantir que les systèmes d’IA sont conçus et déployés de manière à s’aligner sur les valeurs sociétales et à protéger les droits humains. Les recherches montrent systématiquement que les processus participatifs permettent d’identifier les risques, d’atténuer les préjudices et d’améliorer la compréhension du public à l’égard des technologies complexes. Des chercheurs tels que Cohen et Suzor affirment que le contrôle démocratique de l’IA nécessite de multiples canaux de contestation, tels que la possibilité pour des tiers d’accéder à des informations, de contester des décisions et de participer à des audits.[8] Pourtant, le processus d’élaboration du projet de loi 194 de l’Ontario n’a pas inclus d’opportunités de participation significative, et son contenu ne permet pas non plus aux parties prenantes de jouer un rôle efficace dans la surveillance continue. Cela a pour effet de centraliser le pouvoir au sein des institutions gouvernementales sans qu’il y ait suffisamment de mécanismes de contrôle ou de régulation.
Les conséquences de cette approche symbolique de l’élaboration du projet de loi 194 vont au-delà du projet de loi lui-même. La confiance du public dans les institutions gouvernementales est déjà fragile; des enquêtes récentes indiquent que les Canadiens perdent confiance dans la capacité des gouvernements fédéral et provinciaux à traiter efficacement les problématiques clés.[9] Alors que les Canadiens ont toujours fait preuve d’une plus grande confiance que les moyennes mondiales, celle-ci s’érode en raison des perceptions d’opacité dans l’élaboration des politiques relatives aux technologies émergentes telles que l’IA générative.[10] Compte tenu des éléments inconnus entourant les impacts sociétaux de l’IA et de son appropriation par les grandes entreprises technologiques, la nécessité d’une gouvernance transparente et inclusive n’a jamais été aussi urgente.
En ne s’engageant pas de manière significative avec le public sur le projet de loi 194, l’Ontario a manqué une occasion cruciale d’instaurer la confiance et de favoriser l’adhésion à l’intégration de l’IA au sein de la gouvernance. L’absence de dialogue itératif ou de mécanismes de résolution collaborative des problèmes a donné aux participants le sentiment d’être exclus de décisions susceptibles d’affecter profondément leur vie. Ce manque de légitimité démocratique est particulièrement troublant compte tenu des enjeux élevés autour de l’adoption de l’IA, où les risques pour les droits civils et les droits humains sont importants. En fin de compte, bien que le projet de loi 194 de l’Ontario représente une étape importante vers la régulation de l’utilisation de l’IA dans le secteur public, son processus participatif défectueux sape son efficacité potentielle. Pour que la participation du public soit réelle, il aurait fallu non seulement solliciter des commentaires, mais aussi assurer un suivi auprès des participants afin d’approfondir leurs points de vue et de les informer de la manière dont leur contribution a façonné, ou non, la législation finale. Sans ces efforts, la participation du public reste superficielle et contribue au déclin de la confiance institutionnelle à un moment où les gouvernements sont appelés à démontrer leur capacité à gérer les technologies de transformation numérique de manière responsable.
Comme le soulignent l’échelle d’Arnstein et l’AIP2, la participation doit aller au-delà de la consultation ou de l’apaisement pour aboutir à une véritable collaboration et à une responsabilisation. La littérature émergente sur la gouvernance de l’IA renforce ce point : le maintien du contrôle démocratique sur les technologies à haut risque nécessite des cadres participatifs solides qui donnent la priorité à la transparence, à la contestabilité et à l’inclusion. L’expérience de l’Ontario avec le projet de loi 194 sert d’avertissement sur ce qui se passe lorsque ces principes sont négligés et rappelle qu’un engagement significatif n’est pas une simple formalité procédurale mais la pierre angulaire d’une gouvernance efficace à l’ère de l’IA.
Ce manquement est d’autant plus inexplicable qu’il existe non seulement une multitude de recherches et de projets sur la participation publique en matière d’IA, mais également des travaux réalisés par le gouvernement de l’Ontario lui-même sur une politique potentielle en matière d’IA qui contredit le projet de loi 194 et son processus. Les démarches détaillées de mobilisation du public que la province a entreprises dans le cadre de l’élaboration du Trustworthy AI Framework en 2022 ont révélé que le public « souhaite participer aux décisions relatives à la manière dont l’IA est développée, à son utilisation et à sa mise en œuvre » et également « collaborer avec les chefs de file du secteur ainsi que la société civile afin d’élaborer une norme pour une IA digne de confiance ».[11]
En effet, l’engagement pris en 2022 dans son ensemble était excellent et contenait des conclusions détaillées et utiles (comme les principes d’IA responsable, qui étaient notamment absents du projet de loi 194). Il est ainsi difficile de comprendre pourquoi cet engagement n’a pas été approfondi. Cela aurait permis de faire progresser le mouvement vers une véritable collaboration. L’Ontario avait beaucoup à gagner en se positionnant parmi les leaders en matière de gouvernance responsable de l’IA, aux côtés de villes comme Amsterdam et Barcelone. Leurs initiatives ont donné naissance à une communauté technologique civique riche et prolifique et ont apporté à leurs sociétés respectives des innovations et des avantages en matière de technologies équitables.
L’adoption du projet de loi 194 de l’Ontario représente une opportunité manquée d’établir une norme mondiale pour une gouvernance responsable de l’IA grâce à une participation publique significative. Alors que le projet de loi aborde des questions cruciales liées à la cybersécurité, à l’IA dans le secteur public et à l’impact de la technologie numérique sur la société, son processus d’élaboration n’a pas reflété les principes de transparence, d’inclusivité et de responsabilité qui sont essentiels pour gouverner ces technologies à haut risque. En ne tenant pas compte des commentaires détaillés des parties prenantes et en négligeant d’assurer une boucle de rétroaction, le gouvernement de l’Ontario a sapé la confiance dans ses institutions et affaibli la légitimité démocratique de la législation. L’incapacité à tirer parti des efforts de mobilisation antérieurs, tels que les consultations menées dans le cadre de l’élaboration du Trustworthy AI Framework en 2022, souligne encore davantage le manque de continuité et de vision dans l’approche de l’Ontario en matière de politique sur l’IA.
Cependant, étant donné qu’une grande partie du contenu de la loi 194 reste à déterminer par voie réglementaire, il est encore possible de rectifier le tir en intégrant une participation significative du public dans le processus réglementaire. Bien que le projet de loi ne contienne aucune exigence en matière de participation publique, son préambule stipule que « ces réglementations seront élaborées en consultation avec les parties prenantes du gouvernement et du secteur public, les partenaires autochtones et les experts en IA ». Le gouvernement de l’Ontario doit saisir cette occasion de rétablir la confiance du public et de faire preuve de leadership en matière de gouvernance de l’IA en s’engageant à mettre en place un processus de consultation réglementaire solide et inclusif. L’Ontario devrait s’efforcer de se positionner comme un modèle de gouvernance responsable de l’IA, qui non seulement protège les droits humains mais donne également au public les moyens de façonner l’utilisation future des technologies de transformation numérique.
Sources :
[1] https://www.ipc.on.ca/fr/centre-des-medias/blog/la-loi-194-une-occasion-manquee-de-faire-de-lontario-un-chef-de-file-de-lintelligence-artificielle
[2] https://www.lco-cdo.org/wp-content/uploads/2024/06/LCO-Submission-to-Government-of-Ontario-Bill-194-Consultations-June-2024.pdf
[3] https://www.teresascassa.ca/index.php?Itemid=80&id=383%3Asubmission-to-consultation-on-ontarios-bill-194-strengthening-cyber-security-and-building-trust-in-the-public-sector-act-2024&option=com_k2&view=item&
[4] https://citizenshandbook.org/arnsteinsladder.html
[5] https://cdn.ymaws.com/www.iap2.org/resource/resmgr/pillars/iap2_spectrum_2024.pdf
[6] https://partnershiponai.org/stakeholder-engagement-for-responsible-ai-introducing-pais-guidelines-for-participatory-and-inclusive-ai/
[7] https://www3.ohrc.on.ca/fr/projet-de-loi-194-loi-de-2024-visant-renforcer-la-cybersecurite-et-la-confiance-dans-le-secteur
[8] https://policyreview.info/articles/analysis/contesting-public-interest-ai-governance
[9] https://www.environicsinstitute.org/projects/project-details/trusting-federal-and-provincial-government-decision-making-on-key-issues
[10] https://www.oecd.org/fr/publications/enquete-de-l-ocde-sur-les-determinants-de-la-confiance-dans-les-institutions-publiques-resultats-2024-notes-pays_2b4cb45e-fr/canada_c335ec9c-fr.html
[11] https://www.ontario.ca/fr/page/consultations-sur-le-cadre-de-lintelligence-artificielle-ia-de-confiance-de-lontario