Enjeux éthiques de l’intelligence artificielle dans l’administration publique

Si son utilité et son potentiel ne sont plus à démontrer, l’IA amène néanmoins son lot de questions et d’enjeux éthiques. Afin que l’État en tire le plein potentiel, le recours à l’IA doit être ancré sur des principes établis à la suite d’une réflexion approfondie des enjeux sociaux et éthiques.

Des travaux menés par certains États, organisations ou regroupements ont déjà eu lieu ou sont en cours, lesquels ont permis de dégager certains principes en la matière. De ce fait, au Québec, où un écosystème en IA est déjà bien positionné, une équipe pluridisciplinaire regroupant des scientifiques de plusieurs universités a mené une réflexion qui a conduit à la publication, en 2018, de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle.

Il s’agit d’une initiative ayant comme objectifs d’élaborer un cadre éthique pour le développement et le déploiement de l’IA, d’orienter la transition numérique afin que tous puissent bénéficier de cette révolution technologique ainsi que d’ouvrir un espace de dialogue national et international pour réussir collectivement un développement inclusif, équitable et écologiquement soutenable de l’IA. Les principes qui en découlent (le bien-être, l’autonomie, l’intimité et la vie privée, la solidarité, la démocratie, l’équité, l’inclusion, la prudence, la responsabilité et la soutenabilité environnementale) cherchent à poser les bases de la confiance sociale envers les systèmes d’IA.

L’Organisation de coopération et de développement économiques (OCDE) a aussi proposé des normes et des repères ayant pour but de favoriser la confiance dans l’IA et son adoption au sein de la société. En 2019, la Recommandation sur l’intelligence artificielle2 a été adoptée par 46 pays, dont le Canada et les États-Unis.

Baliser l’IA pour servir le bien commun

Ces exemples d’initiatives démontrent la nécessité de bâtir un cadre d’action centré sur l’humain, applicable à un large éventail d’acteurs, et ce, dans le contexte de l’évolution rapide de l’IA. Comme celle-ci offre une multitude de possibilités et est appelée à transformer certaines pratiques de façon durable, il importe pour l’État de faire en sorte que son utilisation serve le bien commun, qu’elle soit centrée sur le citoyen et son intérêt supérieur.

L’IA peut, par exemple, poser certains risques concernant la démocratie, l’équité et l’inclusion. Ceux-ci doivent être identifiés et mitigés afin que l’IA puisse contribuer à rendre les sociétés plus justes et équitables. Il en va par ailleurs de même pour les biais que les algorithmes peuvent reproduire, lesquels pourraient renforcer diverses formes de discrimination (ex. : socio-économique, liée au sexe, à l’orientation sexuelle ou à l’origine ethnique). Des questions relatives au maintien et à l’expression de la diversité sociale et culturelle doivent également être prises en compte. C’est en s’inscrivant dans cette réflexion que l’utilisation de l’IA pourra se déployer de manière optimale.

Vie privée et développement durable

L’IA soulève aussi des enjeux relatifs à la protection de la vie privée. En effet, il est possible de constater des enjeux d’arrimage entre les principes de transparence et de protection des données et le besoin de données plus précises et détaillées pour raffiner les algorithmes. Dans ce contexte, la transparence, l’imputabilité et la sécurité des données se doivent d’autant plus d’être assurées.

La question du développement durable est également au cœur des réflexions entourant l’IA, laquelle doit permettre une meilleure utilisation des ressources dans une perspective de durabilité, que ce soit au niveau de la prise en compte de l’impact environnemental dans les applications de l’IA, ou encore l’empreinte écologique des infrastructures technologiques nécessaires.

En somme, le domaine de l’IA appelle la mise en place de balises pour encadrer son développement et son utilisation. La présente Stratégie, à l’instar de l’éventail des actions du gouvernement dans les domaines du numérique et de la protection des renseignements personnels, vise à outiller l’administration publique pour répondre à ces enjeux tout en bénéficiant des apports de l’IA. Ainsi, les ambitions et les objectifs poursuivis par la présente Stratégie sont au cœur de la réflexion éthique entourant l’IA et le resteront tout au long de son application.

2. Le document présente 5 principes : croissance inclusive, développement durable et bien-être; valeurs centrées sur l’humain et équité; transparence et explicabilité; robustesse, sûreté et sécurité; responsabilité.

Dernière mise à jour : 20 juillet 2021

Évaluation de page

L’information sur cette page vous a-t-elle été utile?

Des questions ou besoin de renseignements?

Communiquez avec Services Québec