Axe 3 : Une action gouvernementale en IA fondée sur des pratiques responsables

La question du recours à l’IA par l’administration publique soulève d’importants enjeux sociaux, juridiques, éthiques et de gestion. Qui est responsable des conséquences d’une décision prise par IA? Que se passe-t-il lorsque des systèmes autonomes prennent des décisions avec lesquelles le citoyen n’est pas d’accord ou qui pourraient entraîner des conséquences non désirées?

Ces questions mettent notamment en évidence les enjeux éthiques de l’IA et l’importance d’un encadrement adéquat relatif à l’utilisation de ces technologies par l’administration publique. Il importe que l’IA soit alimentée par des pratiques responsables qui constitueront de solides fondations à son intégration dans l’administration publique. En ce sens, les trois objectifs suivants sont formulés :

7. Assurer un cadre juridique adapté à une intégration responsable et réussie de l’IA.
8. Encadrer la conception et l’utilisation de l’IA par des balises éthiques et des pratiques de sécurité adaptées à l’IA.
9. Mettre en place une gouvernance de l’IA qui assure la cohérence de l’action gouvernementale.

Objectif 7 : Assurer un cadre juridique adapté à une intégration responsable et réussie de l’IA

L’intégration de l’IA dans l’administration publique, que ce soit au Québec ou ailleurs, impose une réflexion portant sur le cadre juridique.

Les normes juridiques concernant l’utilisation des données détenues par l’administration publique québécoise et nécessaires aux initiatives d’IA sont actuellement les principales balises juridiques existantes relatives à l’IA auxquelles il faudra s’attarder. En effet, les systèmes d’IA nécessitent de grands volumes de données provenant de sources diversifiées, et certaines de ces données sont de nature personnelle. Ainsi, les questions visant leur accès, leur sensibilité, leur intégrité, leurs utilisations secondaires permises, leur valorisation de même que leur qualité, prennent une importance accrue et doivent être assujetties à un encadrement adéquat.

En somme, afin de tirer le meilleur parti des données au bénéfice du citoyen, il est essentiel de s’assurer que le cadre juridique actuel permet une implantation responsable et réussie de l’IA, c’est-à-dire qu’il ne contient pas de frein à une telle implantation. Dans le cadre de cet exercice, il sera important de prendre en compte les réflexions déjà menées sur le sujet ainsi que les développements juridiques internationaux en matière d’IA, afin de garantir que le cadre juridique québécois n’accuse pas de retard lequel pourrait constituer un obstacle à de potentielles innovations en IA.

Aussi, parallèlement à ces travaux, les possibilités qu’offre la Loi favorisant la transformation numérique de l’administration publique (chapitre T-11.003), qui soutient l’efficience et l’efficacité de l’administration gouvernementale et la mise en place d’outils nécessaires à la prestation de services publics optimaux, pourront être explorées. En plus de permettre dès maintenant des avancées sur le plan de l’IA, le recours à cette loi pour réaliser des initiatives d’IA, rigoureusement encadrées, permettra l’identification de besoins juridiques concrets et propres au Québec en cette matière.

Également, de nouvelles dispositions introduites à la Loi sur la gouvernance et la gestion des ressources informationnelles des organismes publics et des entreprises du gouvernement (chapitre G-1.03), en juin 2021, encadreront l’utilisation des données numériques gouvernementales, au bénéfice des travaux qui seront réalisés en IA.

Mesure clé

7.1 Analyser le cadre juridique actuel pour déterminer s’il permet une implantation responsable et réussie de l’IA

L’administration publique analysera le cadre juridique applicable au Québec au regard de ses besoins concrets en matière d’IA pour déterminer s’il ne contient pas de frein à l’atteinte de l’équilibre souhaité entre une utilisation optimale de l’IA par l’administration publique et le respect des droits des individus.

Ces analyses permettront de déterminer si les règles et principes juridiques adoptés ou reconnus il y plusieurs années s’accordent toujours bien à l’ère d’un monde de plus en plus numérique. Elles permettront également d’entreprendre, si requis, les travaux visant à établir des propositions pour l’adaptation du corpus législatif québécois aux besoins réels de l’administration publique et des citoyens en matière d’IA. 

Des projets concrets à l’échelle gouvernementale de même que la recension et la documentation des cas d’utilisation de l’IA au sein des autres administrations publiques seront des intrants importants à ces analyses.

Objectif 8 : Encadrer la conception et l’utilisation de l’IA par des balises éthiques et des pratiques de sécurité adaptées à l’IA

Dans la société, les applications de l’IA ne cessent de se multiplier. Si l’IA représente un atout pour le développement de l’appareil public, elle amène également un lot important d’enjeux éthiques qui préoccupent autant les experts en IA que la population. C’est notamment le cas des questions qui touchent l’équité, le respect de la vie privée et la liberté de choix.

Comment s’assurer que les algorithmes développés ne comportent pas de préjugés sexistes, racistes ou liés à d’autres formes de discrimination? Quelles sont les obligations de l’administration publique relativement à l’utilisation transparente et équitable des algorithmes? Comment s’assurer que les systèmes d’IA respectent les valeurs de l’Administration et la dignité des citoyens? Est-ce que l’IA permet de tendre vers une société plus équitable, qui prend en compte les principes du développement durable? Devant un dilemme moral, quels principes ou valeurs fondamentales doivent primer?

C’est pour apporter une réponse à ces questionnements que plusieurs administrations publiques et organisations internationales, dont le gouvernement du Canada et le gouvernement du Royaume-Uni, se sont affairées à élaborer des guides et des principes directeurs pour l’utilisation éthique de l’IA.

L’utilisation de systèmes d’IA au sein de l’administration publique doit être guidée par des valeurs et des principes éthiques afin de protéger la population et assurer sa confiance. L’administration publique s’assurera que les systèmes d’IA qu’elle utilise soient développés selon une approche humaine, fondée sur des valeurs préétablies et dans le respect des droits et des libertés de la personne. À ce titre, elle pourra s’inspirer des nombreux travaux réalisés par d’autres gouvernements et organisations œuvrant dans le domaine de l’IA.

Confidentialité et cybersécurité

L’arrivée de l’IA au sein de l’administration publique et son recours à de grands volumes de données de natures diversifiées imposent, en plus d’une réflexion juridique et éthique, une réflexion sur les risques en matière de cybersécurité, de confidentialité et de protection des renseignements personnels.

L’administration publique québécoise devra baliser adéquatement l’utilisation massive des données personnelles pour s’assurer que ces dernières soient anonymisées et utilisées de manière à respecter la confidentialité.

En ce qui concerne la cybersécurité, les systèmes d’IA ne sont pas différents, à bien des égards, des autres systèmes informatiques. Les principes et les règles applicables en matière de cybersécurité fournissent aux organismes des balises qui s’appliquent aux systèmes reposant sur l’IA.

Ceux-ci introduiront toutefois de nouvelles vulnérabilités qui leur sont inhérentes. À titre d’exemple, la contamination des données est une menace qui peut influencer le comportement d’un système d’IA. Ce type d’attaque, consistant à modifier des données, est utilisé par les pirates informatiques pour affecter le comportement des systèmes d’information. Par conséquent, il importe d’assurer l’intégrité des jeux de données utilisés pour entraîner un modèle, en plus de les soumettre à une gestion rigoureuse des risques de sécurité de l’information et de protection des renseignements.

Une approche globale et structurée d’analyse et de gestion des risques, dans le respect de la Politique gouvernementale de cybersécurité, permettra de déployer des systèmes d’IA sécuritaires et assurant la protection des renseignements personnels des citoyens et citoyennes.

Mesure clé

8.1 Doter l’administration publique d’un cadre de développement et d’utilisation responsable de l’IA

Un cadre de développement et d’utilisation responsables de l’IA sera adopté afin de doter l’action gouvernementale en matière d’IA de fondations solides favorisant notamment le respect de la vie privée, la cybersécurité, l’éthique et la non-discrimination.

Que ce soit en joignant sa voix à la Déclaration de Montréal pour un développement éthique de l’intelligence artificielle ou en adoptant des principes qui lui sont propres, l’administration publique québécoise s’inspirera des nombreux travaux réalisés sur le développement et l’utilisation éthiques de l’IA à travers le monde. L’adoption d’un tel cadre sera effectuée en concertation avec les organismes publics et sera appuyée par des experts de l’IA.

À terme, ces principes constitueront l’un des piliers de l’intégration de l’IA dans l’administration publique pour les années futures. 

Objectif 9 : Mettre en place une gouvernance de l’IA qui assure la cohérence de l’action gouvernementale

Pour bénéficier au maximum des avantages de l’IA, l’administration publique veillera à ce que le développement et la mise en œuvre des systèmes d’IA se fassent en cohérence avec les orientations gouvernementales en matière de transformation numérique et dans le respect des principes de développement et d’utilisation qui seront établis. Au chapitre de la gouvernance de l’IA, plusieurs défis se dressent.

D’une part, les ressources financières de l’administration publique étant limitées et les projets en IA nécessitant généralement des investissements importants, il importe que les projets des organismes publics en IA s’inscrivent dans une planification à long terme, garantissant une cohérence entre les initiatives mises en place et tirant profit d’une mutualisation des ressources disponibles. Une telle planification permettra de s’assurer que les bons projets soient réalisés au bon moment, en maximisant le potentiel de transfert de compétences. De plus, les bénéfices engendrés par les solutions d’IA devront être démontrés de manière quantifiable et faire l’objet d’un suivi régulier.

Responsabilité et reddition de comptes

D’autre part, si l’intégration de l’IA comporte des avantages indéniables, tels que l’accélération des processus administratifs ou le déploiement de certaines ressources humaines au profit d’autres tâches générant davantage de valeur pour le citoyen, le fait que des décisions puissent être prises ou influencées par des systèmes d’IA pose un défi de taille en matière de gouvernance : celui de la responsabilité et de la reddition de comptes relatives à l’action des systèmes automatisés et autoapprenants.

En ce sens, l’administration publique travaillera à fixer les responsabilités des différents intervenants et à encadrer l’utilisation de l’IA, en cohérence avec les attentes des citoyens en matière de cybersécurité, de transparence des systèmes d’IA et de confidentialité.

L’administration publique devra donc se doter de mécanismes de surveillance qui auront pour objectif de garantir une utilisation responsable des systèmes d’IA par les organismes publics et de préserver la confiance des citoyens.

Les systèmes d’IA sont parfois vus comme des « boîtes noires » qui rendent difficile la compréhension des algorithmes qui les composent. Dans un contexte gouvernemental et dans un souci d’assurer la sécurité du citoyen, il est primordial que ces systèmes rencontrent de hauts standards de transparence et d’intelligibilité assurant leur auditabilité et faisant en sorte que les organismes publics qui y ont recours puissent comprendre et expliquer leur fonctionnement.

Un encadrement adéquat permettra à l’administration publique d’exploiter le plein potentiel de l’IA dans le domaine de la prestation de services, tout en réduisant les risques et les effets négatifs pour les citoyens et les organismes publics.

Mesures clés

9.1 Adopter un cadre de gouvernance de l’usage de l’IA dans l’administration publique

Dans le but de veiller à ce que l’intégration de l’IA se fasse en cohérence avec les principes de développement et d’utilisation qui seront établis, et ce, dans l’ensemble de l’administration publique, un cadre de gouvernance approprié et des règles régissant le développement et l’utilisation de l’IA par les organismes publics seront développés.

Ce cadre et ces règles auront notamment pour but de définir les rôles et responsabilités, les pratiques à adopter pour assurer la cybersécurité, la protection des renseignements personnels et de la vie privée ainsi que les conditions d’imputabilité relatives au déploiement de l’IA. Ils permettront également de garantir que les bénéfices engendrés par les solutions d’IA soient mesurés, en plus d’assurer la transparence, l’auditabilité et la qualité du processus de développement de l’IA. Tout cela aura ultimement pour effet d’assurer la cohérence de l’action gouvernementale en IA.

9.2 Rendre public le portrait des utilisations de l’IA dans l’administration publique québécoise

Il est nécessaire d’informer en continu la population sur les utilisations de ces technologies dans les services publics. Dans une perspective de transparence et pour assurer la cohérence de l’action gouvernementale en IA, l’administration publique documentera les cas d’utilisations de l’IA dans ses services publics et rendra cette information disponible à la population.

Il sera ainsi possible pour les citoyennes et les citoyens de savoir si les services qu’ils utilisent s’appuient sur l’IA. Ce portrait permettra aussi à l’administration publique d’assurer la cohérence des projets en IA en garantissant, notamment, que les efforts des organismes publics sont concertés.

9.3 Créer un comité-conseil réunissant des représentants de l’écosystème québécois en IA et des représentants de l’administration publique pour guider la mise en œuvre de la Stratégie

L’écosystème québécois en IA est l’un des plus dynamiques au monde et constitue une source inestimable d’expertise et d’expérience. Pour appuyer la mise en œuvre de la Stratégie, un comité-conseil réunissant des chercheurs universitaires, des représentants de l’industrie en IA et des représentants d’organismes publics précurseurs en IA sera mis en place.

Ce comité conseillera l’administration publique sur les orientations à prendre et les actions à mettre de l’avant pour toute la durée de la mise en œuvre de la Stratégie.