IA et régulation

À propos

Façonner une régulation mondiale de l’IA
pour bâtir une société sûre et résiliente

L’émergence et le développement rapide de l’intelligence artificielle (IA) ont obligé les décideurs publics nationaux et internationaux à remettre en question les applications des cadres normatifs. L’axe IA + Réglementation se concentre sur la réglementation de l’IA et de l’automatisation dans le monde afin d’informer les décideurs publics et les acteurs canadiens afin de mieux répondre à l’évolution de la technologie. Les recherches menées dans le cadre de cet axe abordent de manière critique le droit d’auteur, les secrets commerciaux, la protection de la vie privée et la gouvernance des données afin d’assurer le déploiement de systèmes d’IA inclusifs et moins biaisés. Nous devons en effet être en mesure d’accéder à davantage d’informations et de données pour mieux connaître la société et inclure des voix, des opinions et des réalités plus diverses.

Cette recherche est menée en collaboration avec un réseau de recherche mondial, car l’omniprésence de l’économie mondiale et numérique nécessite des études comparatives pour concevoir des cadres adéquats. Comme la plupart des réglementations sont élaborées au niveau national, reflétant ainsi les valeurs locales, des conflits sont inévitables lorsque différents États abordent leurs politiques et leurs cadres réglementaires en tenant compte d’intérêts concurrents et de valeurs sociétales. Or, ces États ne peuvent pas partager les mêmes ensembles de valeurs sociétales fondamentales.

La recherche dans cet axe vise à développer des outils et des cadres pour résoudre ces problèmes. Notre initiative encourage le travail collaboratif pour partager les meilleures pratiques entre les juridictions tout en rendant les outils pour la régulation de l’IA plus accessibles.

Projets

Droit et politique en matière d’intelligence artificielle au Canada

L’IA crée de nouveaux défis importants pour le droit et les politiques publiques. L’IA est sur le point de transformer l’économie, la nature du travail, des domaines entiers de l’activité humaine tels que la médecine et l’ingénierie, ainsi que la nature des décisions gouvernementales et commerciales. Nombre de ces transformations sont déjà en cours, la technologie progressant plus rapidement que nous ne semblons équipés pour la réguler. Bien qu’il y ait eu relativement peu de litiges ou de lois spécifiques à l’IA au Canada – ou ailleurs – l’avancement rapide de ces technologies nous oblige à nous interroger sur l’applicabilité de nos cadres juridiques existants ou sur la façon dont ils pourraient devoir s’adapter à cette technologie fondamentalement perturbatrice. Le projet vise à répondre aux incertitudes juridiques actuelles et à mettre en évidence les questions qui doivent encore être résolues par les tribunaux et les lois qui doivent encore être promulguées par les législateurs.

Réglementation de l’éthique de l’IA

L’IA, la blockchain et d’autres structures algorithmiques transforment rapidement divers secteurs de la société, ce qui fait que les décideurs et les législateurs sont dépassés. Le discours actuel indique que le droit doit s’adapter pour répondre aux défis du XXIe siècle. Certains semblent convaincus que l’absence de lois suffisamment spécifiques et de réglementations correspondantes rend les gouvernements impuissants face aux puissants intérêts des entreprises, laissant les choix de conception critiques aux acteurs des entreprises. Ce projet de recherche analyse diverses initiatives visant à réglementer l’IA et à intégrer les droits de la personne et les valeurs éthiques à chaque étape du développement et du déploiement de l’IA. Au-delà du droit traditionnel, le projet explore d’autres approches pour réglementer l’IA, comme les règles de conduite professionnelle, les normes et les standards. Le projet établit des cadres éthiques pour régir trois technologies automatisées importantes : les algorithmes d’apprentissage automatique, les assistants virtuels et la blockchain. Il propose ensuite des recommandations et des cadres politiques pour soutenir l’innovation éthique.

Prise de décision automatisée et prédictive

La Directive du gouvernement du Canada sur la prise de décision automatisée et les outils d’évaluation de l’impact algorithmique qui l’accompagnent sont des documents essentiels qui ont déjà un impact à l’échelle nationale et mondiale, dans les secteurs public et privé. En utilisant ces documents comme point de départ et en fondant le travail sur les concepts de justice administrative et naturelle, ce projet examine en détail les questions d’équité dans la prise de décision algorithmique. Dans quelle mesure nos concepts d’équité se traduisent-ils dans des contextes de décisions automatisées ? Quelles adaptations sont nécessaires ? Existe-t-il des lacunes que les principes existants sont mal adaptés à combler ?

Droit d’auteur et IA

L’intersection du droit d’auteur et de l’intelligence artificielle a des implications sociales, économiques et culturelles. Plusieurs pistes sont actuellement explorées, notamment : s’assurer que la politique canadienne est compétitive par rapport aux autres pays et ne crée pas d’obstacles à l’innovation en matière d’IA, la question de l’IA et de la créativité, et les préoccupations en matière de partialité qui découlent du recours à des ensembles de données « à faible risque », à des fins d’apprentissage automatique.

Gouvernance des données pour le partage des données

L’IA dépend de l’accès à l’utilisation de vastes quantités de données, ce qui a conduit à demander un plus grand accès aux ressources de données. Le partage des données est facilité par un large éventail de mécanismes, de l’accès gratuit ou payant aux API, aux fiducies de données, aux communs de données, aux portails de données ouvertes et aux infrastructures de données de recherche. La gouvernance des données pour le partage des données devient beaucoup plus complexe lorsque les données contiennent des informations personnelles. Pour de tels ensembles de données, les techniques de dépersonnalisation, les conditions de licence et les sites de partage sécurisés font partie des outils disponibles, bien que chacun ait ses limites. La gouvernance des données pour le partage des données au Canada peut également nécessiter des modifications aux lois et aux politiques afin de faciliter ces pratiques et de fournir les protections nécessaires pour la vie privée et la réutilisation éthique.

L’IA et la justice

L’IA a été utilisée pour automatiser certaines parties des décisions relatives au cautionnement, à la détermination de la peine et à la libération conditionnelle dans le système de justice pénale. Les détracteurs de ces outils ont soulevé des préoccupations crédibles en matière de droits de la personne quant à leur utilisation. En particulier, des études ont démontré que, dans certains cas, les algorithmes « prédictifs » fonctionnent de manière discriminatoire et punitive de façon disproportionnée contre les communautés racialisées. On envisage maintenant d’utiliser des outils similaires au Canada. Il est essentiel que nous développions un cadre solide pour évaluer comment ces outils peuvent être utilisés de manière appropriée ici, si tant est qu’ils le soient. Ce projet vise à développer un tel cadre. La recherche examinera également comment les codes des droits de la personne et d’autres outils juridiques peuvent être utilisés pour favoriser la diversité et l’inclusion dans les systèmes d’IA.

Chercheur(e)s

Responsables de l’axe

Professeur(e)s

Chercheur(e)s affilié(e)s

Financement

Cet axe de recherche est soutenu par le Fonds Banque Scotia pour l’Initiative IA + Société, le programme des Chaires de recherche du Canada, le programme des Chaires de recherche de l’Université d’Ottawa et le Conseil de recherches en sciences humaines du Canada.

Haut de page