Exigences éthiques pour l’IA : de la conception à la validation
Divers groupes industriels ont développé, et continuent de développer, des principes pour le développement éthique de l’IA. Cependant, bien moins nombreux sont ceux qui ont démontré comment transformer efficacement ces principes en exigences concrètes d’ingénierie et de conception pour l’IA, comment mettre en œuvre ces exigences dans des systèmes d’IA réels et comment valider leur établissement. Afin d’évoluer vers un avenir de systèmes d’IA justes, inclusifs et sûrs, nous devons combler cette lacune critique. Cette recherche s’appuie sur notre expertise et notre leadership en matière de conception fondée sur des valeurs pour développer et valider des méthodologies, des cadres et des outils efficaces pour les pratiques d’ingénierie des exigences éthiques de l’IA.
Les jeunes et l’IA
Les jeunes sont fortement engagés dans les communications numériques, ce qui les expose davantage aux impacts potentiellement discriminatoires de l’IA et du tri algorithmique. Cependant, comme les autres canadien(ne)s, les jeunes ont une connaissance et une compréhension limitées de l’IA, de son fonctionnement et des conséquences à long terme sur leur vie (p. ex. sur les plans familial, scolaire, financier, de la santé et du bien-être, professionnel et autres). Pour cette raison, il est essentiel de veiller à ce que les jeunes Canadien(ne)s et ceux qui travaillent pour les soutenir (y compris les parents, les enseignants et les organisateurs communautaires) aient accès à des informations dans un langage accessible, à une terminologie commune, à du matériel éducatif et de sensibilisation informatif et engageant concernant l’IA. Afin de répondre à ce besoin, nous produirons des ressources multimédias libres telles que des vidéos, des plans de cours, des sessions de formation des formateurs, du contenu sur le Web, ainsi que du matériel sur papier (pour les communautés qui en ont besoin) traduit en plusieurs langues. Notre mission est de faire en sorte que les jeunes canadien(ne)s, leurs familles, leurs enseignants et les autres adultes qui les soutiennent disposent des informations dont ils ont besoin pour mieux naviguer dans un environnement numérique de plus en plus dominé par l’IA.
Exigences sociales, éthiques et juridiques et structure de gouvernance pour les applications de recherche de contacts de la COVID-19 alimentées par l’IA
Dans les premiers jours de la pandémie de la COVID-19, des débats et des discussions ont émergé à l’échelle internationale et au Canada autour de l’utilisation d’applications de recherche de contacts pour soutenir la recherche manuelle des contacts, et notamment l’utilisation de l’IA pour améliorer la fonctionnalité des applications de recherche de contacts. Nous créons une base de données de la littérature savante émergente, des rapports gouvernementaux et des articles des médias d’information sur les applications de recherche des contacts et de notification des expositions afin d’appuyer nos recherches en cours pour mieux comprendre l’impact de l’adoption mondiale des applications de recherche des contacts et de notification des expositions. Nous concevons également des évaluations d’impact algorithmique pour ces applications, ainsi que des recommandations de gouvernance et des exigences de conception technique.
