Lancement de I’m Honoured To Serve, une critique artistique des assistants numériques et de l’exploitation de leurs utilisateur(trice)s

Publié le mercredi 15 juin 2022

L'Initiative IA + Société a le plaisir d'annoncer le lancement de I'm Honoured To Serve, un projet multidisciplinaire qui offre une optique unique permettant d'examiner de façon critique la technologie que nous construisons, et de (ré)évaluer sa signification et sa fonction dans le monde.   

Dirigé par Jason Millar, titulaire de la Chaire de recherche du Canada en génie éthique de la robotique et IA, et Chantal Rodier, artiste en résidence à la Faculté de génie, I'm Honoured To Serve explore l'aspect insidieux des environnements numériques conçus pour générer des données sur les utilisateur(trice)s ne se doutant de rien, afin de tirer profit de ces derniers.  

L'équipe comprenait également les artistes boursier(e)s Banque Scotia Sarah Jasmine Hodgson et Willem Deisinger. Par le biais de cette installation multimédia, ils tentent de rendre visibles les conventions implicites qui sont imposées aux utilisateur(trice)s tout en étant manipulés pour donner des travailleur(se)s non rémunéré(e)s.   

  

Découvrez I’m Honoured To Serve

 

Avec l'omniprésence de l'IA, nous sommes devenus complaisants en offrant notre travail de façon bénévole à travers la commercialisation, la popularisation et la glorification de la technologie de consommation qui crée l'illusion de la capacité et du pouvoir. Alors que cette technologie moderne présente la façade d'un outil adroit, puissant et neutre destiné à servir l'utilisateur(trice), la technologie avec laquelle nous interagissons est toujours imprégnée de valeurs, de traits de caractère et d'arrière-plans fictifs pour créer un produit commercialisable doté d'une personnalité. Elle fonctionne moins comme un outil neutre aux capacités avancées que comme un produit aux motivations opaques opérant derrière une façade qui n'est pas clairement comprise par l'utilisateur(trice).   

Présenté dans un espace de bureau mis en scène, I'm Honoured To Serve utilise le langage de la publicité et du design pour ramener les spectateur(trice)s à la fin du XXe siècle, où l'espoir, l'excitation et la promesse de liberté des développeur(se)s de technologies étaient au rendez-vous. Deisinger et Hodgson cherchent à mettre à jour cette illusion avec Maeve, un assistant numérique d'intelligence artificielle qui fonctionne comme un personnage décousu et distant qui manifeste la réalité dérangeante de la personnalisation de la technologie. Les spectateur(trice)s sont invité(e)s à s'asseoir et à observer l'entretien entre Maeve et son futur employeur potentiel. Les réponses de Maeve proviennent directement de Google Assistant, ce qui permet d'examiner d'un œil critique les valeurs, les traits de caractère, les antécédents fictifs et les questions et réponses standards que les développeur(se)s y ont intégrés. Cette interaction nous rappelle que la motivation du(de la) développeur(se) est de créer un produit commercialisable qui convainc les utilisateur(trice)s de fournir volontairement leurs données, en les amenant à comprendre la technologie à travers un prisme souvent déformé. Alors que les premières entreprises de technologie informatique se contentaient de vendre des outils aux utilisateur(trice)s potentiels, le rôle de l'utilisateur(trice) s'est compliqué avec l'évolution des entreprises vers la vente de l'utilisateur(trice) comme produit, récolté dans une mer de données. En faisant référence à la technologie de la fin du XXe siècle, I'm Honoured to Serve met en contraste notre compréhension vague et dynamique de la relation producteur(trice)-consommateur(trice) avec l'émergence des données de masse et de l'IA. 

  

Ce projet a été rendu possible grâce au soutien du Fonds Banque Scotia pour l'Initiative IA + Société de l'Université d'Ottawa et du Conseil de recherches en sciences humaines du Canada. 

Haut de page