Lors d'une récente table ronde du Vector Institute sur l'IA générative, les participants ont discuté des risques et de l'immense potentiel de cette technologie très médiatisée et ont proposé des idées novatrices pour la mettre en œuvre.
La mise à la disposition du public de grands modèles linguistiques comme ChatGPT et Bard, ainsi que de générateurs de texte à partir d'images tels que DALL.E et Stable Diffusion, a soudainement mis ces puissants outils d'IA générative entre les mains de millions d'utilisateurs à travers le monde. Alors que le public explore l'incroyable potentiel de ces outils pour le travail et la créativité, l'impact de ces technologies sur nos vies suscite une inquiétude grandissante au sein du public, de l'industrie et des chercheurs en IA.
Fin mars 2023, le Future of Life Institute (FLI) a publié une lettre ouverte intitulée « Pause Giant AI Experiments » (Pause des expériences géantes en IA), plaidant pour un arrêt de six mois de « l’entraînement de systèmes d’IA plus puissants que GPT-4 ». La lettre a recueilli des milliers de signatures en quelques jours, y compris celles de chercheurs et de leaders reconnus dans le domaine de l’IA – même quelques-uns qui ont publiquement exprimé leur désaccord avec certains aspects de la lettre.
L'accélération du développement de modèles d'IA génératifs toujours plus vastes et les préoccupations qui ont motivé la lettre de la FLI se sont manifestées dans l'industrie technologique américaine. Au Canada, la Stratégie pancanadienne fédérale en matière d’IA et une étroite collaboration entre les gouvernements, les universités et l’industrie ont instauré un engagement durable à atténuer les risques et à utiliser cette technologie pour le bien public. Nos gouvernements fédéral et provinciaux reconnaissent que l’investissement et la participation du public sont essentiels au développement d’une IA digne de confiance.
Quels sont donc les espoirs et les préoccupations majeurs des principaux chercheurs et entrepreneurs canadiens en intelligence artificielle générative ?
Le 30 mars, l'Institut Vector a organisé la première d'une série de tables rondes réunissant des chercheurs de Vector et des dirigeants d'entreprises spécialisées en IA afin de discuter du potentiel et des risques de l'IA générative, ainsi que de son impact sur l'avenir du travail. L'événement comprenait des tables rondes avec des membres du corps professoral de Vector et les titulaires des chaires d'intelligence artificielle du CIFAR Canada, Jimmy Ba et Alireza Makhzani, ainsi que des visionnaires issus de la communauté des commanditaires de Vector et d'autres acteurs majeurs du développement de l'IA au Canada. Tout au long de la session, les discussions ont porté sur le développement et l'utilisation responsables de l'IA générative, afin de réfléchir à la manière d'exploiter le vaste potentiel de cette technologie tout en atténuant les risques.
Un potentiel immense
Dès le début, un enthousiasme palpable pour l'IA générative régnait dans la salle. Les participants ont souligné que, bien avant l'explosion récente de l'intérêt pour cette technologie, elle avait déjà été déployée avec succès dans le marketing de contenu, les services de transcription et d'autres applications.
Alors que plusieurs applications largement discutées ont été évoquées, comme la génération de contenu et le service à la clientèle, les participants ont également noté quelques cas d'utilisation émergents pour l'IA générative, comme la création de musique et de vidéos à partir de requêtes textuelles.
L'idée de personnaliser et d'affiner les modèles pour un usage individuel suscitait également un vif intérêt. Par exemple, un modèle privé et sécurisé, entraîné sur ses propres données, serait bien plus utile pour la rédaction de courriels qu'un chatbot universel. Un tel modèle pourrait automatiser les tâches répétitives, comme le remplissage de formulaires.
Un autre domaine d'application prioritaire envisagé par les participants était l'éducation. Par exemple, les chatbots pourraient être conçus avec une expertise pointue dans des domaines spécifiques et une grande aptitude à répondre aux questions et à expliquer des concepts complexes. Le développement d'expériences d'apprentissage conversationnelles enrichissantes et informatives pourrait mener à un large éventail d'applications précieuses, allant du soutien scolaire à la formation continue des professionnels.
Du point de vue de la gestion, les participants ont également examiné comment les tâches simples et chronophages pourraient être automatisées, libérant ainsi les employés pour qu'ils consacrent plus de temps à des tâches à plus forte valeur ajoutée qui ne sont pas facilement automatisables.
Les risques sont bien réels
Lors de leurs échanges sur leurs préoccupations communes concernant l'IA générative, les participants ont soulevé un large éventail de problèmes. Parmi ceux-ci figuraient les biais ; les hallucinations (c.-à-d. la génération de faux contenus) ; les atteintes à la vie privée ; la vulnérabilité des modèles au jailbreak, pouvant mener à du contenu préjudiciable ; et l'utilisation abusive de l'IA générative comme outil de propagande, de manipulation ou d'usurpation d'identité.
Un thème récurrent abordé par les participants portait sur la nature de l'IA générative digne de confiance. Gagner la confiance des utilisateurs de modèles d'IA générative exige de vérifier leur fiabilité et leur efficacité. Par exemple, comme l'a exprimé un participant, nous voulons nous assurer que les médecins qui intègrent des modèles d'IA dans le diagnostic des patients reçoivent des informations et des recommandations précises.
En esquissant les contours d'une IA générative fiable, les participants ont discuté de solutions empiriques, comme le partage des données relatives aux modèles et la possibilité de réaliser des audits par des tiers. Ils ont également fortement recommandé aux entreprises travaillant avec l'IA générative de privilégier l'autoréglementation avant toute législation gouvernementale, comme celle envisagée dans le projet de loi canadien sur l'intelligence artificielle et les données.
Un autre thème récurrent concernait les préoccupations pratiques des entreprises développant et utilisant l'IA générative. Un participant a souligné que, les entreprises s'appuyant généralement sur des services d'infonuagique, le coût d'un produit basé sur l'IA générative est directement lié à son utilisation. Une augmentation soudaine de cette utilisation peut rapidement devenir coûteuse, surtout pour les entreprises qui n'ont pas encore monétisé leurs produits.
La précision est un autre point crucial du point de vue commercial. Les participants ont expliqué qu'il est souvent facile pour les modèles d'atteindre rapidement une précision de 90 %. Cependant, une précision supérieure est essentielle pour de nombreuses applications, et obtenir des gains supplémentaires au-delà de 90 % devient de plus en plus difficile à mesure que l'on progresse.
Dans une perspective plus large, les participants ont examiné comment le déploiement de l'IA générative pourrait entraîner des changements importants dans les structures d'entreprise. L'IA générative pourrait transformer en profondeur les méthodes de travail, et les grandes organisations doivent se préparer à s'adapter pour rester compétitives. Par exemple, un participant a décrit comment certaines entreprises pourraient évoluer vers une structure plus proche d'ensembles dynamiques d'équipes collaborant pour développer des produits et des services. Le consensus était qu'une transition majeure se profile à l'horizon, et qu'il sera essentiel de la gérer efficacement.
L'IA générative qu'on peut utiliser
Face à ces préoccupations, les participants ont débattu des solutions et des opportunités à envisager dans un monde transformé par l'IA générative. Il y a lieu d'espérer. L'immense intérêt suscité par les modèles d'IA générative a engendré un examen attentif, voire ludique, qui s'est notamment traduit par le développement rapide de l'ingénierie rapide et du jailbreak comme nouvelles formes d'expertise. Ces initiatives spontanées nous ont permis de mieux comprendre les forces et les limites de l'IA générative et d'identifier des pistes d'amélioration.
Les participants attendaient avec impatience le développement de modèles de langage de grande taille et hautement spécialisés, formés sur des textes et des données spécifiques à un domaine, afin de rendre leurs résultats plus fiables pour une utilisation dans des professions spécifiques, comme le droit ou la médecine.
Une suggestion était d'aborder la question de la fiabilité avant tout comme un enjeu de conception de produit. L'idée est de traiter le problème de la confiance au niveau spécifique du système intégrant un modèle d'IA, plutôt que de faire reposer la responsabilité de la fiabilité sur le modèle lui-même. Il est important de noter l'idée sous-jacente : les modèles d'IA génératifs individuels ne doivent pas systématiquement être considérés comme la solution aux problèmes qu'ils soulèvent.
Cette même observation s'est retrouvée dans deux autres recommandations des participants : la première consistait à explorer de nouvelles façons de coordonner l'utilisation de plusieurs modèles afin de pallier leurs faiblesses individuelles et d'obtenir de meilleurs résultats ; la deuxième recommandait d'étudier comment l'IA peut être déployée pour superviser ou « contrôler » d'autres modèles d'IA et améliorer leur capacité à suivre, vérifier et sécuriser leurs résultats.
Tout au long des échanges, les participants à cette première table ronde sur l'IA générative de Vector ont souligné la nécessité d'une collaboration intersectorielle et interindustrielle pour renforcer la fiabilité de l'IA. Cette collaboration pourrait se traduire par davantage de discussions réunissant les acteurs clés du secteur et les chercheurs, ainsi que par des solutions concrètes, comme la création d'une plateforme dédiée permettant aux entreprises travaillant sur l'IA générative de partager leurs recherches, leurs livres blancs et leurs conclusions.
Une idée prometteuse en est ressortie : le chemin le plus court vers une IA générative fiable aux applications extraordinaires passe par une collaboration ouverte et un échange d’idées sain.
L’Institut Vector s’engage pleinement à soutenir cet effort, à répondre de manière dynamique aux besoins de la communauté canadienne croissante de l’IA et à promouvoir un développement et un déploiement responsables de l’IA. La meilleure façon d'atténuer les risques liés à une IA puissante est de démocratiser ce pouvoir.
Lisez ici le compte rendu de la deuxième table ronde de Vector sur l'IA générative .
