Par Kevin Temple
L'essor de l'IA générative bouleverse le monde de la technologie, stimulant l'innovation à un rythme effréné tout en créant de nouveaux défis pour les organismes de réglementation. Les entreprises canadiennes cherchent à tirer parti de l'IA générative pour faire progresser leur mission, mieux servir leurs clients et accroître leur efficacité.
L'Institut Vector est au cœur de ce débat, ayant notamment organisé trois tables rondes en 2023 qui ont réuni ses chercheurs en IA et des dirigeants des plus grandes entreprises canadiennes et des startups les plus prometteuses du secteur. L'objectif : créer des liens, partager les connaissances et définir la meilleure voie à suivre pour cette technologie novatrice.
Ces discussions ont abouti en octobre, lorsque Vector a organisé le projet de réflexion sur l'IA générative afin d'examiner les défis et les opportunités liés à l'adoption de l'IA générative aujourd'hui. Pendant trois jours et demi, Vector a réuni 170 experts et dirigeants responsables de la mise en œuvre de l'IA au sein de leurs organisations pour discuter des enjeux les plus importants. Plus de 32 organisations , grandes et petites, de partout au Canada ont participé à l'événement.
L'événement a débuté par une séance plénière d'ouverture, suivie de trois jours consacrés aux thèmes fondamentaux de l'adoption de l'IA générative : stratégie d'entreprise, mise en œuvre technique, contrôle et gouvernance. Le programme quotidien comprenait des présentations magistrales, suivies d'une table ronde, puis d'ateliers en petits groupes pour des discussions plus inclusives. Chaque journée se terminait par un atelier portant sur les stratégies que les organisations peuvent mettre en pratique dans le cadre de leurs plans d'adoption de l'IA générative.
Conférences, présentations et ateliers
La séance plénière a débuté par l'allocution de Cameron Schuler, directeur du marketing et vice-président de l'innovation industrielle chez Vector. Comme il l'a souligné, l'objectif du projet est d'examiner comment maximiser la valeur et minimiser les risques liés à l'utilisation de l'IA générative. M. Schuler a comparé notre situation actuelle à la transformation du monde du travail par l'informatique personnelle. « C'est comme si on était encore en train d'apprendre à taper au clavier », a-t-il déclaré.
« C'est comme si on apprenait encore à taper au clavier. »
Michelle Bourgeois et Vik Pant (PwC) ont présenté une conférence inaugurale expliquant comment les entreprises passent rapidement de l'enthousiasme à la recherche d'une valeur commerciale mesurable. Selon M. Pant, une erreur fréquente des clients est de choisir un modèle avant de comprendre comment en faire un outil efficace. Une meilleure approche consiste à partir d'un objectif commercial, puis à déterminer le modèle ou le système qui convient le mieux à cet objectif. Il a aussi insisté sur l'importance de choisir le modèle le moins complexe.
La séance a également été marquée par les présentations de Rihana Msadek, scientifique de données chez Google Cloud, et de Tony Kaikeday, directeur principal chez NVIDIA, qui ont présenté les produits et services d'IA générative exceptionnels développés par leurs entreprises pour leurs clients professionnels. Obimdike Okongwa, du groupe de travail IA/ML du Bureau du surintendant des institutions financières (BSIF), a également exposé la façon dont l'agence envisage les risques et les avantages de l'IA générative.
Stratégie d'entreprise
La deuxième journée du sommet a porté sur les stratégies d'affaires et les défis pratiques liés à la mise en œuvre de l'IA générative. Les discussions ont notamment abordé la génération de contenu marketing, l'automatisation des tâches routinières, l'innovation dans le service à la clientèle, la requalification et le perfectionnement des employés, l'implication humaine dans les domaines critiques, l'IA de confiance, et bien d'autres sujets.
La première conférence plénière a été donnée par Chris Mar, responsable national de la transformation et de la stratégie chez PwC. M. Mar a expliqué comment les grandes entreprises, cloisonnées en différentes fonctions, doivent souvent mettre en place de nouvelles pratiques et de nouvelles instances décisionnelles pour intégrer l'IA. Il a souligné que les décisions relatives à la mise en œuvre du changement sont optimales lorsqu'elles tiennent compte des intérêts de toutes les parties prenantes.
La deuxième conférence était animée par Alex Cui, directeur technique de GPT Zero et ancien chercheur chez Vector. M. Cui a décrit les problèmes de manipulation des données, les hallucinations et autres difficultés rencontrées par les entreprises utilisant des modèles de langage. Il a expliqué comment la transparence est essentielle pour une IA fiable, afin que le public puisse comprendre comment le contenu est généré. M. Cui a également présenté la plateforme de détection de texte par IA de GPT Zero, qui permet aux organisations de diffuser des textes certifiés à l'échelle mondiale.
La dernière session de la journée était un atelier animé par Vik Pant et Bahar Sateli de PwC, intitulé « De l'idée initiale à l'application concrète de l'IA générative ». Leur intervention a notamment porté sur l'importance stratégique de définir un cas d'utilisation, puis d'évaluer la technologie la plus adaptée. Une évaluation pertinente combine des indicateurs techniques objectifs, des indicateurs de coûts et de ressources, ainsi que des indicateurs subjectifs. Selon M. Pant, dans certains cas, les outils d'IA générative ne sont pas la meilleure option. Dans d'autres cas, une évaluation peut inciter les clients à développer un outil ou un système à partir d'un ensemble de modèles. M. Pant et Mme Sateli ont expliqué comment une approche rigoureuse et axée sur les processus permet aux entreprises de cerner les priorités et les objectifs de toutes les parties prenantes, d'établir un climat de confiance et de créer de la valeur.
Exécution technique
Le lendemain, l'attention s'est portée sur la mise en œuvre technique. Les discussions ont porté sur les architectures de pointe, l'adaptation de l'IA générative à des secteurs spécifiques et les moyens techniques de gérer les différents risques et les questions éthiques liés à son utilisation.
Dans sa conférence inaugurale, Tracy Jenkins, professeure à l'Université Queens, a présenté les résultats de ses recherches sur la manière dont les modèles de langage (LLM) reproduisent les biais comportementaux humains, comme l'aversion à la perte. Son équipe et elle ont également mis en évidence des biais inhérents aux LLM, ainsi que des défaillances plus fondamentales, comme des erreurs de logique et de calcul. Mme Jenkins a expliqué la nécessité de mesurer les biais et les défaillances des LLM et de déterminer un niveau de performance acceptable pour un cas d'utilisation donné.
La deuxième conférence plénière a été donnée par Akshaya Mishra, d'EAIGLE Inc. Son équipe et lui ont créé un système d'IA multimodal pour automatiser le suivi en temps réel des actifs des entreprises de transport. M. Mishra a décrit certains des défis techniques rencontrés lors de la création de ce système, notamment la nécessité d'expliquer clairement les décisions du modèle afin de pouvoir corriger les erreurs et la gestion de sa consommation énergétique.
L'atelier « Traitement automatique du langage naturel génératif : capacités, personnalisation et équité », animé par David Emerson, professeur à l'Université de Toronto et spécialiste de l'apprentissage par machines vectorielles, a conclu la troisième journée. M. Emerson a commencé par une description formelle des machines à langages (LLM) et a expliqué comment les algorithmes de transformation ont considérablement amélioré les capacités des chatbots et autres outils d’IA générative qui prolifèrent aujourd’hui. Il a démontré que les LLM ne font pas que générer du texte ; ce sont aussi de puissants outils pour la classification, l’extraction des relations entre les termes, la quantification des biais et la détection de textes synthétiques.
Contrôle et gouvernance
La dernière journée a été consacrée aux questions de contrôle et de gouvernance, comme la conformité réglementaire, la provenance des données et les mécanismes de responsabilisation. Les discussions ont porté sur le déploiement responsable et sécurisé de l'IA générative.
« On doit équilibrer les opportunités et les risques. »
Le premier discours d'ouverture a été prononcé par Tony Gaffney, président et chef de la direction de Vector. Il a souligné que l'essor de l'IA générative représente une occasion historique, mais qu'il nous incombe de prendre au sérieux notre responsabilité de rendre cette technologie sûre et fiable. Face à des progrès de l'IA plus rapides que prévu, a déclaré M. Gaffney, il est essentiel de bien évaluer les opportunités et les risques. Afin de contribuer à atténuer ces risques, Vector a élaboré un code de conduite et un ensemble de principes relatifs à l'IA , et travaille actuellement avec des organisations pour les mettre en œuvre. M. Gaffney a insisté sur le fait que le développement de l'IA doit être encadré avec soin afin de s'assurer que cette technologie contribue au bien-être humain.
Mark Paulson, vice-président associé à la gouvernance des TI d'entreprise chez Canadian Tire, a prononcé le deuxième discours d'ouverture. Il a expliqué qu'il est courant pour les entreprises d'accumuler des outils. Cependant, l'utilisation excessive de copilotes et d'autres outils d'IA générative peut engendrer un niveau de risque ingérable. Afin d'établir un cadre de gouvernance pour l'IA générative, M. Paulson a indiqué que son équipe et lui avaient mis en place des garde-fous permettant à l'entreprise d'exploiter plus efficacement les outils existants. Il a aussi décrit comment l'IA générative peut elle-même servir d'outil de gouvernance, puisqu'elle est capable d'examiner, de décrire et de corriger le code. Son conseil : rendre les outils d'IA générative accessibles et créer une communauté inclusive pour une utilisation efficace.
Dan Adamson, cofondateur et PDG d'Armilla AI, a animé le dernier atelier, intitulé « Qui est en charge ? Gouvernance et contrôles de l'IA générative pour nous protéger ». Il a décrit comment Armilla IA s'est attelée à relever le défi de la création de systèmes fiables. Selon lui, un enjeu central pour les entreprises adoptant l'IA générative est la mise en œuvre de mesures de protection adaptées à leurs cas d'usage. Une approche méthodique de l'utilisation de l'IA générative combinera plusieurs stratégies d'IA responsable, telles que :
- Tenir un inventaire complet des outils d'IA et évaluer les risques que chacun présente.
- Il faut suivre l'impact potentiel des différents modèles afin de pouvoir traiter différemment ceux présentant des risques différents.
- Attribuez des rôles et des responsabilités clairs, par exemple qui est responsable de déterminer si un modèle est biaisé et qui est responsable d'assurer une transparence appropriée
- Mettez en œuvre des mesures de protection tout au long du cycle de vie d'un modèle d'IA, depuis les premières étapes jusqu'à la validation, le déploiement et la production.
- Établir des critères permettant de déterminer quand un outil d'IA doit faire l'objet d'une évaluation indépendante, par exemple pour se conformer à une nouvelle réglementation dans une région particulière.
- Exiger une formation de base pour les employés chargés d'utiliser les outils d'IA
- Établissez des règles claires avec les fournisseurs et fournisseurs de modèles de base afin de déterminer comment les données seront utilisées et d'établir les responsabilités de chacun dans différents scénarios.
Adamson a conclu l'atelier en invitant les participants à poser leurs questions sur plusieurs points clés, notamment la conception d'IA générative, l'acquisition de données, le développement, le déploiement, la production et le recours à des fournisseurs tiers. La discussion qui a suivi a porté sur l'évaluation des préjugés et l'équité ; le risque de contamination des données ; les difficultés liées au réglage fin ; les tests appropriés à effectuer pendant le développement ; la marche à suivre en cas de panne du fournisseur d'un modèle déployé ; et l'importance de vérifier les références des fournisseurs tiers.
Tables rondes et panels de discussion
Pour de nombreux participants, les panels et les tables rondes ont été le point fort de ce projet, car ils leur ont permis d'exprimer leurs idées et leurs préoccupations concernant l'IA générative et de découvrir comment d'autres abordent des problématiques similaires. Pendant quatre jours, et à travers différents thèmes, les participants sont revenus régulièrement sur quatre sujets :
1. « La première règle de l'IA est de ne pas utiliser l'IA. »
Plusieurs conférenciers, panélistes et participants ont souligné qu'il est beaucoup trop facile de se lancer dans l'utilisation d'outils d'IA générative sans trop réfléchir. Pour utiliser ces technologies de manière stratégique, il est essentiel de commencer par une réflexion critique sur les cas d'utilisation et de se demander pourquoi un outil d'IA donné devrait être utilisé avant toute adoption d'une technologie d'IA générative. Comme l'ont souligné les participants, l'IA générative introduit des incertitudes et des risques qui peuvent être évités avec d'autres outils ; son utilisation doit donc être justifiée. Comme l'a dit un participant : « La première règle de l'IA, c'est de ne pas utiliser l'IA. »
2. L'éducation et la culture en IA sont essentielles
De nombreuses discussions ont porté sur l'importance de l'éducation, considérée comme un enjeu central pour la stratégie commerciale, la mise en œuvre technique et la gouvernance de l'IA générative. Un consensus s'est dégagé : le secteur privé doit s'efforcer d'améliorer la culture de l'IA à tous les niveaux, tant au sein des organisations que auprès du grand public. « Il ne s'agit pas seulement d'une compréhension abstraite, mais aussi d'un savoir-faire concret », a souligné un participant. L'objectif est de s'assurer que tout le monde est suffisamment informé pour comprendre les risques et poser les bonnes questions concernant l'utilisation sûre et appropriée de l'IA générative.
Un autre participant a souligné que plusieurs ignorent que les chatbots d'IA générative sont avant tout des machines à prédire, ce qui explique leur difficulté à anticiper les forces et les faiblesses de cette technologie. Les participants ont également établi un lien entre la culture de l'IA et la réduction des risques. La formation pourrait se concentrer sur les principes de gestion des risques liés à l'IA et aborder des questions telles que la confidentialité, la sécurité et les données. Comprendre la nature des risques liés à l'IA générative est essentiel pour prendre des décisions éclairées. Finalement, les participants ont évoqué la formation comme moyen d'apaiser les inquiétudes des employés quant à l'utilisation de l'IA générative. Nombre d'entre eux étaient pleinement conscients que cette technologie pourrait entraîner une réduction des effectifs et laisser certains employés sur le carreau. Former les employés à utiliser l'IA générative de manière à accroître leur valeur ajoutée pour l'entreprise peut aider à atténuer ces inquiétudes.
3. L'adoption de l'IA implique un changement organisationnel
Un autre sujet largement débattu concernait les changements organisationnels nécessaires à l'adoption de technologies d'IA puissantes. Un participant a indiqué que la mise en place d'une preuve de concept est facile, mais que la difficulté réside dans le déploiement à grande échelle des solutions et leur intégration aux processus de l'entreprise, car cela implique une transformation des modes de travail des équipes. Un autre participant a souligné que les fonctions de gestion des risques et de conformité ne partagent pas le même langage que les scientifiques des données et les spécialistes de l'éthique ; un médiateur est nécessaire pour parvenir à une compréhension commune. Les grandes organisations doivent collaborer activement entre les différentes fonctions et unités afin de dégager un consensus et d'élaborer des principes et des lignes directrices pour une utilisation efficace et responsable de l'IA générative.
Conscientes des difficultés que rencontre l'adoption de l'IA par les entreprises, certaines d'entre elles entreprennent déjà des changements organisationnels et culturels à tous les niveaux. Un participant a décrit comment son entreprise a mis en place des règles et des garde-fous pour l'utilisation de l'IA générative. Un comité, composé de représentants d'équipes de toute l'organisation, a été constitué et se fonde sur des critères largement acceptés pour approuver et encadrer les applications de l'IA générative.
4. Ces conversations sont d'une importance capitale
Le quatrième enseignement souligne l'importance de dialogues larges et inclusifs pour faire progresser l'utilisation de l'IA générative. Les participants ont apprécié le format des tables rondes, car il leur a permis de découvrir comment d'autres font face aux défis posés par cette technologie. Cet échange d'idées leur a permis de se faire une idée de l'état d'avancement des autres organisations dans leur démarche d'adoption et d'entrevoir leurs propres prochaines étapes.
En conclusion de cette conférence de quatre jours, un participant a déclaré que des forums comme le projet « Generative AI Thought Leadership » sont indispensables pour que les entreprises puissent parler d'une seule voix de leurs investissements dans la confiance et la sécurité en matière d'IA. Plus les échanges sont diversifiés et inclusifs, mieux ils pourront communiquer au public l'engagement profond du secteur privé en faveur d'une IA responsable.
Et après ?
Pendant trois jours et demi, les participants au projet ont compris qu'adopter l'IA sans stratégie est voué à l'échec. Il est essentiel de se poser les bonnes questions, de justifier son utilisation et de s'assurer qu'il s'agit de l'outil adapté. Par ailleurs, la formation s'est avérée être un pilier de cette nouvelle phase d'adoption : les organisations doivent renforcer la culture de l'IA à tous les niveaux pour mieux gérer les risques. Enfin, n'oublions pas qu'adopter l'IA de manière stratégique ne se limite pas à utiliser ChatGPT ; cela implique une transformation organisationnelle et de nouvelles méthodes de travail inter-équipes.
Les participants au sommet ont souligné l'importance des tables rondes de Vector, qui offrent un espace d'échange d'expériences et permettent de définir collectivement le parcours d'adoption de l'IA. C'est pourquoi Vector invite les dirigeants, les organisations et les chercheurs de l'industrie à s'engager dans des projets collaboratifs qui dépassent le simple cadre de la discussion et contribuent à faire de l'adoption responsable de l'IA la norme.
Apprenez des experts qui ont déjà une expérience concrète, contribuez à façonner la confiance et la sécurité de l'IA et avancez avec nous. Consultez la page des événements Vector pour découvrir de nouvelles occasions de participer à la discussion ou contactez-nous dès aujourd'hui à info@Vectorinstitute.ai
Parmi les entreprises participantes figuraient BMO Groupe financier, Google, NVIDIA, RBC, Banque Scotia, Groupe Banque TD, Bell Canada, Boehringer Ingelheim (Canada) Ltée, Canadian Tire Corporation, Ltée, CIBC, KPMG Canada, OMERS, Sun Life Financial, TELUS, Linamar Corporation, CentML Inc. Private AI et Troj.AI. Nous remercions tout particulièrement PwC Canada, qui a mis ses locaux à la disposition de Vector pour l'événement. De plus, six entreprises du programme Vector Fastlane – Armilla AI Inc., Eaigle Inc., Ethical AI Inc., Fairly AI Inc., GPTZero Inc. et PredictNow Inc. – ont participé activement. Nos partenaires écosystémiques comprenaient l'Association des banquiers canadiens, l'Association canadienne du marketing, GovTechON, le Global Risk Institute, la Commission du droit de l'Ontario et le Bureau du surintendant des institutions financières.
