Par John Knechtel

Nous remercions tout particulièrement EY Canada, qui a rendu disponible à Vector l'espace événementiel pour accueillir cet événement.

L'intégration de l'IA aux systèmes de gestion établis sera la clé du succès pour les entreprises canadiennes qui aspirent à un leadership mondial en matière de croissance axée sur l'IA.

C'était le consensus parmi les participants à une série d'ateliers du Vector Institute, où des professionnels des services financiers ont discuté des façons de mettre en œuvre en toute sécurité les systèmes d'IA et d'apprentissage machine (AA). Depuis 2022, le projet de réflexion du Vector Institute sur la gestion des risques liés à l’IA a facilité une série de discussions approfondies sur les défis actuels liés à l’adoption des modèles d’IA et d’AA par le secteur privé et a contribué à l’élaboration des principes de confiance et de sécurité de l’IA du Vector Institute .

Comment les professionnels des services financiers canadiens – dont le secteur est reconnu internationalement pour sa gestion rigoureuse des risques – envisagent-ils la mise en œuvre sécuritaire de l'IA ? Leur point de vue est, en un mot, pragmatique. Les participants estiment que, précisément parce que l'IA est si puissante, son adoption exige une adaptation, et non une réinvention, des opérations courantes.

Plusieurs personnes ont fait remarquer que nous avions déjà vu de nouvelles technologies, comme les ordinateurs personnels, les feuilles de calcul et Internet, transformer le monde des affaires. « Ce n’est pas un nouveau problème », a dit un participant.

Ce qui est nouveau, c'est la rapidité et la facilité avec lesquelles l'IA se répand « partout, d'un coup », comme l'a exprimé un participant. « C'est le genre de chose que tout le monde peut essayer. Il n’y a pas de barrières, on peut se lancer », a ajouté un autre. Les participants ont constaté que cette dynamique – une technologie qui se diffuse rapidement et s'intègre de manière invisible – façonne la manière dont les entreprises interagiront avec l'IA.

Jusqu'à présent, l'IA était l'apanage des experts techniques, des spécialistes de l'apprentissage machine comme les informaticiens et les mathématiciens. C'était un domaine très restreint. Maintenant, avec l'IA générative, « on l'intègre au poste de travail de chaque employé », a déclaré un participant. « En ce sens, c'est comparable à la transformation qu'a connue Excel, par exemple, où des employés sans aucune formation en informatique se sont soudainement retrouvés capables de programmer. »

« Cela présente de nombreux avantages, mais aussi de nombreux risques, car ils ne maîtrisent pas vraiment le sujet », a-t-il déclaré. « Ce sont des experts dans leur domaine. Ils ne sont pas des experts en informatique, donc ils ne connaissent pas les bonnes pratiques. Ils ignorent peut-être quelles règles s'appliquent, par exemple en matière de politique d'entreprise. Et on ne sait pas qui ils sont du point de vue de la gouvernance. »

Face à ces préoccupations, les participants ont discuté concrètement des moyens de tirer pleinement parti de la démocratisation de l'IA tout en maîtrisant les risques. Un consensus s'est dégagé : une approche pragmatique et axée sur les résultats sera la plus créatrice de valeur. « Inutile de réinventer la roue », a souligné un participant. Tout au long des ateliers, l'idée que les entreprises réussiront grâce à ce que l'un d'eux a qualifié de « vertus traditionnelles » a été défendue : auditer les pratiques, tester la valeur ajoutée des projets et consolider les systèmes de gestion des risques et de gouvernance existants.

Voici quelques-unes des approches proposées par les participants à l'atelier, ce qu'une personne a appelé les « vérités essentielles » de l'adoption de l'IA.

Prolifération

En cernant ce qu'ils considéraient comme un dilemme majeur, les participants ont discuté de la manière dont les technologies d'IA avaient captivé l'imagination de leurs employés et inspiré de nombreuses idées que certains développent de leur propre initiative. « On risque de s'emballer », a dit l'un d'eux.

Les participants ont souligné que la puissance et la disponibilité immédiate de cette technologie engendrent des risques, notamment en raison de l'engouement qu'elle suscite au sein de l'organisation. « Si vos attentes sont démesurées, vous allez gaspiller beaucoup de ressources », a déclaré un participant.

Alors que les employés sont largement inspirés par l'IA et cherchent à l'utiliser, le premier défi sera tout simplement de savoir qui fait quoi avec l'IA au sein de l'organisation. « Si vous pensez à l'entreprise et essayez de trouver ces innovateurs, c'est vraiment difficile », a déclaré un participant. « Si vous pensez aux aspects informatiques traditionnels, bien sûr, vous consultez l'organigramme, vous voyez où se trouve le département informatique et vous trouvez où sont les programmeurs. Mais ces innovateurs en IA de prochaine génération ne font pas partie du département informatique ; ils sont partout. »

Face à la prolifération rapide des projets d'IA, plusieurs participants ont suggéré d'adopter une approche proactive en collaboration avec les équipes de gestion des risques et informatiques. L'une des avenues explorées était la surveillance des activités liées à l'IA par le biais des sondages auprès des employés et des canaux de communication existants. Une autre suggestion était de mettre à jour les pratiques informatiques des utilisateurs finaux afin d'intégrer les activités et les rapports relatifs à l'IA dans la réglementation.

valeur commerciale

Avec l'IA capable d'accomplir de nombreuses tâches, une grande partie des discussions a porté sur la manière de s'assurer que son adoption apporte une réelle valeur ajoutée à l'entreprise. « On doit se concentrer sur les cas d'utilisation », a dit un participant. « On doit se demander "Quel est notre but ?" plutôt que de laisser des gens ordinaires expérimenter au hasard avec des outils d'IA. »

L'importance d'une approche axée sur les résultats a été un thème récurrent. « On se concentre vraiment sur les aspects pragmatiques », a dit l'un des participants. Ces derniers ont ensuite souligné ce qu'ils ont qualifié de risque crucial souvent négligé – le risque de « ne pas apporter de valeur aux clients » – et ont discuté de la manière dont les projets d'IA pourraient être suivis en fonction de leurs retombées commerciales.

Gestion des risques

Tout au long des ateliers, les participants ont souligné la nécessité d'une stratégie de gestion des risques agile et basée sur l'IA. 

Le potentiel de bouleversement du marché a été un point central des discussions. Les participants ont souligné que l'IA donnera un avantage concurrentiel aux entreprises capables de l'intégrer au mieux à leurs opérations. Intégrer l'IA ne signifie pas remplacer le travail humain, mais le compléter. Cela entraînera une transformation majeure du marché, où les entreprises qui exploitent l’IA devanceront celles qui ne le font pas », a fait remarquer un participant. D'autres ont expliqué comment la sélection de projets d'IA conçus pour produire des résultats concrets – tels qu'une efficacité opérationnelle accrue, de meilleurs produits ou une expérience client plus personnalisée – permettra aux entreprises de tirer profit des bouleversements du marché.

Lors des discussions sur les risques d'atteinte à la réputation liés à l'adoption de l'IA, les participants ont souligné l'importance d'intégrer la sécurité dès les premières étapes d'un projet. Cela permet d'assurer la transparence quant à l'utilisation de l'IA, la protection de la vie privée et une approche éthique de cette technologie. Les participants ont convenu que seule une approche proactive et rigoureuse de la conception du projet peut apporter la clarté nécessaire à une utilisation sécurisée. « Nous devons constamment nous demander : quelles sont les utilisations potentielles de l'IA qui pourraient nous faire enfreindre nos principes ? », a dit un participant. « Même avec des données valides recueillies de manière responsable, l'IA agira de façon imprévisible. Une donnée initialement conforme pourrait ne plus l'être une fois associée à d'autres données. » 

De même, les participants ont discuté de la manière dont une conception proactive de la sécurité peut contribuer à garantir le succès d'un produit, quel que soit le contexte réglementaire : « On ne sait jamais vraiment où ça va nous mener », a déclaré l'un d'eux. « Ça crée des risques. Il faut anticiper. »

En matière de gouvernance, les participants ont examiné comment, plutôt que d'entreprendre des changements majeurs, ils pourraient privilégier l'adaptation des systèmes et outils existants. « Mettre en œuvre l'IA, c'est simplement une bonne gestion du changement », a déclaré un participant. Les participants ont suggéré de constituer un groupe interfonctionnel chargé d'examiner les mécanismes de contrôle existants, tels que le code de conduite, les politiques, les systèmes et les logiciels, afin d'identifier les axes d'amélioration.

Tout en réaffirmant les principes fondamentaux de la gouvernance et de la gestion des risques, les participants ont également abordé les nouveaux défis posés par l'IA. Il est notamment nécessaire d’harmoniser et d’intégrer les systèmes et les données cloisonnés afin de mener des évaluations complètes de la conformité en matière de protection de la vie privée. Ils ont par ailleurs constaté que, dans sa configuration actuelle, la direction d'entreprise manque souvent de ces capacités essentielles. « Nous n'avons pas vraiment la capacité d'évaluer les risques liés à l'IA », a déclaré un participant, « et nous n'avons pas de processus permettant d'appliquer concrètement des contrôles à l'échelle de l'entreprise pour toutes les applications d'IA en cours. »

Mise en œuvre réussie des technologies d'IA

Le défi que représente la mise en œuvre sûre et productive des technologies d'IA — et l'exploitation de leur potentiel pour faire progresser l'entreprise — nécessitera clairement des capacités organisationnelles considérables, au-delà de la simple maîtrise technique de l'IA. Le succès exigera une approche globale de la gouvernance de l'IA, incluant :

• Des PRINCIPES clairs pour faciliter la prise de décision dans cet environnement extrêmement dynamique.
• Une vaste culture de l'IA parmi toutes les parties prenantes afin de leur permettre de prendre les bonnes décisions.
• Une gouvernance adaptée à l'IA pour assurer la visibilité et l'expertise sur les applications de l'IA.
• Des outils et des pratiques d'IA dédiés qui permettront d'évaluer l'équité, l'explicabilité, la dérive et d'autres considérations éthiques et techniques des modèles et qui constitueront une infrastructure fondamentale pour mettre en œuvre les principes de l'IA.

Nous vous invitons à tenir compte de ces piliers lors de la conception de la gouvernance de votre stratégie d'IA.