Lors de la troisième table ronde du Vector Institute sur l'IA générative, les participants ont discuté des questions de confidentialité et de sécurité liées à l'IA générative, ainsi que des occasions d'affaires et de l'impact que cette technologie pourrait avoir.
Les deux premières tables rondes de l'Institut Vector sur l'IA générative ont suscité des échanges fructueux et un vif intérêt pour la poursuite du débat, compte tenu du développement rapide de cette technologie. Pour la troisième table ronde, en août 2023, Vector a réuni des experts et des praticiens de l'IA provenant de grandes entreprises canadiennes et des chercheurs universitaires afin d'examiner les risques et les opportunités que l'IA générative représente pour les entreprises.
La présentation de Nicolas Papernot, membre du corps professoral de Vector, sur les enjeux de confidentialité et de sécurité liés à l'IA générative a été l'un des moments forts de la session. Celle-ci comprenait aussi deux tables rondes. La première, consacrée aux risques et aux préoccupations en matière de confidentialité, réunissait des dirigeants d'EY, de Private AI, d'Armilla AI et de MindBridge AI. La deuxième, portant sur les opportunités et l'impact au niveau des entreprises, comprenait des représentants de Canadian Tire, de Cohere, de KPMG et de RBC, ainsi que Marcus Brubaker, membre associé du corps professoral de Vector.
Confidentialité différentielle et récursivité
Dans sa présentation, Papernot a proposé une définition stricte et concrète de la confidentialité : comparer un système contenant des données sensibles à un autre système identique, à l’exception des données sensibles supprimées. Si aucune différence n’est perceptible par un adversaire quant aux informations qu’il peut obtenir des deux systèmes, alors le système est considéré comme privé. Cette approche concrète d’évaluation de la confidentialité algorithmique, appelée « confidentialité différentielle », est devenue la référence pour les chercheurs, car elle est intuitive, précise et utile.
La confidentialité différentielle constitue le fondement des techniques de protection de la vie privée sans recourir à des méthodes d'anonymisation des données peu fiables. Elle repose sur l'introduction de couches et de distorsions pour empêcher les fuites de données privées. Par exemple, les données sont divisées en sous-ensembles afin que les instances d'un modèle soient entraînées séparément sur différents sous-ensembles. Le résultat d'une requête regroupe les votes des instances individuelles et masque les données sous-jacentes. Du bruit et des étiquettes préservant la confidentialité sont également introduits, empêchant ainsi les adversaires d'acquérir des données sensibles. Papernot affirme qu'avec le contexte et la combinaison appropriés de ces techniques, il est possible d'obtenir une garantie mathématique de préservation de la vie privée et d'empêcher les attaques adverses de provoquer une fuite de données.
Papernot a fait la lumière sur la fraude financière comme application de cette technique. Les banques pourraient utiliser la confidentialité différentielle pour concevoir un système exploitant l'historique des données clients afin de détecter les transactions frauduleuses, sans risque de divulgation des renseignements privés d'un client en particulier.
Il a aussi abordé la question de la récursivité, un phénomène qui se produit lorsque les systèmes d'apprentissage machine sont entraînés sur leurs propres résultats. La popularité croissante des grands modèles linguistiques (LLM) a incité de nombreux chercheurs à s'inquiéter de l'évolution de ces modèles lorsqu'ils seront entraînés sur des textes générés par eux-mêmes plutôt que sur des textes écrits par des humains. Papernot a démontré que la récursivité mène inévitablement à l'effondrement du modèle. Au fil du temps, celui-ci tend à surestimer les résultats les plus probables et à sous-estimer les moins probables, amplifiant ainsi les biais de l'algorithme jusqu'à ce que sa capacité de prédiction devienne inopérante. Dans le cas des LLM, neuf itérations suffisent pour que leurs réponses deviennent incompréhensibles.
Intelligence artificielle générative pour les entreprises : risques et enjeux liés à la protection de la vie privée
Les intervenants de la table ronde sur les risques et les enjeux de confidentialité liés à l'utilisation de l'IA générative en entreprise ont apporté une expertise de plusieurs années dans le domaine des nouvelles technologies. Ils possèdent également une connaissance directe des difficultés rencontrées pour une utilisation optimale de l'IA générative.
En général, les intervenants ont convenu que la promesse de gains de productivité considérables de l'IA générative avait engendré un véritable engouement. Cependant, l'absence de garde-fous suffisants pour son adoption demeure une source d'inquiétude. Selon eux, certaines entreprises ne prennent pas ces questions suffisamment au sérieux, tandis que d'autres progressent plus lentement. Un commentateur a décrit le cas d'un client qui a réalisé que la dépendance de son entreprise à la reconnaissance vocale comme mesure de sécurité n'était plus viable. Compte tenu des capacités de l'IA générative, la leçon principale était qu'il était nécessaire de revoir et de réévaluer tous leurs processus de confiance, notamment en raison du risque qu'ils puissent être utilisés par des personnes mal intentionnées.
Les entreprises les plus prudentes ont bloqué l'accès de leurs employés aux modèles populaires sur les équipements fournis par l'entreprise. D'autres, en revanche, adoptent une approche plus proactive, en lançant des programmes de formation à grande échelle pour s'assurer que les employés comprennent les risques et les usages appropriés de l'IA générative. Les intervenants ont constaté que les services juridiques s'efforcent d'établir des normes concernant les relations avec les fournisseurs et les contrats relatifs aux produits et services d'IA tiers. Ils ont souligné qu'assurer la protection de notre vie privée par les systèmes d'IA générative est essentiel pour créer une IA digne de confiance. Tant que les entreprises utiliseront des modèles de base largement disponibles dont elles n'ont pas accès au code, la mise en place de systèmes fiables restera un défi.
C'est pourquoi, selon un intervenant, les fournisseurs de systèmes d'IA générative doivent démontrer qu'ils maîtrisent parfaitement la conception de leurs modèles. Une solution consiste à faire auditer les algorithmes par un organisme tiers et à mettre les résultats à la disposition des clients. De même, la mise en place d’un système de certification normalisé pourrait contribuer à assurer la sécurité des pratiques des fournisseurs.
Un commentateur a suggéré qu'il n'existe pas de solution miracle pour les dirigeants d'entreprise souhaitant atténuer les risques liés à la confidentialité et à la sécurité lors du déploiement de modèles d'IA. Selon lui, le meilleur conseil est d'établir un ensemble de politiques claires en matière d'IA responsable. Sur cette base, les entreprises peuvent ensuite élaborer des politiques plus spécifiques régissant l'utilisation de l'IA générative. Un autre intervenant a souligné que plusieurs des défis posés par l'IA générative sont mieux relevés grâce à la collaboration et au dialogue entre les milieux universitaires et scientifiques.
Possibilités et répercussions au niveau de l'entreprise
Le deuxième panel a examiné le potentiel de l'IA générative en tant qu'outil fondamental permettant aux entreprises d'améliorer leur efficacité et d'accroître leur productivité.
Un commentateur a suggéré que le secteur financier est particulièrement bien préparé à adopter l'IA générative, grâce à ses pratiques éprouvées de gestion des risques et à ses exigences réglementaires strictes. L'enjeu est de s'appuyer sur ces pratiques existantes, en instaurant avec soin de nouvelles garde-fous pour chaque nouvel outil, chaque cas d'utilisation étant traité différemment selon le niveau de risque qu'il présente. Un chatbot donnant des conseils financiers aux clients pourrait s'avérer très risqué, tandis qu'un système résumant et recommandant des articles d'actualité à un analyste interne serait moins risqué.
Un large consensus s'est dégagé quant à l'impact significatif que l'IA générative aura sur le service client. Un commentateur envisageait même qu'elle devienne un outil précieux permettant aux conseillers de mieux accompagner les clients en leur fournissant efficacement les informations dont ils ont besoin. Par ailleurs, les participants s'attendaient également à ce qu'elle serve à ouvrir de nouveaux canaux numériques pour offrir aux clients une expérience utilisateur améliorée.
Interrogé sur l'ampleur de la transition que l'IA générative va engendrer, un intervenant a prédit qu'elle serait comparable aux bouleversements majeurs des années 1980 et 1990, lorsque l'arrivée des ordinateurs personnels, puis d'Internet, a profondément transformé nos modes de travail et de communication. Selon lui, les nouveaux outils, applications et changements apportés par l'IA générative s'inscrivent dans la dernière étape de la révolution numérique qui transforme le monde du travail depuis des décennies.
Tables rondes
La dernière séance de la journée a consisté en des tables rondes réunissant tous les participants. Interrogés sur leurs principales préoccupations concernant la mise en œuvre de l'IA générative, ils ont apporté des réponses variées. Certains ont insisté sur le rôle déterminant de la réglementation dans l'utilisation de l'IA. D'autres se sont concentrés sur la création d'outils réellement utiles aux clients et sur la difficulté de suivre le rythme de cette technologie en constante évolution. Un participant a souligné l'importance de forums comme les tables rondes de Vector, car ils permettent aux acteurs et aux responsables de l'IA d'échanger, d'écouter des experts et de discuter des défis et des opportunités.
Face à l'incertitude entourant cette technologie, les participants étaient impatients d'échanger sur les pistes à explorer. L'un d'eux a insisté sur l'importance, pour les organisations, d'assurer la présence d'un humain dans le processus, une personne chargée de vérifier les résultats de l'IA générative avant leur diffusion auprès des clients. Comme l'a souligné un autre participant, ces personnes auront besoin d'une formation spécialisée pour détecter et corriger les résultats erronés, notamment lorsque ceux-ci sont influencés par des biais humains ou que les hallucinations de la machine semblent réalistes, voire convaincantes.
Le changement organisationnel a également été abordé par les participants, confirmant l'idée que la transformation à venir sera d'une ampleur comparable à celles des années 1980 et 1990. L'adoption de technologies puissantes exige généralement de nouvelles structures organisationnelles. Un participant a souligné que, pour en tirer pleinement parti, les organisations devront décloisonner leurs services et faciliter les échanges essentiels sur les compromis liés à l'adoption des technologies d'IA générative. Ce qui peut s'avérer bénéfique pour une partie de l'organisation, ont-ils indiqué, pourrait engendrer des problèmes considérables pour une autre.
Les participants ont également souligné que le cloisonnement des organismes de réglementation gouvernementaux crée des difficultés. « Il est essentiel que les différents organismes de réglementation entament un dialogue afin d'évaluer les éventuels conflits entre leurs réglementations respectives », a déclaré l'un d'eux. « Ce problème est particulièrement urgent pour le secteur financier, déjà soumis à une multitude de réglementations. »
Entre-temps, alors que la réglementation de l'IA continue d'être discutée et élaborée, les organisations et les industries qui ne sont pas habituées à une surveillance gouvernementale rigoureuse devront rattraper leur retard et mettre en œuvre des pratiques appropriées pour respecter leurs obligations réglementaires, comme la documentation et le signalement de leurs utilisations de l'IA.
Certains participants ont fait part des inquiétudes de leurs équipes quant à la mise en œuvre de l'IA sans une réglementation suffisamment claire. Un intervenant estime que la meilleure option consiste à progresser dans le domaine de l'IA en suivant une feuille de route raisonnable : commencer par définir les principes fondamentaux régissant l'utilisation de l'IA générative, préciser comment ces principes s'appliquent plus concrètement à chaque cas d'utilisation envisagé, puis concevoir des outils d'IA générative conformes à ces principes. Selon lui, cette approche augmentera les chances que leurs outils d'IA soient conformes à la future réglementation.
Après la table ronde, des discussions animées et spontanées se sont poursuivies pendant le dîner, où les participants ont partagé leurs expériences et échangé des idées. Alors que l'IA générative transforme la façon dont les entreprises travaillent, créent, collaborent, partagent l'information et interagissent avec leurs clients, ces conversations resteront un outil précieux pour suivre le rythme des changements.
Découvrez les comptes rendus des première et deuxième tables rondes de Vector sur l'IA générative.
