Par Natalie Richard
L'IA était au cœur des débats lors de la conférence Collision cette semaine. « Vous êtes probablement tanné d'en entendre parler. Arrêtez de parler d'IA ! », a lancé Shingai Manjengwa, responsable de la formation en IA chez ChainML, en montant sur la scène du Growth Summit de Collision. Si l'immense potentiel de l'IA était omniprésent, la question de sa sécurité l'était tout autant. « Certains d'entre vous sont excités », a dit Manjengwa. « Mais d'autres ont peur. L'IA souffre d'un problème de confiance. »
À mesure que l'IA gagne en puissance grâce à la collaboration d'« agents », des questions essentielles se posent quant à l'équité, aux biais, à la propriété intellectuelle, à la gouvernance et à la responsabilité. C'est précisément à ces questions que Manjengwa et ChainML, une entreprise du programme FastLane du Vector Institute, s'attaquent en explorant une technologie différente. « Nous avons commencé par étudier la technologie blockchain afin de mieux gérer les agents d'intelligence artificielle de manière équitable et responsable », a déclaré Manjengwa devant une salle comble.
L'entreprise exploite la blockchain, la technologie sous-jacente aux cryptomonnaies comme le Bitcoin, pour créer un système de suivi des activités des programmes d'IA et un moyen pour plusieurs parties de s'entendre sur la gouvernance et la gestion de l'IA. Ce système lui permet aussi d'explorer les contrats intelligents (contrats à exécution automatique dont les termes sont directement inscrits dans le code) et la cryptographie (technique de sécurisation des communications) afin de mieux comprendre le processus décisionnel de l'IA.
Vous devez définir précisément les données que vous utilisez, qui y aura accès et à quel moment.
Patricia Thaine, cofondatrice et PDG de la société Private AI de Vector FastLane, a également abordé la question de la confiance et de la sécurité en matière d'IA, et plus particulièrement les problèmes de confidentialité liés aux grands modèles de langage.
Thaine a souligné l'importance de tenir compte avec soin des principes de confidentialité lors de la collecte et de l'utilisation de données pour la formation de l'IA. « Il faut être parfaitement conscient des données utilisées, des personnes qui y auront accès et du moment où elles y auront accès », a-t-elle expliqué.
Elle a ensuite présenté au public l'idée de supprimer les renseignements personnels avant qu'ils ne soient transmis aux fournisseurs de modèles de langage tiers. Afin d'atténuer les risques potentiels liés à l'accès aux données personnelles dans les systèmes d'IA, elle a suggéré des analyses approfondies effectuées par ces systèmes, ainsi que le contrôle des équipes ayant accès aux différents types de données pour l'entraînement.
Créer un outil capable d'analyser plusieurs langues et types de fichiers afin de se conformer aux nombreuses réglementations sur la protection des données à travers le monde représente un défi complexe. Pour y remédier, Thaine et Private AI ont développé PrivateGPT, un outil qui identifie et supprime les renseignements personnels dans les textes, les fichiers audio, les images et les documents. Cette innovation en matière d'IA sécurisée, baptisée PrivateGPT, a déjà obtenu des résultats conformes à la loi HIPAA et a été reconnue par des organisations telles que le Forum économique mondial et Gartner.
La sécurité de l'IA est également une priorité pour Geoffrey Hinton, conseiller scientifique en chef de Vector, qui a placé ce sujet au cœur de son entrevue avec le commentateur politique Stephen Marche. Devant une salle comble, leur discussion a souligné l'importance de la gouvernance de l'IA et du développement et du déploiement d'une IA fiable afin d'atténuer les risques potentiels.
À l'instar de nombreux membres de la communauté Vector, Manjengwa, Thaine et Hinton s'efforcent de faire de la confiance et de la sécurité en matière d'IA une priorité absolue pour les participants de Collision. C'est la seule façon d'exploiter pleinement le potentiel de l'IA tout en maîtrisant les risques.
Découvrez comment le Vector Institute favorise le développement et le déploiement sécurisés de l'IA
