Depuis sa création, la communauté du Vector Institute s'est engagée avec force à développer une IA sûre et fiable. Cet engagement est au cœur de notre mission. Or, la puissance et la simplicité d'accès des modèles d'IA génératifs ont révélé au grand public les risques à court terme et existentiels liés à l'IA. Face à l'accélération du développement de l'IA, les décideurs politiques et les experts du monde entier s'efforcent d'établir des garde-fous communs pour encadrer les évolutions futures de cette technologie.
En tant que plaque tournante de l'écosystème canadien de l'IA, Vector a élaboré six principes de confiance et de sécurité en matière d'IA destinés aux organisations canadiennes et internationales, qui reflètent le dialogue continu, les valeurs partagées et les meilleures pratiques des entreprises, des gouvernements et des communautés de recherche de renommée mondiale avec lesquels nous collaborons.
Le respect de ces principes, de la recherche à la mise en œuvre et/ou à la commercialisation, contribuera à assurer la sécurité et la fiabilité des systèmes d'IA. Vector mettra à jour son code de conduite afin de s'assurer que ces principes continuent d'orienter les travaux de l'institut.
Vector estime que ces principes de confiance et de sécurité peuvent guider les organisations qui élaborent leur propre code de conduite et leurs politiques en matière d'IA. Ils constituent un point de départ pour les organisations qui débutent leur parcours en IA, tandis que les organisations plus établies peuvent les adapter à leurs besoins spécifiques.
En adoptant ces principes, les organisations qui élaborent leurs propres politiques en matière d'IA à travers le monde témoigneront de leur engagement à exploiter la puissance de l'IA comme moyen d'atteindre des objectifs démocratiques.
Un engagement ferme envers ces principes dans l’ensemble de l’écosystème canadien de l’IA permettrait de renforcer le leadership mondial du pays en matière de développement et de déploiement responsables de l’IA.
Principes fondamentaux de l'IA
La capacité unique du Vector Institute à réunir les parties prenantes de tous les domaines de l'IA, des institutions et des secteurs industriels lui confère une perspective inédite sur les tendances et les défis de la mise en œuvre de l'IA.
Ces principes s'appuient sur des thèmes internationaux provenant de multiples secteurs afin de refléter les valeurs des spécialistes de l'IA au sein de l'écosystème de Vector, partout au Canada et dans le monde :
1. L'IA devrait être bénéfique aux humains et à la planète.
Nous nous engageons à développer une IA qui favorise une croissance inclusive, un développement durable et le bien-être de la société. Le développement et le déploiement responsables des systèmes d'IA doivent tenir compte d'un accès équitable à ces systèmes ainsi que de leur impact sur le marché du travail, l'éducation, la concurrence, l'environnement et d'autres sphères de la société. Cet engagement implique un refus catégorique de développer des IA nuisibles, telles que des systèmes d'armes autonomes létaux et des méthodes de manipulation visant à influencer l'engagement, y compris la coercition politique.
2. Les systèmes d'IA devraient être conçus de manière à refléter les valeurs démocratiques.
Nous nous engageons à intégrer des garanties appropriées aux systèmes d'IA afin d'assurer le respect des droits de la personne, de la primauté du droit, de l'équité, de la diversité et de l'inclusion, et de contribuer à une société juste et équitable. Les systèmes d'IA doivent être conformes aux lois et réglementations en vigueur et respecter les exigences multijuridictionnelles favorisant l'interopérabilité internationale des systèmes d'IA.
3. Les systèmes d'IA doivent refléter les intérêts des individus en matière de confidentialité et de sécurité.
Nous reconnaissons l'importance fondamentale de la confidentialité et de la sécurité, et nous nous engageons à faire en sorte que les systèmes d'IA reflètent ces valeurs de manière appropriée pour les usages auxquels ils sont destinés.
4. Les systèmes d'IA doivent demeurer robustes, sécuritaires et sécuritaires tout au long de leur cycle de vie.
Nous sommes conscients que le maintien de systèmes d'IA sûrs et fiables exige une évaluation et une gestion continues de leurs risques. Cela implique une responsabilisation à tous les niveaux de la chaîne de valeur, tout au long du cycle de vie d'un système d'IA.
5. La supervision des systèmes d'IA devrait comprendre une divulgation responsable.
Nous reconnaissons que les citoyens et les consommateurs doivent être capables de comprendre les résultats obtenus grâce à l'IA et de les contester. Cela exige une transparence et une divulgation responsables des informations relatives aux systèmes d'IA, ainsi qu'un soutien à la culture de l'IA, pour toutes les parties prenantes.
6. Les organisations doivent rendre des comptes.
Nous reconnaissons que les organisations doivent être responsables tout au long du cycle de vie des systèmes d'IA qu'elles déploient ou exploitent, conformément à ces principes, et que la législation et les cadres réglementaires gouvernementaux sont nécessaires.
Méthodologie
Les premiers principes de l'Institut Vector pour l'IA reposent sur l'approche de l'IA éthique développée par l'OCDE. Outre les principes de confiance et de sécurité, des définitions claires sont également nécessaires pour un déploiement responsable des systèmes d'IA. L'Institut Vector prend comme point de départ la définition d'un système d'IA proposée par l'Organisation de coopération et de développement économiques (OCDE). En 2024, l'OCDE définissait un système d'IA comme suit :
« Un système d'IA est un système informatisé qui, à des fins explicites ou implicites, déduit, à partir des données qu'il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions susceptibles d'influencer des environnements physiques ou virtuels. Les différents systèmes d'IA présentent des niveaux d'autonomie et d'adaptabilité variables après leur déploiement. »
Vector reconnaît également que les définitions communément admises des systèmes d'IA peuvent évoluer. Nous avons constaté comment le développement rapide des modèles d'IA peut modifier l'opinion des experts et l'opinion publique quant aux risques liés à l'IA. Dans le cadre du projet « Gestion des risques liés à l'IA » de Vector, nous avons collaboré avec de nombreuses organisations et organismes de réglementation afin d'évaluer différents types de risques. Ces échanges ont permis d'affiner la formulation des principes relatifs aux risques et à leur impact.
La nature dynamique de ce défi exige que les entreprises et les organisations soient prêtes à revoir leurs principes en fonction de l'évolution de la technologie de l'IA.
- Selon un livre blanc du Berkman Klein Center for Internet and Society de Harvard, la Déclaration de principes de l'OCDE sur l'IA figure parmi les approches les plus équilibrées pour formuler des principes éthiques et fondés sur les droits en matière d'IA.
- À mesure que la technologie de l'IA évolue, les définitions sont mises à jour en fonction des besoins. En mai 2023, l'OCDE était en train de réviser sa définition des systèmes d'IA.
