Confiance et sécurité de l’IA
Au Vector Institute, nous croyons que réaliser le potentiel transformateur de l’intelligence artificielle exige un engagement inébranlable envers la confiance et la sécurité.
Notre étoile polaire? Établissez une norme mondiale pour l’IA – afin que, partout où l’IA est utilisée, elle puisse être digne de confiance, sécuritaire et alignée avec les valeurs humaines.
Établir une norme mondiale pour une IA sécuritaire et fiable en exploitant l’écosystème d’IA de classe mondiale de l’Ontario
Vector est à l’avant-garde de l’adoption responsable de l’IA, servant de contrepoids et démocratisant l’IA au bénéfice de la société en se concentrant sur la recherche en sécurité de l’IA et sur des outils permettant aux organisations de déployer l’IA de manière éthique. Grâce à des partenariats avec des hôpitaux de recherche et des institutions académiques de renommée mondiale à Toronto, berceau de l’apprentissage automatique moderne et cœur du centre économique du Canada, Vector rassemble les esprits les plus brillants pour faire avancer la recherche fondamentale et appliquée en sécurité de l’IA.
À travers ce collectif, Vector a publié les Principes de confiance et de sécurité de l’IA, et continue de faire progresser la recherche de pointe, les outils appliqués et les cadres de cadre, aidant les organisations à mettre en pratique leurs principes.
Obtenez des informations sur
Principes de confiance et de sécurité en IA
Au Vector Institute, la confiance et la sécurité sont au cœur de tout ce que nous faisons. Nos principes de confiance et de sécurité en IA, développés en collaboration avec des partenaires de l’industrie, du gouvernement et du milieu universitaire, fournissent des repères clairs pour le développement et le déploiement responsables de l’IA :
- L’IA devrait bénéficier aux humains et à la planète
- Les systèmes d’IA devraient refléter les valeurs démocratiques
- L’IA doit respecter la vie privée et la sécurité
- L’IA doit être robuste, sécuritaire et protégée
- La supervision de l’IA exige une divulgation responsable
- Les organisations qui développent l’IA doivent être responsables
Voici ce que disent les experts de Vector
Geoff Hinton
Conseiller scientifique en chef, Vector Institute | Professeur émérite distingué d’informatique, Université de Toronto | Compagnon de l’Ordre du Canada | Lauréat du prix ACM A.M. Turing | Lauréat du prix Nobel de physique 2024
« Un 'énorme effort' devrait être fait pour protéger la technologie contre les acteurs malveillants, et pour former l’intelligence artificielle à être plus bienveillante. »
Sheila McIlraith
Membre du corps professoral, Vector Institute | Professeur, Département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Directeur associé et responsable de la recherche à l’Institut Schwartz Reisman pour la technologie et la société
« Nous sommes dans un moment véritablement transformateur. C’est une période vraiment excitante... mais aussi un moment pour un peu de soin et un peu de risque... On est un peu dans le Far West. »
David Duvenaud
Membre du corps professoral, Vector Institute | Professeur agrégé, Département des sciences statistiques et Département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Chaire de l’Institut Schwartz Reisman en technologie et société
« Nous sommes sur une voie vers un monde où les machines peuvent littéralement tout faire mieux que nous. Avant d’y arriver, nous devons nous assurer que notre civilisation a des incitatifs forts et stables pour nous garder heureux et en santé, même lorsque nous sommes un frein net à la croissance. »
Roger Grosse
Membre du corps professoral, Vector Institute | Professeur agrégé, département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Chaire de l’Institut Schwartz Reisman en technologie et société
« Avec la rapidité de l’IA qui progresse, nous devons prévoir et prévenir les risques catastrophiques qui découleront des systèmes d’IA futurs. On ne peut pas se permettre d’attendre que ça tourne mal. »
Geoff Hinton
Conseiller scientifique en chef, Vector Institute | Professeur émérite distingué d’informatique, Université de Toronto | Compagnon de l’Ordre du Canada | Lauréat du prix ACM A.M. Turing | Lauréat du prix Nobel de physique 2024
« Un 'énorme effort' devrait être fait pour protéger la technologie contre les acteurs malveillants, et pour former l’intelligence artificielle à être plus bienveillante. »
Sheila McIlraith
Membre du corps professoral, Vector Institute | Professeur, Département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Directeur associé et responsable de la recherche à l’Institut Schwartz Reisman pour la technologie et la société
« Nous sommes dans un moment véritablement transformateur. C’est une période vraiment excitante... mais aussi un moment pour un peu de soin et un peu de risque... On est un peu dans le Far West. »
David Duvenaud
Membre du corps professoral, Vector Institute | Professeur agrégé, Département des sciences statistiques et Département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Chaire de l’Institut Schwartz Reisman en technologie et société
« Nous sommes sur une voie vers un monde où les machines peuvent littéralement tout faire mieux que nous. Avant d’y arriver, nous devons nous assurer que notre civilisation a des incitatifs forts et stables pour nous garder heureux et en santé, même lorsque nous sommes un frein net à la croissance. »
Roger Grosse
Membre du corps professoral, Vector Institute | Professeur agrégé, département d’informatique, Université de Toronto | Chaire d’intelligence artificielle du CIFAR au Canada | Chaire de l’Institut Schwartz Reisman en technologie et société
« Avec la rapidité de l’IA qui progresse, nous devons prévoir et prévenir les risques catastrophiques qui découleront des systèmes d’IA futurs. On ne peut pas se permettre d’attendre que ça tourne mal. »
Leadership en IA sécuritaire : La façon canadienne
Vector transforme les principes de confiance et de sécurité de l’IA en pratiques concrètes grâce à :
- Notre voix principale pour façonner la conversation mondiale autour de la gouvernance et de l’éthique de l’IA
- Travailler sur l’alignement, la robustesse, la confidentialité et la sécurité de l’IA dans plusieurs secteurs
- Recherche appliquée et ingénierie d’outils et de cadres permettant une adoption responsable de l’IA, notamment : Évaluation, modélisation, benchmarking et plus encore
- Cadres, conseils et projets collaboratifs spécifiques au secteur dans les domaines de la santé, des services financiers, du gouvernement et plus encore
Nous travaillons avec des leaders mondiaux comme SRI, l’OCDE, le FEM et les gouvernements pour définir des normes et des meilleures pratiques pour une IA fiable
Découvrez des articles connexes sur la confiance et la sécurité
Neutraliser les biais en IA : le cadre UnBIAS du Vector Institute révolutionne l’analyse éthique des textes
Comment implémenter en toute sécurité des systèmes d’IA
L’équité dans l’apprentissage automatique : les principes de la gouvernance
Vous voulez rester à jour sur le travail de Vector en matière de confiance et de sécurité en IA?
Joignez-vous à la liste de diffusion de Vector ici :