Confiance et sécurité de l'IA
À l'Institut Vecteur, nous pensons que la réalisation du potentiel de transformation de l'intelligence artificielle nécessite un engagement ferme en faveur de la confiance et de la sécurité.
Notre étoile polaire ? Établir une norme mondiale pour l'IA - afin que , partout où l'IA est utilisée, elle soit fiable, sûre et conforme aux valeurs humaines.
Établir une norme mondiale pour une IA sûre et fiable en exploitant l'écosystème d'IA de classe mondiale de l'Ontario
Vector est à l'avant-garde de l'adoption responsable de l'IA, servant de contrepoids, démocratisant l'IA au profit de la société en se concentrant sur la recherche en sécurité de l'IA et sur les outils qui permettent aux organisations de déployer l'IA de manière éthique. Grâce à des partenariats avec des hôpitaux de recherche et des établissements universitaires de renommée mondiale à Toronto, berceau de l'apprentissage automatique moderne et cœur du centre économique du Canada, Vector rassemble les esprits les plus brillants pour faire progresser la recherche fondamentale et appliquée en matière de sécurité de l'IA.
Dans le cadre de ce collectif, Vector a publié Principes de confiance et de sécurité en matière d'IAet continue de faire progresser la recherche de pointe, les outils appliqués et les cadres, en aidant les organisations à mettre les principes en pratique.
Obtenir des informations sur
Principes de confiance et de sécurité de l'IA
À l'Institut Vecteur, la confiance et la sécurité sont au cœur de tout ce que nous faisons. Nos principes de confiance et de sécurité en matière d'IA, élaborés en collaboration avec des partenaires de l'industrie, du gouvernement et du monde universitaire, fournissent des lignes directrices claires pour le développement et le déploiement responsables de l'IA :
- L'IA doit profiter aux humains et à la planète
- Les systèmes d'IA doivent refléter les valeurs démocratiques
- L'IA doit respecter la vie privée et la sécurité
- L'IA doit être robuste, sûre et sécurisée
- La surveillance de l'IA exige une divulgation responsable
- Les organisations qui développent l'IA doivent rendre des comptes
Voici ce qu'en disent les experts de Vector
Geoff Hinton
Conseiller scientifique en chef, Vector Institute | Professeur émérite d'informatique, Université de Toronto | Compagnon de l'Ordre du Canada | Récipiendaire du prix ACM A.M. Turing | 2024 Lauréat du prix Nobel de physique
"Des efforts considérables doivent être déployés pour protéger la technologie contre les acteurs malveillants et pour former l'intelligence artificielle afin qu'elle soit plus bienveillante.
Sheila McIlraith
Membre de la faculté, Vector Institute | Professeur, Département d'informatique, Université de Toronto | Chaire CIFAR d'intelligence artificielle au Canada | Directeur associé et responsable de la recherche à l'Institut Schwartz Reisman pour la technologie et la société
"Nous vivons une véritable période de transformation. C'est une période très excitante... mais aussi une période de prudence et de risque... nous sommes un peu dans le Far West".
David Duvenaud
Membre de la faculté, Vector Institute | Professeur associé, Département des sciences statistiques et Département d'informatique, Université de Toronto | Chaire CIFAR d'intelligence artificielle au Canada | Chaire de l'Institut Schwartz Reisman sur la technologie et la société
"Nous sommes sur la voie d'un monde dans lequel les machines peuvent littéralement tout faire mieux que nous. Avant d'en arriver là, nous devons nous assurer que notre civilisation dispose d'incitations fortes et stables pour nous garder heureux et en bonne santé, même lorsque nous sommes un frein net à la croissance."
Roger Grosse
Membre de la faculté, Vector Institute | Professeur associé, Département d'informatique, Université de Toronto | Chaire canadienne d'intelligence artificielle CIFAR | Chaire de l'Institut Schwartz Reisman sur la technologie et la société
"L'IA progressant aussi rapidement qu'elle le fait, nous devons prévoir et prévenir les risques catastrophiques qui découlent des futurs systèmes d'IA. Nous ne pouvons pas nous permettre d'attendre que les choses tournent mal."
Geoff Hinton
Conseiller scientifique en chef, Vector Institute | Professeur émérite d'informatique, Université de Toronto | Compagnon de l'Ordre du Canada | Récipiendaire du prix ACM A.M. Turing | 2024 Lauréat du prix Nobel de physique
"Des efforts considérables doivent être déployés pour protéger la technologie contre les acteurs malveillants et pour former l'intelligence artificielle afin qu'elle soit plus bienveillante.
Sheila McIlraith
Membre de la faculté, Vector Institute | Professeur, Département d'informatique, Université de Toronto | Chaire CIFAR d'intelligence artificielle au Canada | Directeur associé et responsable de la recherche à l'Institut Schwartz Reisman pour la technologie et la société
"Nous vivons une véritable période de transformation. C'est une période très excitante... mais aussi une période de prudence et de risque... nous sommes un peu dans le Far West".
David Duvenaud
Membre de la faculté, Vector Institute | Professeur associé, Département des sciences statistiques et Département d'informatique, Université de Toronto | Chaire CIFAR d'intelligence artificielle au Canada | Chaire de l'Institut Schwartz Reisman sur la technologie et la société
"Nous sommes sur la voie d'un monde dans lequel les machines peuvent littéralement tout faire mieux que nous. Avant d'en arriver là, nous devons nous assurer que notre civilisation dispose d'incitations fortes et stables pour nous garder heureux et en bonne santé, même lorsque nous sommes un frein net à la croissance."
Roger Grosse
Membre de la faculté, Vector Institute | Professeur associé, Département d'informatique, Université de Toronto | Chaire canadienne d'intelligence artificielle CIFAR | Chaire de l'Institut Schwartz Reisman sur la technologie et la société
"L'IA progressant aussi rapidement qu'elle le fait, nous devons prévoir et prévenir les risques catastrophiques qui découlent des futurs systèmes d'IA. Nous ne pouvons pas nous permettre d'attendre que les choses tournent mal."
Un leadership sûr en matière d'IA : La voie canadienne
Vector transforme les principes de confiance et de sécurité de l'IA en pratiques concrètes :
- Notre principale voix dans l'élaboration d'un débat mondial sur la gouvernance et l'éthique de l'IA
- Travailler sur l'alignement, la robustesse, la protection de la vie privée et la sécurité de l'IA dans de multiples secteurs
- Recherche appliquée et ingénierie d'outils et de cadres pour permettre l'adoption responsable de l'IA, y compris l'évaluation, la modélisation et l'analyse comparative, etc.
- Cadres sectoriels, conseils et projets de collaboration dans les domaines de la santé, des services financiers, de l'administration publique, etc.
Nous travaillons avec des leaders mondiaux tels que SRIl'Organisation de coopération et de développement économiques ( OCDE, WEFet les gouvernements afin de définir des normes et des bonnes pratiques pour une IA digne de confiance.
Explorer les articles relatifs à la confiance et à la sécurité
Neutraliser les préjugés dans l'IA : le cadre UnBIAS de l'Institut Vector révolutionne l'analyse éthique des textes
Comment mettre en œuvre des systèmes d'IA en toute sécurité
L'équité dans l'apprentissage automatique : Les principes de gouvernance
Vous souhaitez vous tenir au courant des travaux de Vector en matière de confiance et de sécurité de l'IA ?
Rejoignez la liste de diffusion de Vector ici :