– Présente une expertise inégalée en matière de confiance et de sécurité de l'IA au Canada, dont cinq experts de l'Institut Vector
– Formule des recommandations importantes et opportunes alors que les dirigeants politiques et économiques du monde entier se réunissent en Corée du Sud pour le Sommet sur la sécurité de l'IA
Toronto, le 21 mai – Cinq chercheurs de Vector figurent parmi les 25 coauteurs d'un article appelant à une nouvelle gouvernance et à de nouvelles priorités en matière de recherche et développement pour les systèmes d'IA avancés. Intitulé « Gérer les risques extrêmes liés à l'IA dans un contexte de progrès rapides », cet article a été publié dans la revue Science . Sa publication coïncide avec le Sommet 2024 sur la sécurité de l'IA en Corée du Sud, qui se tiendra à Séoul les 21 et 22 mai et réunira des experts et des acteurs clés du monde des affaires, des technologies et des politiques publiques afin de discuter des cadres de gouvernance de l'IA.
Geoffrey Hinton, conseiller scientifique en chef du Vector Institute, ainsi que Jeff Clune, Gillian Hadfield, Sheila McIlraith, membres du corps professoral du Vector Institute, et Tegan Maharaj, membre associé du corps professoral du Vector Institute, figurent parmi les coauteurs du document de consensus. Dans ce document, ils exposent les risques potentiels des systèmes d'IA avancés et proposent des priorités en matière de recherche et développement et de gouvernance de l'IA afin de prévenir les préjudices sociaux, les utilisations malveillantes et la perte de contrôle humain sur ces systèmes.
« Félicitations à nos collègues pour cet article opportun publié dans Science », déclare Daniel Roy, directeur de recherche et membre du corps professoral de Vector. Alors que les dirigeants et les décideurs politiques du monde entier se réunissent cette semaine à Séoul pour le Sommet sur la sécurité de l’IA, je suis convaincu que cette étude jettera les bases de discussions fructueuses et que ses recommandations constitueront un excellent point de départ pour les progrès à venir. »
L'article décrit en détail l'accélération fulgurante du développement de l'IA, les entreprises s'efforçant de concevoir des systèmes d'IA capables d'égaler, voire de surpasser, les capacités humaines. Une telle avancée pourrait apporter d'immenses bienfaits à la société, mais aussi engendrer de nouveaux risques majeurs, tels que l'injustice sociale, la criminalité, la surveillance, la guerre automatisée et la perte de contrôle humain. Sans contrôle, les auteurs estiment que les progrès de l'IA pourraient causer des dommages considérables, voire l'extinction de l'humanité.
Recommandations énoncées dans le document
- Une réorientation de la R et D technique en IA au sein des grandes entreprises technologiques et des organismes de financement publics, avec une plus grande part de leurs budgets allouée aux efforts en matière de confiance et de sécurité de l'IA.
- Coopération internationale et accords sur la gouvernance de l'IA pour gérer la dynamique concurrentielle entre les nations.
- La mise en œuvre de normes de sécurité mondiales pour les systèmes d'IA, assortie de sanctions légales en cas de violation.
- La création d'institutions nationales de gouvernance de l'IA dotées de l'expertise technique et de l'autorité nécessaires pour appliquer rapidement les normes et les réglementations.
Une première version, intitulée « Gérer les risques liés à l’IA à l’ère des progrès rapides », a été publiée en novembre dernier sur le site de prépublication en libre accès arXiv. Elle a suscité un vif intérêt médiatique et de nombreux appels à l’action.
« Le Canada, et Vector en particulier, possède une expertise exceptionnelle en matière de confiance et de sécurité de l’IA », déclare Tony Gaffney, président et chef de la direction de l’Institut Vector. « Nous comptons parmi nous certains des plus éminents chercheurs au monde, qui fournissent des orientations claires sur ce sujet dans ce document de consensus. Leurs recommandations seront à l'ordre du jour en Corée du Sud lors du Forum mondial sur l'IA auquel je participerai. Plus particulièrement, les meilleures pratiques de gouvernance sont essentielles pour s'assurer que les applications de l'IA soient fiables, sécuritaires et conformes aux valeurs humaines. »
À propos de l'Institut Vector
Lancé en 2017, l'Institut Vector collabore avec l'industrie, les institutions, les jeunes entreprises et les gouvernements afin de développer les talents en IA et de stimuler l'excellence en recherche dans ce domaine. Son objectif est de favoriser et de pérenniser l’innovation fondée sur l’IA, contribuant ainsi à la croissance économique et à l’amélioration de la qualité de vie des Canadiens. Vector vise à faire progresser la recherche en IA, à accroître son adoption dans l’industrie et le secteur de la santé grâce à des programmes de développement des talents, de commercialisation et d’application, et à guider le Canada vers une utilisation responsable de l’IA. Les programmes destinés à l’industrie, dirigés par des experts reconnus en IA, offrent des bases solides pour les applications dans les produits et les processus, un accompagnement personnalisé, de la formation pour les professionnels et un accès à un bassin de talents prêts à intégrer le marché du travail. Vector est financé par la province de l’Ontario, le gouvernement du Canada dans le cadre de la Stratégie pancanadienne en IA et d’importants commanditaires de divers secteurs de l’industrie canadienne.
Pour toute demande d'information des médias : media@vectorinstitute.ai
