Des experts de renommée mondiale en matière de confiance et de sécurité de l'IA publient un article majeur sur la gestion des risques liés à l'IA dans la revue Science

21 mai 2024

Recherche Une IA digne de confiance

 - L' expertise inégalée en matière de confiance et de sécurité de l'IA au Canada est présentée, notamment par cinq experts de l'Institut Vecteur.

- Des recommandations importantes et opportunes sont formulées à l'heure où les dirigeants politiques et économiques du monde entier se réunissent en Corée du Sud pour le sommet sur la sécurité de l'IA.

Toronto, 21 mai - Cinq chercheurs de Vector figurent parmi les 25 coauteurs d'un article appelant à une nouvelle gouvernance et à de nouvelles priorités en matière de R&D pour les systèmes d'IA avancés. L'article intitulé "Managing Extreme AI Risks Amid Rapid Progress" a été publié dans la revue Science. Cette publication coïncide avec le 2024 South Korea AI Safety Summit, qui se tiendra à Séoul, en Corée du Sud, les 21 et 22 mai, et qui réunira des experts et des parties prenantes du monde des affaires, de la technologie et de la politique pour discuter des cadres de gouvernance de l'IA.

Geoffrey Hinton, conseiller scientifique en chef de l'Institut Vecteur, Jeff Clune, Gillian Hadfield et Sheila McIlraith, membres du corps enseignant de l'Institut Vecteur, et Tegan Maharaj, membre affilié du corps enseignant de l'Institut Vecteur, figurent parmi les coauteurs du document de consensus. Ils y décrivent les risques potentiels des systèmes d'IA avancés et proposent des priorités pour la R&D et la gouvernance de l'IA afin de prévenir les préjudices sociaux, les utilisations malveillantes et la perte de contrôle des systèmes d'IA par l'homme.

"Félicitations à nos collègues pour cette publication opportune dans Science", déclare Daniel Roy, directeur de recherche et membre du corps enseignant de Vector. "Alors que les leaders mondiaux et les décideurs politiques se réunissent cette semaine à Séoul pour le Sommet sur la sécurité de l'IA, je ne doute pas que cette étude constituera une base solide pour des conversations productives et que leurs recommandations offriront un excellent point de départ pour aller de l'avant."

Le document décrit l'accélération rapide du rythme de l'IA, les entreprises se lançant dans une course au développement de systèmes d'IA capables d'égaler ou de dépasser les capacités humaines. Une telle percée pourrait être très bénéfique pour la société, mais elle pourrait aussi entraîner de nouveaux risques à grande échelle, notamment l'injustice sociale, les activités criminelles, la surveillance, la guerre automatisée et la perte de contrôle de l'homme. Si l'on n'y prend garde, les auteurs estiment que les progrès de l'IA pourraient entraîner des dommages importants, voire l'extinction de l'espèce humaine.

Recommandations formulées dans le document

  • une réorientation de la R&D technique en matière d'IA dans les grandes entreprises technologiques et chez les bailleurs de fonds publics, où une plus grande proportion de leurs budgets est allouée aux efforts en matière de confiance et de sécurité de l'IA. 
  • Coopération internationale et accords sur la gouvernance de l'IA pour répondre à la dynamique concurrentielle entre les nations.
  • La mise en œuvre de normes de sécurité mondiales pour les systèmes d'IA, avec une responsabilité légale en cas d'infraction. 
  • La création d'institutions nationales de gouvernance de l'IA dotées de l'expertise technique et de l'autorité nécessaires pour faire appliquer rapidement les normes et les réglementations. 

Une première version, intitulée "Managing AI Risks in an Era of Rapid Progress" (Gérer les risques de l'IA à l'ère du progrès rapide ), a été publiée en novembre dernier sur le site de préimpression en libre accès arXiv. Il a suscité une grande attention de la part des médias et des appels à l'action. 

"Le Canada, et Vector en particulier, possède une expertise exceptionnelle en matière de confiance et de sécurité de l'IA ", déclare Tony Gaffney, président-directeur général de l'Institut Vecteur. "Nous abritons certains des plus grands chercheurs au monde qui fournissent des conseils clairs sur ce sujet dans ce document de consensus. Leurs recommandations seront mises sur la table en Corée du Sud lorsque je participerai au Forum mondial sur l'IA. En particulier, les meilleures pratiques de gouvernance sont essentielles pour garantir que ce que l'IA permet peut être fiable, sûr et aligné sur les valeurs humaines."

À propos de l'Institut Vecteur

Lancé en 2017, l'Institut Vecteur travaille avec l'industrie, les institutions, les startups et les gouvernements pour développer les talents en IA et stimuler l'excellence de la recherche en IA afin de développer et de soutenir l'innovation basée sur l'IA pour favoriser la croissance économique et améliorer la vie des Canadiens. L'Institut Vecteur vise à faire progresser la recherche sur l'IA, à accroître son adoption dans l'industrie et le secteur de la santé grâce à des programmes destinés aux talents, à la commercialisation et à l'application, et à guider le Canada vers une utilisation responsable de l'IA. Les programmes destinés à l'industrie, dirigés par les meilleurs praticiens de l'IA, offrent des bases pour les applications dans les produits et les processus, des conseils spécifiques aux entreprises, une formation pour les professionnels et des connexions avec des talents prêts à travailler. Vector est financé par la province de l'Ontario, le gouvernement du Canada par l'intermédiaire de la stratégie pancanadienne en matière d'IA, ainsi que par des commanditaires industriels de premier plan issus de multiples secteurs de l'industrie canadienne.

Pour les demandes de renseignements des médias : media@vectorinsitute.ai

En rapport :

Recherche

Les chercheurs de Vector présentent plus d'une douzaine d'articles à CVPR 2024

Recherche

L'atelier sur la vision par ordinateur de l'institut Vector présente les capacités actuelles et le potentiel futur de ce domaine.

Vector Membre de la faculté Gautam Kamath
Perspectives
Recherche

Gautam Kamath, chercheur spécialisé dans les vecteurs, analyse les derniers développements en matière de robustesse et de protection de la vie privée.