Photo d'Elena Mozhvilo sur Unsplash
10 août 2020
Par Ian Gormely
De la découverte musicale à la finance, on interagit tous les jours avec l'IA, souvent sans même s'en rendre compte. Pourtant, à mesure que les algorithmes sont envisagés pour la prise de décision sociétale, la question de l'équité devient cruciale.
Les définitions de ce qui est équitable varient, mais les préoccupations se résument souvent à une question de biais : les données sur lesquelles les algorithmes sont entraînés sont-elles représentatives de la population qu’ils servent ? « Les algorithmes d’apprentissage machine sont fondamentalement basés sur les données », explique Safwan Hossain, chercheur chez Vector, sous la direction de Nisarg Shah, membre associé de la faculté de Vector. « Si les données sont biaisées, ce biais risque fort de se répercuter sur le modèle. »
Plusieurs algorithmes d'apprentissage machine s'appuient sur une réponse binaire (oui/non). Dans le cas des prêts bancaires, par exemple, un modèle détermine si une personne doit obtenir un prêt ; un modèle ne doit pas favoriser injustement un groupe par rapport à un autre.
Cependant, la notion d'équité est subjective. Hossain souligne que chacun attribue une valeur différente aux biens. Or, la plupart des modèles ne tiennent pas compte des préférences individuelles ni des situations plus complexes et non binaires, un point abordé dans le nouvel article « Designing Fairly Fair Classifiers Via Economic Fairness Notions », coécrit par Hossain, Andjela Mladenovic et Nisarg Shah, membre associé de Vector. Accorder un prêt à une personne peut s'avérer aussi injuste que de se voir refuser un prêt inadapté – par exemple, un prêt hypothécaire à taux variable sur cinq ans alors qu'elle souhaitait un prêt à taux fixe sur dix ans.
Pour construire leur modèle, Hossain, qui travaille à l'intersection de l'économie et de l'informatique, a repris deux définitions économiques bien étudiées de l'équité — l'absence d'envie et l'équité, qui comparent les différences entre la façon dont différentes personnes valorisent différents objets ou idées — et les a adaptées à un contexte d'apprentissage automatique.
Ce faisant, ils ont pu élaborer un modèle d'équité généralisable qui englobe plusieurs concepts d'équité existants. Cela leur permettra de l'appliquer à de nouveaux contextes, tels que la publicité ciblée ou les soins palliatifs, avec de nouvelles données. Hossain travaille déjà sur un article complémentaire qui applique ces travaux au secteur de la santé, où les questions de préférences individuelles revêtent une importance encore plus grande pour les soins personnalisés. « Les gens savent ce qu'ils veulent », explique-t-il, « et ils ont tendance à considérer qu'une chose est juste si elle leur convient. »
