Algorithmes : biais, discrimination et équité
mardi 26 février 2019
Image d’entête source I’m Tech
Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boîtes noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique.
Les chercheurs Patrice Bertail (Université Paris Nanterre), David Bounie, Stephan Clémençon et Patrick Waelbroeck (Télécom ParisTech) décrivent les biais liés aux algorithmes et esquissent des pistes pour y remédier. Ils s’intéressent en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité et à leurs conséquences en termes de discrimination.
Trois grandes questions motivent cet article : par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et enfin, peut-on les corriger ou bien les limiter ?
Dans une première partie les auteurs décrivent comment fonctionne un algorithme d’apprentissage statistique. Puis ils s’intéressent à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Ils présentent ensuite quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Une discussion sur les principaux enjeux de société soulevés tels que l’interprétabilité, l’explicabilité, la transparence et la responsabilité conclut l’article.
Ce travail a été réalisé avec le soutien financier de la Fondation Abeona . Sous égide de la Fondation de France, la Fondation Abeona a pour objet de soutenir des projets de recherche pluridisciplinaires utilisant les sciences des données et de catalyser la réflexion sur le sujet de l’équité en intelligence artificielle.
Le texte complet de cet article est accessible en téléchargement ou visualisable ci-dessous, afin que chacun puisse s’emparer de ces questions fondamentales.