Télécom Paris Ideas
Contre les biais des algorithmes de recommandation

Podcast

Retrouvez cette interview en format audio dans le cadre du podcast Le ¼ d’heure du chercheur :

Podcast Michel Desnoues, Télécom Paris

Pourquoi les réseaux sociaux ?

Je fais des recherches en apprentissage automatique, une sous-branche de l’intelligence artificielle, et je m’intéresse particulièrement aux graphes, dont les réseaux sociaux sont un exemple bien connu. Mon travail porte sur la prédiction de liens, c’est-à-dire comprendre quelles personnes sont susceptibles de se connecter à l’avenir.

Effectivement, les graphes sont présents dans de nombreux domaines, mais les réseaux sociaux sont particulièrement intéressants pour moi car ils permettent d’étudier les biais, notamment les discriminations, et la question plus large de l’équité. Les réseaux sociaux se prêtent bien à l’exploration de ces problématiques. Je m’intéresse aux biais présents dans les algorithmes de recommandation de liens sur ces graphes, et plus récemment à l’impact des politiques visant à imposer l’équité.

Avec de la simulation. Le principe est d’essayer de trouver des modèles qui vont être capables de comprendre la manière dont justement les graphes évoluent, donc d’appréhender leurs dynamiques. Et en fonction, une fois qu’on a un modèle qui est capable de faire ça correctement, qui va pouvoir simuler la manière dont le graphe va évoluer dans le temps, d’être capable d’aller jouer un petit peu avec différents types d’algorithmes qui ferait la recommandation, par exemple certains qui seraient contraints à des formes de non-discrimination.

De ce fait, il faut un modèle qui soit le plus général possible, c’est-à-dire qu’aujourd’hui, en apprentissage, on a quand même la capacité d’aller apprendre des modèles qui sont très complexes, et s’appliquent bien à tous types de données. Donc l’idée est d’aller chercher un modèle qui va pouvoir être entraîné sur différents types de graphes en fonction de ce qu’on cherche à modéliser et qu’on va pouvoir ensuite utiliser pour faire de la simulation. Bien évidemment, on n’aura peut-être pas le même modèle qui sera appris, par exemple sur un graphe de type extraction de Facebook ou un graphe de type LinkedIn, par exemple, un graphe professionnel qui va avoir une structure potentiellement différente.

Biais et bulles sociales

Nous examinons les préjudices causés par les algorithmes selon divers facteurs comme le genre, la localisation ou l’affiliation politique. Nous allons vouloir nous assurer que, de ce fait, sur les réseaux sociaux, les tâches qui sont gérées par des algorithmes de machine learning ou d’apprentissage automatique ne sont pas biaisées par l’un de ces facteurs. Par exemple, pour l’affiliation politique, nous voudrions nous assurer que le système de recommandation ne va pas créer ce qu’on appelle des bulles sociales sur le réseau.

Effectivement, l’idée est que l’on cherche naturellement à se connecter avec des personnes qui nous ressemblent. Cette ressemblance peut se baser sur des goûts musicaux, littéraires ou simplement sur des centres d’intérêt communs. Cela semble logique. Toutefois, si l’on pense aux réseaux sociaux, il y a aussi des réseaux professionnels, comme LinkedIn. Dans un réseau comme celui-ci, on ne souhaite pas que des bulles se créent autour de groupes majoritaires, par exemple, des hommes d’une certaine couleur de peau. Le risque est que les algorithmes créent ces bulles.

Sur les réseaux professionnels, c’est aussi un problème. L’affiliation politique sur les réseaux sociaux peut poser problème également. Aujourd’hui, une grande partie de la population s’informe via les réseaux sociaux, et si les algorithmes recommandent des personnalités ou des articles basés sur une appartenance politique, cela crée un biais problématique.

Effectivement, ce n’est pas un problème de modération, qui s’applique au contenu en lui-même. Ici, il s’agit de « débiaiser » l’algorithme derrière la recommandation. Les algorithmes, comme ceux de LinkedIn, Facebook ou Instagram, utilisent l’apprentissage automatique. Ils exploitent les informations trouvées sur Internet, comme ce que nous indiquons sur nos profils. Le problème est que ces algorithmes peuvent privilégier des critères comme le genre, créant ainsi des bulles implicites et homogènes sans que l’utilisateur ne s’en rende compte. Cela pose des problèmes particuliers sur les réseaux professionnels comme LinkedIn, où l’on ne souhaite pas que le réseau soit biaisé par certains critères lors de la recherche d’emploi, par exemple.

Par exemple, si j’entraîne un algorithme pour un chasseur de têtes, une intelligence artificielle chargée de trouver les meilleurs profils pour un emploi, et que j’utilise des données biaisées issues de chasseurs de têtes précédents, ces biais seront reproduits dans les décisions de l’algorithme.

Le défi consiste donc à s’assurer que les données utilisées pour l’entraînement sont les moins biaisées possible et à vérifier que l’algorithme ne puisse pas retrouver des signaux biaisés dans les données, malgré nos efforts. Les algorithmes sont très puissants et peuvent, malgré nous, détecter ces biais. Un algorithme n’est pas intrinsèquement biaisé : c’est un ensemble de lignes de code et un modèle mathématique, sans préjugés initiaux. Les biais apparaissent parce que nous les avons. Ainsi, il y a effectivement ce phénomène du serpent qui se mord la queue. Cependant, si nous parvenons à utiliser des algorithmes de moins en moins biaisés, nos comportements pourraient s’améliorer, en créant un cercle vertueux qui nous aidera à éliminer ces biais.

Quant à la manipulation des algorithmes, elle est possible. Comme je l’ai mentionné, les algorithmes fonctionnent sur des principes assez classiques, utilisant toujours le même type de données en entrée, ce qui peut être difficile à contrôler. Toutefois, des recherches sont en cours pour auditer ces algorithmes de recommandation et comprendre leurs décisions, ce qui pourrait limiter les manipulations. Il y a aussi une demande croissante de transparence sur les décisions algorithmiques. Cependant, la recette peut être biaisée, par exemple en fournissant de fausses informations. Il y a eu des cas où des avis clients étaient en réalité faux, influençant ainsi les recommandations. Bien que des solutions émergent pour limiter ces manipulations, il est peu probable que nous en soyons totalement à l’abri.

Quelles obligations pour les acteurs de la tech ?

Oui, elles en sont conscientes. Ont-elles envie d’agir significativement ? Ce n’est pas évident. Lorsque les problèmes d’équité dans l’apprentissage automatique ont émergé, des équipes de recherche dédiées ont été créées chez Google et Meta. Cependant, cet intérêt s’est quelque peu essoufflé, notamment avec les récents licenciements dans ces entreprises, touchant souvent ces équipes spécialisées. Les GAFAM ont pris conscience du problème, mais leurs obligations restent floues.

L’AI Act a en effet été voté en mars au niveau européen : il est censé régir la manière dont on doit s’assurer justement que les algorithmes développés et mis en production sont transparents, explicables, mais également équitables. C’est une législation qui ne mentionne pas de critères particuliers à prendre en compte, qui donne des définitions assez vagues de ce que doit être un algorithme équitable, ce qui va laisser à mon avis la place à beaucoup d’interprétations différentes.