«Intégrer l’éthique dans les algorithmes soulève des défis titanesques» (Le Monde)

samedi 7 décembre 2019

Deux chercheurs de Télécom Paris, David Bounie et Winston Maxwell, décrivent dans une tribune au Monde les solutions concrètes à apporter aux risques de discrimination que peuvent générer les algorithmes des plates-formes.

De plus en plus d’exemples dans la justice, la santé, l’éducation et la finance, montrent que les outils d’intelligence artificielle (IA) ne peuvent être déployés sans contrôle dans des systèmes de sécurité ou d’accès à des ressources essentielles au risque de généraliser des biais, potentiellement discriminatoires, difficiles à interpréter et pour lesquels aucune explication n’est fournie aux utilisateurs.

La conclusion est de plus en plus claire : l’IA doit intégrer l’éthique dès la conception des algorithmes (« ethics by design »). La performance éthique de l’algorithme (absence de discrimination, respect des individus…) doit figurer parmi les critères de performance, au même titre que l’exactitude des prédictions.

Mais intégrer l’éthique dans les algorithmes soulève des défis titanesques, pour cinq raisons : Premièrement, les normes éthiques et juridiques sont souvent floues, et se prêtent mal à une formulation mathématique […] Deuxièmement, l’éthique n’est pas universelle […] Troisièmement, l’éthique est politique […] Quatrièmement, l’éthique est économique […] Cinquièmement, l’éthique est temporelle.

(c) illustration auteur Acidj via Freepik