«Il faudrait passer du big data au smart data, car beaucoup ne signifie pas forcément qualité» (Capital)

vendredi 16 avril 2021

Vous enseignez l’éthique dans le mastère spécialisé en intelligence artificielle de Télécom Paris. En quoi cette discipline a-t-elle sa place dans un tel cursus ?

Il y a une puissance énorme autour de ces algorithmes et des risques de mauvais usages de ces outils. Certaines technologies qui inquiètent, sont généralement complexes à expliquer. Elles posent même problème aux chercheurs du domaine. Par exemple, on ne sait pas exactement comment fonctionnent les réseaux neuronaux utilisés dans les programmes d’apprentissage, ce qu’on appelle le deep learning. On ignore comment ce réseau est arrivé à prendre telle ou telle décision. Or si on ne peut pas expliquer à une personne pourquoi tel crédit lui a été refusé ou pourquoi elle est désavantagée sur telle autre chose, suite à ce qu’à proposé l’algorithme, cela crée de la défiance. On a des machines qui apprennent par imitation, à partir de grosses bases de données, mais on a parfois du mal à expliquer comment l’algorithme a produit tel ou tel résultat.

Image d’entête Freepik/Upklyak