Lisa Chabrier : des algorithmes pour expliquer comment « raisonne » l’IA

Ta thèse, en quelques mots ?

Lisa Chabrier : Je suis doctorante en bio-informatique, dans le domaine du machine learning. L’idée c’est de traiter de grands groupes de données biologiques pour en tirer des informations. Ce qui m’intéresse en particulier, c’est de comprendre comment fonctionnent ces modèles.
L’IA apprend à réaliser des tâches précises sur des jeux de données, ce qui lui permet ensuite de faire de la prédiction à partir de cas jamais observés. Or, il s’agit de modèles très complexes car ils comportent beaucoup de paramètres et de valeurs inconnues. Autrement dit, il est très difficile d’en dégager du sens en tant qu’humain. On a donc mis au point des algorithmes capables d’expliquer comment ces modèles d’IA fonctionnent, ce qu’on appelle « l’explicabilité ».
 

Et justement, qu'est-ce qu'on parvient à expliquer avec ces algorithmes d'explicabilité ?

L’explicabilité permet notamment de détecter les biais dans les algorithmes, induits par les données elles-mêmes. L’exemple que j’ai donné dans ma présentation (lors de la journée du 9 février) est celui des algorithmes de tri de CV. Les données utilisées sont réelles et comportent bien souvent des biais (de genre, d’ethnies…). Or les modèles, qui apprennent à partir des données qu’on leur donne, vont reproduire ces biais. Notamment, l’IA a retenu le genre comme une information déterminante dans le tri des CV.

Des scientifiques ont tâché de retirer l’information du genre qui apparaissait comme un biais fort. Malgré tout, on s’est rendu compte grâce à des algorithmes d’explicabilité que les biais perdurent. En fait, le modèle de tri de CV utilisait très tôt comme critère de sélection les loisirs, qui apparaissait comme un moyen d’identifier le genre du candidat.

Dans mon cas, s’agissant de données biologiques, il s’agit davantage d’extraire grâce à l’IA les paramètres importants à considérer en fonction de la question qu’on se pose. Ici, la détection des biais ne sert pas à les corriger, mais à mieux comprendre comment fonctionnent les mécanismes biologiques.
 

Actuellement, tu es en troisième année de thèse. Qu'est-ce que tu retiens de cette expérience ?

Ce que je retiens, c’est qu’il est presque impossible de prédire la direction que va prendre la thèse. Le projet que j’avais au début de ma thèse a beaucoup évolué, avec différents projets qui se sont emboités petit à petit pour faire un projet cohérent. En résumé, il faut pouvoir piloter sa thèse mais garder en tête qu’on ne maitrise pas tout.
 

As-tu des modèles de femmes scientifiques qui t’ont inspirée ?

Une professeure en deuxième année de Licence m’a marquée. J’arrivais de prépa et j’avais décidé de ne pas aller en école d’ingénieur. Lorsque j’ai postulé, elle a pris du temps pour m’appeler et échanger avec moi. Son cours était très inspirant, à la frontière entre informatique, logique et mathématiques. Elle nous parlait aussi de son expérience, de son parcours. Elle a commencé l’informatique à une époque où le domaine se structurait et était essentiellement masculin. C'était un exemple inspirant.
 

Tu as toi-même enseigné pendant ta thèse. As-tu ressenti une certaine responsabilité en tant que doctorante ?

Oui, mais d’abord en tant que professeure, indépendamment de mon genre. Ça m’a beaucoup responsabilisé d’être face à des élèves. C’était un cours d’informatique très pratique et assez technique, et avec le recul je suis contente d’avoir eu la possibilité de donner ce type d’enseignement en tant que femme.
 

L’effet Mathilda - l'invisibilisation de la contribution des femmes scientifiques -, les comportements sexistes, y as-tu déjà été confrontée dans le cadre de ta recherche ?

Je n’ai pas l’impression d’en avoir été victime moi-même. Au contraire, dans mon équipe il y a une grande attention portée à ces questions. Les personnes sont ouvertes sur le sujet (hommes comme femmes, permanents comme non-permanents), ce qui fait que l’ambiance de travail est très confortable. En termes d’environnement de travail, je pense avoir eu beaucoup de chances.

 

Lisa Chabrier (bio) :

Après une prépa en informatique, elle suit une licence en informatique. S'en suit un bref passage dans le milieu de l’entreprise, avant de reprendre ses études en Master en bio-informatique en vue de faire une thèse, une idée qui lui « trottait dans la tête » depuis longtemps. Elle est actuellement en troisième année de thèse au Laboratoire d'InfoRmatique en Image et Systèmes d'information (LIRIS - CNRS/Insa Lyon/Université Claude Bernard Lyon 1).