Chercheur postdoctoral en apprentissage automatique

L’Institut Mines-Télécom (IMT) est un établissement public à caractère scientifique, culturel et professionnel (EPSCP) placé sous la tutelle des ministres chargés de l’industrie et du numérique. Il constitue le premier groupe d’écoles d’ingénieurs en France, avec 11 écoles d’ingénieurs publiques réparties sur le territoire, formant 13 500 ingénieurs et docteurs. L’IMT emploie 4 500 personnes et dispose d’un budget annuel de 400 M€, dont 40 % proviennent de ressources propres. L’IMT compte 2 instituts Carnot, 35 chaires industrielles, produit 2100 publications annuelles de rang A, 60 brevets et réalise 110 M€ de recherche contractuelle.

Fondée en 1843, l’IMT Mines Alès compte aujourd’hui 1 400 étudiants (dont 250 étudiants étrangers) et 380 personnels. L’école dispose de 3 centres de recherche et d’enseignement de haut niveau scientifique et technologique, œuvrant dans les domaines des matériaux et du génie civil (C2MA), de l’environnement et des risques (CREER), de l’intelligence artificielle et de l’ingénierie industrielle et numérique (CERIS). Elle dispose de 12 plateformes technologiques et de 1 600 entreprises partenaires. La personne recrutée sera affectée au Centre d’Enseignement et de Recherche en Informatique et Systèmes (CERIS).

CERIS comprend deux équipes de recherche, ISOAR pour Ingénierie des Systèmes et des Organisations pour les Activités à Risque et I3A pour Informatique, Image et Intelligence Artificielle. CERIS anime également deux départements d’enseignement : 2IA pour l’Informatique et l’Intelligence Artificielle et PRISM pour la Performance Industrielle et Systèmes Mécatroniques , ainsi que 2 plateformes technologiques : AIHM pour l’Imagerie et la Métrologie Humaine d’Alès et PFM pour la Plateforme Mécatronique .

Quel est l’impact des techniques XAI sur la collaboration Homme-Machine ? Le type de technique XAI que nous utilisons peut-il influencer notre évaluation des modèles entraînés ? Dans de nombreux cas, les modèles d’IA sont des systèmes complexes qui traitent d’énormes quantités de données et effectuent des calculs difficiles à interpréter intuitivement. L’objectif de l’explicabilité est de fournir aux utilisateurs des informations sur la logique de prise de décision du modèle afin qu’ils puissent comprendre et faire confiance aux résultats de l’IA. Nous voulons contribuer à nous demander si les techniques XAI peuvent biaiser la confiance que nous accordons à l’IA dans des contextes spécifiques. Nous voulons également évaluer si des techniques XAI spécifiques influencent les collaborations Homme-Machine évoluant vers une relation de médiation, de délégation ou de substitution.

Cette étude fait partie du projet européen ENFIELD. ENFIELD vise à créer un centre d’excellence européen distinctif axé sur l’avancement de la recherche fondamentale dans le domaine de l’IA adaptative, verte, centrée sur l’humain et digne de confiance.

Vous contribuerez à :

• Évaluation des variations dans les résultats produits par les méthodes XAI dans des contextes d’étude spécifiques (par exemple, tâches de classification d’images et techniques XAI basées sur l’interprétabilité locale utilisant des méthodes d’attribution).
• Évaluation de l’impact des méthodes XAI sur la collaboration homme-machine dans des contextes de prise de décision simplifiée :

o évaluation de la performance de l’opérateur humain dans la réalisation d’une tâche, dans différents contextes : seul, à l’aide d’un modèle prédictif pour lequel les décisions seront expliquées/non expliquées, en utilisant une technique XAI.

o évaluation de la collaboration homme-machine : délégation, substitution ou médiation.

o évaluation des biais potentiels induits par les techniques CAE.

Vous serez impliqué dans la définition :

• Contextes d’étude (ex : jeux, classification d’images) et protocoles de test à prendre en compte.
• La sélection et la mise en œuvre de modèles prédictifs et de techniques XAI.
• Mettre en place les outils nécessaires à la réalisation des expérimentations objet des protocoles d’étude, par exemple le développement de jeux simples et d’interfaces d’aide à la décision. 
• La mise en œuvre des protocoles susmentionnés sur des cohortes d’opérateurs humains.
• Évaluer et valoriser les résultats obtenus.

En fonction de votre profil, certains aspects seront explorés plus en profondeur que d’autres, et des aspects complémentaires seront envisagés concernant l’identification de techniques XAI susceptibles de répondre aux limitations des techniques existantes identifiées dans la littérature ou par les tests réalisés. Nous restons ouverts aux suggestions de contributions des candidats en fonction de leurs centres d’intérêt.