Thèse Révision d'Explications Incertaines H/F - Doctorat.Gouv.Fr

Établissement : Université de Technologie de Compiègne École doctorale : Sciences pour l'ingénieur Laboratoire de recherche : Heuristique et diagnostic des systèmes complexes Direction de la thèse : Benjamin QUOST ORCID 0000000204569953 Début de la thèse : 2027-03-01 Date limite de candidature : 2026-12-13T23:59:59 L'explication des prédictions générées par des classifieurs constitue un sujet de recherche majeur, qui vise à rendre les systèmes prédictifs plus fiables et dignes de confiance. Diverses approches et natures d'explications existent ; on peut distinguer les méthodes quantifiant statistiquement l'importance des caractéristiques (ex. SHAP ou cartes de chaleur), et celles cherchant à extraire une logique sous-jacente à la décision (comme les explications factuelles/abductives, semi-factuelles ou contrefactuelles). Notons que, notamment dans le domaine de la prédiction d'images, certaines méthodes tentent de combler ce fossé en combinant, par exemple, des cartes de chaleur avec des concepts logiques.

Toutefois, les explications se présentent généralement sous la forme d'affirmations péremptoires que l'utilisateur peut accepter ou rejeter, mais avec lesquelles il ne peut interagir. De plus, elles visent à expliquer la prédiction observée sans nécessairement prendre en compte le degré d'incertitude associé à cette dernière. Néanmoins, des travaux récents ont tenté soit d'évaluer la robustesse d'une explication donnée, soit d'expliquer des prédictions incertaines.

Cette thèse a pour objet d'explorer l'interaction entre la quantification de l'incertitude au sein des explications et la manière dont cette information peut aider à réviser ou à critiquer les explications fournies pour interpréter la décision d'un modèle. Cela inclut :
- Quantifier la certitude de validité d'une explication, ou son degré de robustesse, afin par exemple de distinguer les explications potentiellement fragiles ;
- S'appuyer sur les incertitudes du modèle pour poser des questions ciblées aux utilisateurs - en utilisant notamment des systèmes argumentatifs ou d'autres procédures d'élicitation - afin de co-construire une explication cohérente avec les connaissances implicites ou explicites de l'utilisateur ;
- Utiliser des outils issus de la révision logique ou, plus généralement, de la logique non monotone pour réviser efficacement une explication rejetée par l'utilisateur.
Plus largement, nous souhaitons enrichir les mécanismes d'explication actuels par des outils supplémentaires permettant d'approfondir la compréhension des explications et, le cas échéant, de les critiquer. Cette thèse s'inscrit dans le cadre du projet ANR ERARE (Explanations of Robustness And Robustness of Explanations). Le projet fournira au candidat les fonds nécessaires pour soutenir ses activités scientifiques (participation à des conférences, à des écoles thématiques, etc.).

Le candidat doit démontrer (par sa formation, ses projets antérieurs, ses recommandations, ses notes, etc.) d'excellentes compétences en mathématiques ou en informatique. Nous recherchons en particulier d'excellentes compétences dans au moins l'un des domaines suivants :
- Apprentissage automatique (Machine Learning)
- Probabilités/statistiques
- Optimisation
- Intelligence artificielle

• Statistiques
• Intelligence artificielle
• Machine learning
• Mathématiques