Defense type
Thesis
Starting date
End date
Location
IRISA Rennes
Room
Métivier
Speaker
Victor Guyomard (LACODAM)
Main department
Theme
(English below)
Soutenance de thèse jeudi 23 novembre à 14h30, au centre Inria de l'Université de Rennes, dans la salle Métivier.
Soutenance de thèse jeudi 23 novembre à 14h30, au centre Inria de l'Université de Rennes, dans la salle Métivier.
Pour assister à à la soutenance merci de remplir le sondage disponible via ce lien : https://framadate.org/KdTXCFHjBocbBH5i
L’accès du public (hors IRISA) à cette soutenance est contraint à une inscription préalable obligatoire auprès de pr%C3%A9nom [*] nom
inria [*] fr (gaelle[dot]tworkowski[at]inria[dot]fr) – L’accès ne sera pas autorisé sans inscription préalable. Par ailleurs, les visiteurs ne porteront ni bagage ni sac.La soutenance se déroulera en anglais.
Titre : Génération d'explications contrefactuelles robustes et réalistes pour les décisions individuelles
Résumé : De nos jours, l'apprentissage automatique est de plus en plus utilisé pour automatiser des décisions qui ont un impact considérable sur notre quotidien. Cela a été rendu possible grâce au développement et à la mise en œuvre de modèles d'apprentissage automatique de plus en plus performants, mais également de plus en plus complexes, devenant des boîtes noires. L'opacité de ces modèles soulève le besoin d'expliquer les décisions qu'ils produisent pour diverses raisons, telles que garantir la conformité à la régulation ou obtenir des informations quant au problème sous-jacent. Dans ce contexte, cette thèse aborde le problème de la génération d'explications pour des décisions individuelles destinées aux utilisateurs non techniques à travers le prisme de l'explication contrefactuelle. Nous avons identifié deux propriétés principales - le réalisme et la robustesse - qui visent à améliorer l'explication produite dans le cadre de données tabulaires. Plus précisément, cette thèse propose quatre contributions : Tout d'abord, nous proposons une méthode post hoc pour la génération de contrefactuels réalistes. Ensuite, nous proposons VCNet, un modèle auto-explicatif pour la génération de contrefactuels. VCNet est basé sur un cVAE (autoencodeur variationnel conditionnel) conçu pour générer efficacement des contrefactuels réalistes. En troisième lieu, nous présentons une interface pour visualiser les explications contrefactuelles, conçue pour interagir avec de multiples parties prenantes. Enfin, nous proposons CROCO, une méthode post-hoc pour générer des contrefactuels robustes suivant les variables d'entrée.
Titre : Génération d'explications contrefactuelles robustes et réalistes pour les décisions individuelles
Résumé : De nos jours, l'apprentissage automatique est de plus en plus utilisé pour automatiser des décisions qui ont un impact considérable sur notre quotidien. Cela a été rendu possible grâce au développement et à la mise en œuvre de modèles d'apprentissage automatique de plus en plus performants, mais également de plus en plus complexes, devenant des boîtes noires. L'opacité de ces modèles soulève le besoin d'expliquer les décisions qu'ils produisent pour diverses raisons, telles que garantir la conformité à la régulation ou obtenir des informations quant au problème sous-jacent. Dans ce contexte, cette thèse aborde le problème de la génération d'explications pour des décisions individuelles destinées aux utilisateurs non techniques à travers le prisme de l'explication contrefactuelle. Nous avons identifié deux propriétés principales - le réalisme et la robustesse - qui visent à améliorer l'explication produite dans le cadre de données tabulaires. Plus précisément, cette thèse propose quatre contributions : Tout d'abord, nous proposons une méthode post hoc pour la génération de contrefactuels réalistes. Ensuite, nous proposons VCNet, un modèle auto-explicatif pour la génération de contrefactuels. VCNet est basé sur un cVAE (autoencodeur variationnel conditionnel) conçu pour générer efficacement des contrefactuels réalistes. En troisième lieu, nous présentons une interface pour visualiser les explications contrefactuelles, conçue pour interagir avec de multiples parties prenantes. Enfin, nous proposons CROCO, une méthode post-hoc pour générer des contrefactuels robustes suivant les variables d'entrée.
------------------
PhD defense on November 23rd, 2023, at 2:30 PM, at the Inria Center of the University of Rennes, Métivier room.
If you plan to attend the defense, please fill out the following form: https://framadate.org/KdTXCFHjBocbBH5i
Public access to this event is subject to prior registration with gaelle [*] tworkowskiinria [*] fr - Access will not be permitted without prior registration. Visitors are not allowed to bring luggage or bags.
Public access to this event is subject to prior registration with gaelle [*] tworkowski
inria [*] fr - Access will not be permitted without prior registration. Visitors are not allowed to bring luggage or bags.The defense will be conducted in English.
Title: Generation of robust and realistic counterfactual explanations for individual decisions
Summary: Nowadays, machine learning is increasingly being used to automate decisions that largely affect our daily lives. This has been made possible thanks to the development and the delivery of increasingly powerful machine learning models. However, as these models become more advanced, they also tend to become more complex, thus evolving into black boxes. The opacity of these models rise the need to explain the decisions they make for various reasons, such as ensuring legal compliance or gaining insights. In this context, this thesis addresses the problem of generating explanation of individual decision for non-technical users through the lens of counterfactual explanation. We identified two main desired properties – realism and robustness – to improve the quality of explanations for tabular datasets. More specifically, this thesis proposes four contributions: Firstly, we propose a post-hoc method for generating realistic counterfactuals.
Then, we propose VCNet, a self-explaining model for counterfactual generation. VCNet is based on a cVAE (conditional variational autoencoder) designed to effectively generate realistic counterfactuals. Thirdly, an interface to visualize counterfactual explanations, designed to interact with multiple stakeholders. Lastly, we propose CROCO, a post-hoc method for generating counterfactuals that are robust to input changes.
Title: Generation of robust and realistic counterfactual explanations for individual decisions
Summary: Nowadays, machine learning is increasingly being used to automate decisions that largely affect our daily lives. This has been made possible thanks to the development and the delivery of increasingly powerful machine learning models. However, as these models become more advanced, they also tend to become more complex, thus evolving into black boxes. The opacity of these models rise the need to explain the decisions they make for various reasons, such as ensuring legal compliance or gaining insights. In this context, this thesis addresses the problem of generating explanation of individual decision for non-technical users through the lens of counterfactual explanation. We identified two main desired properties – realism and robustness – to improve the quality of explanations for tabular datasets. More specifically, this thesis proposes four contributions: Firstly, we propose a post-hoc method for generating realistic counterfactuals.
Then, we propose VCNet, a self-explaining model for counterfactual generation. VCNet is based on a cVAE (conditional variational autoencoder) designed to effectively generate realistic counterfactuals. Thirdly, an interface to visualize counterfactual explanations, designed to interact with multiple stakeholders. Lastly, we propose CROCO, a post-hoc method for generating counterfactuals that are robust to input changes.
Composition of the jury
Rapportrices :
Fosca GIANNOTI, Professeure à l'école normal supérieur, Pise Italie
Marie-Jeanne LESOT, Professeure à la Sorbonne Université LIP6, Paris
--
Sébastien GAMBS, Professeur à l'université du Québec à Montreal (UQAM)
Tassadit BOUADI, Maitresse de conférence à l'université de Rennes
Alexandre TERMIER, Professeur à l'université de Rennes
Françoise FESSANT, Chercheuse à Orange Innovation Lannion
Fosca GIANNOTI, Professeure à l'école normal supérieur, Pise Italie
Marie-Jeanne LESOT, Professeure à la Sorbonne Université LIP6, Paris
--
Sébastien GAMBS, Professeur à l'université du Québec à Montreal (UQAM)
Tassadit BOUADI, Maitresse de conférence à l'université de Rennes
Alexandre TERMIER, Professeur à l'université de Rennes
Françoise FESSANT, Chercheuse à Orange Innovation Lannion