Sheng Zhou

Présentation de Sujet de thèse: "Expliquer les décisions de modèles prédictifs : vers l'interprétation automatique de modèles d'apprentissage" Contexte : pourquoi interpréter les décisions des modèles ? Connaître le pourquoi de la décision d'une IA a une importante valeur ajoutée dans de nombreux cas - Détection des biais d'apprentissage (biais racial ...) - Validation/débogage d'un modèle dont la prise de décision engendre des risques humains et/ou financiers (véhicules sans conducteur, stratégies commerciales ...) - Donner un sens à une décision qui affecte l'humain (diagnostique médical, demande de crédit ...) - Renforcer la confiance du grand public dans les intelligences artificielles - Utiliser les modèles comme une source de connaissance en comprenant leur décision (établissement de règles ...) Avancées scientifiques attendues : - Méthode générique d'interprétabilité a posteriori de modèles d'apprentissage sans restriction par rapport au type de modèle - Identification des couples paramètres/valeurs expliquant la décision associée à un objet donné, sans impact sur la performance ou l'apprentissage du modèle de décision - Rendu intelligible à l'utilisateur du diagnostique associé à une décision et évaluation du degré de confiance associé à un diagnostique.