Le 15 mai dernier, la quatrième session des séminaires des doctorants du Laboratoire d’Informatique, de Modélisation et d’Optimisation des Systèmes (LIMOS) s’est tenue avec succès. Organisé par et pour les doctorants du LIMOS, cet événement visait à favoriser l’apprentissage, l’échange et le débat autour de divers aspects des sciences informatiques.
Intervention de Rim EL CHEIKH
Lors de cette session, Rim EL CHEIKH a présenté un exposé captivant intitulé « Towards Faithful Knowledge-Based Explainability For Deep Neural Networks ».
Résumé de la présentation : Avec l’adoption croissante des modèles d’apprentissage profond dans les applications réelles, la demande de transparence dans leurs résultats augmente. Le domaine de l’IA explicable (XAI) a connu des avancées notables, telles que les méthodes basées sur les caractéristiques comme SHAP et LIME. Cependant, une nouvelle vague d’approches XAI émerge, intégrant des connaissances explicites pour une meilleure interprétabilité. Ces méthodes visent à fournir des informations sur des résultats spécifiques ou le fonctionnement général du modèle expliqué en incorporant des connaissances du domaine avant ou après l’entraînement du modèle. Cette présentation a passé en revue ces approches en fonction du niveau auquel les connaissances sont intégrées dans le pipeline DL/XAI. De plus, les méthodes d’évaluation ont été explorées, avec un accent particulier sur l’aspect de la fidélité de l’XAI basée sur les connaissances.
Summary in English: As Deep learning (DL) models gain traction in real world applications, there is a growing demand for transparency in their results. In response, the field of explainable AI (XAI) has rapidly evolved, introducing notable advancements like feature-based methods such as SHAP and LIME. Yet, a new wave of XAI approaches is emerging, which integrates explicit knowledge for enhanced interpretability. These methods aim to provide insights into specific outcomes or the overall functioning of the explained model by incorporating domain-specific knowledge either before or after model training. This presentation reviews these approaches based on the level at which knowledge is integrated into the DL/XAI pipeline. Furthermore, we explore evaluation methods, with a particular focus on the faithfulness aspect of knowledge-based XAI.
Les Séminaires des Doctorants LIMOS
Sur le plan pratique, les « Séminaires des Doctorants » sont organisés par et pour les doctorants du LIMOS. Le but est d’apprendre, d’échanger et de débattre autour de courtes présentations sur les différents aspects des sciences informatiques. Le second objectif est de fédérer les doctorants du LIMOS autour d’une rencontre régulière afin de savoir un peu mieux ‘qui fait quoi’ entre les murs du labo.
Les présentations proposées sont destinées à un public académique et doivent avoir un lien fort avec l’informatique. Le séminaire peut également permettre aux doctorants de présenter leurs résultats à d’autres membres du labo, de s’entrainer avant une présentation à une conférence, ou de répéter leur soutenance de thèse.
Sur le plan de la valorisation, la présence des doctorants à cinq séminaires labo et une présentation au Séminaire des Doctorants validera un module de la formation doctorale ED SIS.