BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//Normastic - ECPv6.17.4//NONSGML v1.0//EN
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-ORIGINAL-URL:https://www.normastic.fr
X-WR-CALDESC:Évènements pour Normastic
REFRESH-INTERVAL;VALUE=DURATION:PT1H
X-Robots-Tag:noindex
X-PUBLISHED-TTL:PT1H
BEGIN:VTIMEZONE
TZID:Europe/Paris
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20250330T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20251026T010000
END:STANDARD
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20260329T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20261025T010000
END:STANDARD
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20270328T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20271031T010000
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
DTSTART;TZID=Europe/Paris:20260526T093000
DTEND;TZID=Europe/Paris:20260526T170000
DTSTAMP:20260612T100632Z
CREATED:20260427T082955Z
LAST-MODIFIED:20260612T100632Z
UID:17904-1779787800-1779814800@www.normastic.fr
SUMMARY:Journée des axes Images/Systèmes Complexes/DAC sur l'explicabilité le 26/05/2026
DESCRIPTION:Retour sur la journée\nDans un contexte où les systèmes d’apprentissage automatique gagnent en complexité\, l’explicabilité est devenue un enjeu central : comprendre et interpréter les décisions des modèles est indispensable pour leur faire confiance et favoriser leur adoption par utilisateurs et experts. \nCette journée a réuni 3 orateurs invités et des doctorants du GREYC et du LITIS (voir programme ci dessous) autour de ces questions\, explorées à travers leurs différents domaines d’application. Une cinquantaine de participants se sont retrouvés pour une journée riche en échanges et en bonne humeur. \n\n  \n\n\n   \n\n\nLes axes « Images »\,  « Systèmes Complexes » et « Données\, Apprentissage\, Connaissances » de la fédération Normastic organisent le mardi 26 mai 2026 une journée commune sur l’explicabilité en IA.  \nElle est ouverte à tous les membres du GREYC et du LITIS (collègues\, doctorants\, post-doctorants\, master…). \nNous aurons le plaisir d’accueillir 3 exposés invités\, ainsi que 5 présentations de travaux menés au GREYC et au LITIS. \nCette journée aura lieu à l’université de Rouen Normandie sur le site de l’UFR des Sciences et Techniques du Madrillet\, dans l’amphi D. \nExposés invités :\n\nAmaia Cardiel (Valeo.ai et LIG – Université Grenoble Alpes) (https://scholar.google.com/citations?user=QKdN4SAAAAAJ)\n\nTitre : Explaining autonomous driving systems: from Vision Classifiers to Large Language Models \nRésumé : As autonomous driving systems evolve from ‘simple’ modules (i.e.\, Vision Classifiers) to large systems (i.e.\, Large Language Models (LLMs))\, understanding their decision-making processes remains a critical challenge. Standard Vision Classifiers can be explained using ‘counterfactual explanations’\, a method that identifies minimal input perturbations to flip the predicted class\, offering insights into decision boundaries. As this approach remains local\, hard to interpret\, and ambiguous\, we introduce GIFT\, a framework designed to aggregate local counterfactuals into global\, coherent\, human-readable explanations. Crucially\, it includes a verification stage that quantitatively assesses the causal effect of each proposed hypothesis\, filtering out noise and confounding factors from driving scenes. \nTransitioning to recent LLM-based planning\, local counterfactual methods do not exist off-the-shelf. Furthermore\, relying on the native natural language explanations of LLMs for interpretability is risky\, as they can act as unfaithful rationalization of predictions. We thus propose DRIV-EX\, a method that generates valid counterfactual driving scenes that can flip an LLM’s decision. By uncovering biases\, this method demonstrates how to extend causally-grounded model auditing to the next generation of autonomous driving systems. \n\nAli Ayadi  (ICube – Université de Strasbourg)  (https://scholar.google.com/citations?user=yGn8v_kAAAAJ&hl=fr)\n\nTitre : Vers des explications contrefactuelles sémantiques : génération\, validation et enrichissement par ontologies modulaires \nRésumé : Les explications contrefactuelles constituent un moyen intuitif d’expliquer les prédictions des modèles d’intelligence artificielle\, en identifiant les changements nécessaires pour obtenir une décision ou une estimation différente. Cependant\, les contrefactuels générés automatiquement peuvent être valides du point de vue du modèle tout en étant peu plausibles\, difficilement interprétables ou incohérents avec les connaissances du domaine. Dans cette présentation\, je présenterai un pipeline de génération\, de validation et d’enrichissement sémantique d’explications contrefactuelles guidé par une ontologie modulaire. Cette ontologie comporte un module générique dédié aux propriétés attendues d’une explication contrefactuelle\, telles que la validité\, la proximité\, la parcimonie et la diversité\, ainsi qu’un module de domaine permettant de vérifier la conformité des contrefactuels avec des connaissances expertes\, des contraintes physiques ou des spécifications métier.\nL’objectif est de montrer comment l’intégration d’une ontologie dans le processus d’explication permet de produire des contrefactuels non seulement efficaces pour modifier la sortie du modèle\, mais aussi sémantiquement cohérents\, interprétables et exploitables par les experts du domaine. Cette approche ouvre la voie à des explications contrefactuelles dites sémantiques\, dans lesquelles les changements proposés sont reliés à des concepts\, contraintes et phénomènes du domaine. \n\nJules Soria (CEA LIST – Université Paris-Saclay) (https://scholar.google.com/citations?user=1Qctec0AAAAJ&hl=en)\n\nTitre :  Formal Abductive Latent Explanations for Prototype-Based Networks \nRésumé : Case-based reasoning networks are machine-learning models that make predictions based on similarity between the input and prototypical parts of training samples\, called prototypes. Such models are able to explain each decision by pointing to the prototypes that contributed the most to the final outcome. As the explanation is a core part of the prediction\, they are often qualified as « interpretable by design ». While promising\, such explanations are sometimes misleading\, which hampers their usefulness in safety-critical contexts. In particular\, several instances may lead to different predictions and yet have the same explanation. Drawing inspiration from the field of formal eXplainable AI (FXAI)\, we propose Abductive Latent Explanations (ALEs)\, a formalism to express sufficient conditions on the intermediate (latent) representation of the instance that imply the prediction. Our approach combines the inherent interpretability of case-based reasoning models and the guarantees provided by formal XAI. We propose a solver-free and scalable algorithm for generating ALEs based on three distinct paradigms\, compare them\, and present the feasibility of our approach on diverse datasets for both standard and fine-grained image classification. \nExposés GREYC/LITIS :\n\nLouis Hernandez (LITIS\, Craft AI) \n\nTitre : Activation Probing for Uncertainty-Aware Tool Routing in Agentic LLMs \nRésumé : Accurate uncertainty estimation is essential for reliable Large Language Model (LLM) agents\, yet standard confidence measures derived from output probabilities can be systematically misleading after alignment. In particular\, post-training for agentic behaviors—such as tool calling—induces a « calibration collapse » in which models are optimized to be decisive: output distributions sharpen\, and uncertainty information is effectively erased from the final softmax layer. This problem is especially acute for tool selection\, where the choice between specialized tools or raw completion is often ambiguous\, yet tool-call tokens are generated with extreme\, unwarranted confidence. We introduce ATC-Bench\, a benchmark designed to stress non-trivial tool-routing scenarios\, and show that while alignment suppresses output-layer uncertainty\, residual stream activations retain decodable signals of internal conflict. We train probes (lightweight classifiers) on these hidden states and wrap them with split conformal prediction to produce prediction sets with finite-sample coverage guarantees. On ATC-Bench\, activation-based probes recover a weak but consistent routing signal\, outperforming the strongest token-level baselines\, and conformal wrapping provides a principled abstention mechanism at negligible computational cost. These results constitute an initial step toward uncertainty-aware agentic tool routing. \n\nAugustin Diers (GREYC)\n\nTitre : Explication de l’incertitude sur de la détection d’attaques par présentation d’empreintes digitales \nRésumé : Nous proposons un cadre pour quantifier et expliquer l’incertitude des systèmes de détection d’attaques par présentation (PAD) pour empreintes digitales. La méthode combine de la Régression Quantile Conformalisée\, qui produit un intervalle de prédiction calibré mesurant l’incertitude et la méthode RISE qui génère des cartes de chaleur visualisant les régions à l’origine de cette incertitude. \n\nMariana Brito-Azevedo (GREYC/LITIS\, label Normastic)\n\nTitre : DotGreedX : une méthode d’explication locale pour les GNNs appliquée à la chémoinformatique \nRésumé : Ce travail vise à présenter une nouvelle méthode d’intelligence artificielle explicable (XAI) appliquée aux réseaux de neurones sur graphes (GNNs)\, appelée DotGreedX. Elle consiste à combiner une technique de scoring suivie d’un algorithme glouton afin d’identifier des sous-graphes d’explication de taille optimale pour chaque graphe d’entrée\, générant ainsi des explications au niveau local. Outre le fait qu’il s’agit d’une méthode sans hyperparamètres\, des mesures d’évaluation robustes sont utilisées pour garantir des explications de bonne qualité. La méthode a été évaluée dans le cadre d’applications en chémoinformatique\, à partir de 5 bases de données de graphes moléculaires. \n\nLéa Charbonnier (LITIS)\n\nTitre : Induction de concepts pour la Qualité 4.0 explicable \nRésumé : L’induction de concepts offre une approche explicable pour identifier les causes des défauts de qualité dans les systèmes industriels. En combinant couverture des données\, précision de classification et pertinence hiérarchique\, cette méthode permet d’extraire automatiquement les concepts les plus informatifs pour le diagnostic. Évaluée sur des données synthétiques de maintenance prédictive\, l’approche met en évidence avec précision les facteurs associés aux produits défectueux et fournit des explications interprétables pour l’aide à la décision. \n\nMaxime Alaarabiou (LITIS)\n\nTitre : Clustering agent representation for explaining reinforcement learning policies \nRésumé : Reinforcement learning has achieved remarkable success in developing highly effective agents. However\, the policies followed by these agents are often perceived as opaque black boxes\, offering little transparency in their decision-making processes. This lack of interpretability limits their deployment in safety-critical contexts\, particularly when human lives may be at risk. To overcome this issue\, we introduce a method based on surrogate policies that approximate the behavior of reinforcement learning agents. These surrogate policies are implemented as neural networks\, enabling the use of their latent space to identify clusters of similar states. To support rigorous evaluation\, we further propose novel metrics that assess both the stability and the interpretive relevance of these clusterings. Experiments conducted on several standard Atari environments reveal that the proposed method enhances explainability. Our approach\, based on latent-space analysis\, studies the principles underlying complex agent behavior and proposes a new method grounded in mechanistic interpretability for reinforcement learning explainability. \n\n\nProgramme (à finaliser) :\n9h30 : accueil café \n10h00 : Jules Soria : « Formal Abductive Latent Explanations for Prototype-Based Networks » \n10h50 : Pause café / discussions \n11h10 : Ali Ayadi : « Vers des explications contrefactuelles sémantiques : génération\, validation et enrichissement par ontologies modulaires » \n12:00 : Déjeuner (Plateaux Repas offerts) \n13:30 : Amaia Cardiel : « Explaining autonomous driving systems: from Vision Classifiers to Large Language Models » \n14:20 : Pause café / discussions \n14:30 – 16:30 : Exposés LITIS/GREYC et échanges \n\n14h30 : Augustin Diers\n14h50 : Mariana Brito-Azevedo\n15h10 : Louis Hernandez\n15h30 : Léa Charbonnier\n15h50 : Maxime Alaarabiou\n16h10 : Hoang Nguyen Vu\n16h20 : Conclusion de la journée\n\nComme pour toute journée d’animation de la fédération\, les frais de déplacement\, repas et pauses café des membres du GREYC et du LITIS sont pris en charge par la fédération. \nComité d’organisation de la journée (à contacter si vous souhaitez contribuer) : \n\ncaroline.petitjean@univ-rouen.fr\ncecilia.zanni-merk@insa-rouen.fr\naleite@insa-rouen.fr\nbruno.cremilleux@unicaen.fr\nsebastien.adam@univ-rouen.fr
URL:https://www.normastic.fr/event/journee-des-axes-images-systemes-complexes-dac-sur-lexplicabilite-le-26-05-2026/
LOCATION:UFR S&T – Site du Madrillet – Université de Rouen Normandie\, avenue de l'université\, Saint-Étienne-du-Rouvray\, 76801\, France
CATEGORIES:Analyse et Traitement d'Images,Données, Apprentissage, Connaissances,Systèmes Complexes
END:VEVENT
END:VCALENDAR