News

Journée de l’axe DAC

Journée de l’axe DAC

Jeudi 18 février 2021

Cette journée NormaSTIC a été consacrée aux activités de l’axe DAC autour de « graph neural networks » (réseaux neuronaux sur graphes). En bref, du deep learning sur des données de type graphe. Nous avons lancé un appel à propositions autour de cette thématique à prendre au sens large que ce soit sur son volet méthodologique ou sur des aspects liés à des domaines comme les réseaux sociaux, les graphes de connaissances, les systèmes de recommandation ou des disciplines comme les sciences de la vie.

Cette journée a eu lieu en distanciel.

Programme :

  • 9H : accueil. Diapos.
  • 9H15 : tutoriel : « An introductive tutorial to Graph Neural Networks », Benoit Gaüzère (LITIS). Abstract: This tutorial aims to introduce the problematics and basics of Graph Neural Networks to people unfamiliar with them. After expliciting the difficulties of transposing the sucesses of CNN to graphs, we will present the general message passing framework. This general framework will help to understand the fundamentals of convolutions applied to graphs and their limits. We will also discuss about the standard graph datasets emaning from the recent hype for GNN and the problem of graph generation. Slides.
  • 10H15 : « Boost then Convolve: Gradient Boosting Meets Graph Neural Networks », Sergey Ivanov (Criteo). Abstract: Graph neural networks (GNNs) are powerful models that have been successful in various graph representation learning tasks. Whereas gradient boosted decision trees (GBDT) often outperform other machine learning methods when faced with heterogeneous tabular data. But what approach should be used for graphs with tabular node features? Previous GNN models have mostly focused on networks with homogeneous sparse features and, as we show, are suboptimal in the heterogeneous setting. In this work, we propose a novel architecture that trains GBDT and GNN jointly to get the best of both worlds: the GBDT model deals with heterogeneous features, while GNN accounts for the graph structure. Our model benefits from end-to-end optimization by allowing new trees to fit the gradient updates of GNN. With an extensive experimental comparison to the leading GBDT and GNN models, we demonstrate a significant increase in performance on a variety of graphs with tabular features. Slides.
  • 11H15 : pause
  • 11H30 : « Analyzing the Expressive Power of Graph Neural Networks in a Spectral Perspective », Muhammet Balcilar (LITIS). Abstract: In the recent literature of Graph Neural Networks (GNN), the expressive power of models has been studied through their capability to distinguish if two given graphs are isomorphic or not. However, such analysis does not account the signal processing pipeline, whose capability is generally evaluated in the spectral domain. In this presentation, we argue that a spectral analysis of GNNs behavior can provide a complementary point of view to go one step further in the understanding of GNNs. Slides.
  • 12H : « Point-Cloud Signal Processing with Graph Neural Networks », Amitoz Azad (GREYC). Abstract: This presentation is devoted to signal processing on point-clouds by means of neural networks. We first demonstrate that many existing non-local variational based algorithms can be cast as Message Passing Networks, which are a particular instance of neural networks for graphs; we then investigate the interest of Graph Neural Networks (GNN) with and without supervised training. Slides.

Déjeuner

  • 14H : « Reconnaissance de gestes de la main : utilisation de réseaux profonds sur matrices symétriques définies positives », Luc Brun (GREYC). Résumé : nous présentons dans cet exposé un type de réseau encore peu connu basé sur les matrices semi-définies positives. Cestype de réseaux a l’avantage d’utiliser des données riches permettant de résumer de façon compacte des ensembles complexes de données. Toutefois, l’ensemble des matrices semi définies positives formant une variété, la difficulté de ces réseaux est de rester sur cette variété aussi bien dans la passe forward que pour le backward. Nous allons illustrer ces réseaux au travers de deux méthodes dévolues à la reconnaissance de gestes codés par le squelette de la main. Diapos.
  • 14h30 : « Méthodes de détection de communautés pour la détection de fraudes », Safa El Ayeb (GREYC & Orange Lab). Résumé : l’analyse des graphes a été fortement utilisée durant les dernières décennies. Les graphes permettent d’avoir des représentations visuelles des réseaux sociaux, les acteurs étant les sommets et leurs relations étant les liens. Le but de nos travaux est d’appliquer les méthodes d’analyse des graphes pour explorer les données de transactions d’Orange Money en se basant sur plusieurs cas d’usages. Parmi les cas d’usage définis, on peut citer : la détection de fraude, l’analyse des flux financiers et la détection des leaders. Diapos.
  • 15H : « Graph Neural Network appliqué à la détection de symbole », Guillaume Renton (LITIS).
  • 15H30 : « Forêts aléatoires et clustering sous contraintes », Simon Bernard (LITIS), retour d’un stage de master 2020 soutenu par NormaSTIC + poursuite du projet. Diapos.
  • 15H45 : « Peuplement d’Ontologie à partir de Petites Annonces », Céline Alec (GREYC), retour d’un stage de master 2020 soutenu par NormaSTIC + poursuite du projet. Résumé : cette présentation effectuera un retour sur un projet concernant une problématique de peuplement automatique d’ontologie et initié lors d’un stage de M2 soutenu par NormaSTIC. Le domaine actuellement étudié est celui des annonces immobilières. Nous décrirons la problématique ainsi que son originalité par rapport à l’état de l’art, puis nous présenterons une première réflexion sur sa résolution. Diapos.
  • 16H00 : proposition de collaboration, discussion, vie de l’axe (échange pour le montage de nouveaux projets, groupe de travail, appel à projets NormaSTIC,…)

 

Retour à la page de l’axe DAC

 

Comments are closed, but trackbacks and pingbacks are open.