Fonctions de parité d’apprentissage à haute dimension avec des réseaux de produits en utilisant une descente de gradient
Date
Formats
Catégories
Contenu
Ce projet de recherche, mené conjointement par Orange Research et Télécom Paris, s’attaque à un problème fondamental de l’apprentissage automatique : apprendre des fonctions de parité (XOR) en très grande dimension à l’aide de la descente de gradient. Ces fonctions sont omniprésentes en cryptographie, en codage correcteur d’erreurs et en traitement du signal, mais restent notoirement difficiles à apprendre pour les réseaux de neurones classiques.
Le projet démontre, qu’en combinant une architecture neuronale à base de produits avec des données d’entrée éparses, il devient possible d’apprendre efficacement ces fonctions avec des garanties théoriques de convergence, y compris pour de très grandes dimensions. Ces résultats ont été acceptés à ICML 2026.
Le code source permettant de reproduire l’intégralité des expériences présentées dans la publication est disponible sur GitHub sous licence MIT.
G. Larue, L.-A. Dufrène, Q. Lampin, H. Ghauch, and G. Rekaya, Learning High-Dimensional Parity Functions with Product Networks using Gradient Descent, accepté à l’ICML 2026, arXiv:2605.28612.