FFCNCERCERXBD32
Stage inter entreprise
Durée :
4 jour(s)
Présentation
L’apprentissage profond a transformé la manière dont les données complexes, qu’il s’agisse d’images, de signaux, de texte ou de séries de mesures sont analysées et modélisées. Cette formation part des fondements du perceptron multicouche pour aborder de façon concrète les techniques qui ont rendu l’apprentissage profond praticable le tout mis en oeuvre dans les frameworks de référence.
La formation explore ensuite les grandes familles d’architectures adaptées aux différentes structures de données. Les réseaux récurrents (LSTM, GRU) traitent les séquences et les dépendances temporelles, tandis que les mécanismes d’attention ont ouvert la voie aux modèles récents. Les réseaux convolutifs, quant à eux, se sont imposés pour l’analyse d’images et au-delà.
Enfin, la formation aborde les modèles génératifs (auto-encodeurs variationnels (VAE), réseaux antagonistes (GAN) et modèles de diffusion) qui ne se contentent plus de classer ou de prédire, mais apprennent à produire de nouvelles données réalistes.
Objectifs
- Décrire les fondements de l’apprentissage profond, du perceptron multicouche aux architectures profondes, et le mécanisme de rétropropagation du gradient
- Identifier les grandes familles d’architectures neuronales et choisir celle qui convient à la structure des données traitées
- Mettre en oeuvre les techniques qui rendent l’entraînement pratci able
- Implémenter et entraîner des réseaux de neurones à l’aide des frameworks de référence
- Expliquer les modèles génératifs récents (VAE, GAN, modèles de diffusion) et les principes de la génération de données
-
Programme
Introduction
Perceptron multicouche
- Histoire de l’apprentissage profond
- Perceptron, régression logistique
- Règle de dérivation en chaîne et rétropropagation
- Réseaux de neurones
- Réseaux de neurones profonds
- Graphe de calcul et frameworks (PyTorch, TensorFlow, Keras)
- Fonctions d’activation, disparition du gradient
- Initialisation, régularisation
- Variantes de la descente de gradient
- Normalisation par lots (batch normalization)
- TP
Réseaux de neurones récurrents
- RNN simple
- Propagation avant
- Rétropropagation à travers le temps
- Disparition / explosion du gradient
- Unités à portes (LSTM, GRU)
- Architectures : plusieurs-à-plusieurs, plusieurs-à-un, un-à-plusieurs
- Séquence-à-séquence
- Modèle d’attention
- TP
Réseaux de neurones convolutifs
- Descente de gradient stochastique
- Régularisation
- Prétraitement des données d’entrée
- L’opération de convolution
- Complexité d’une couche de réseau de neurones
- Champ récepteur
- Architectures et jeux de données
- L’essor de l’apprentissage semi‑supervisé
VAE, GAN et modèles de diffusion
- Modèles de diffusion
- Modélisation générative par diffusion
- Transition inverse
- Apprentissage des DDPM via une ELBO (borne inférieure de l’évidence)
- Estimateur MMSE gaussien et débruitage fondé sur le score
- Échantillonnage DDPM
Synthèse et conclusion
-
Modalités pédagogiques
La formation comprend des travaux pratiques qui permettent d’appliquer les notions théoriques abordées.
-
Public cible et prérequis
Ingénieurs, chefs de projet ayant de bonnes connaissances en mathématiques (probabilités, optimisation) et une expérience significative en programmation et souhaitant développer leurs compétences dans le domaine de l’intelligence artificielle.
-
Responsables
Geoffroy PEETERS
Enseignant-chercheur au sein du département Image, Données et Signal de Télécom Paris. Ses recherches portent sur le traitement du signal et l'apprentissage machine appliqué à la modification et à la description des signaux audio (parole, musique, sons environnementaux).
Prochaine(s) session(s)
- Du 22/06/2027 au 25/06/2027 à Paris
- Du 02/11/2027 au 05/11/2027 à Paris
