Objectifs pédagogiques
- Décrire les concepts de Machine Learning et l'évolution vers le Deep Learning (réseaux de neurones profonds)
- Identifier les briques de base du Deep Learning : réseaux de neurones simples, convolutifs et récursifs
- Définir les modèles plus avancés : auto-encodeurs, GAN (Generative Adversarial Network), apprentissage par renforcement
- Utiliser les bases théoriques et pratiques d'architecture et de convergence de réseaux de neurones
- Appliquer les méthodologies de mise en place de réseaux de neurones, les points forts et les limites de ces outils.
Modalités et moyens pédagogiques
Formation délivrée en présentiel ou distanciel* (e-learning, classe virtuelle, présentiel à distance).
Le formateur alterne entre méthode** démonstrative, interrogative et active (via des travaux pratiques et/ou des mises en situation).
Variables suivant les formations, les moyens pédagogiques mis en oeuvre sont :
- Ordinateurs Mac ou PC (sauf pour les cours de l'offre Management), connexion internet fibre, tableau blanc ou paperboard, vidéoprojecteur ou écran tactile interactif (pour le distanciel)
- Environnements de formation installés sur les postes de travail ou en ligne
- Supports de cours et exercices
En cas de formation intra sur site externe à M2i, le client s'assure et s'engage également à avoir toutes les ressources matérielles pédagogiques nécessaires (équipements informatique...) au bon déroulement de l'action de formation visée conformément aux prérequis indiqués dans le programme de formation communiqué.
* nous consulter pour la faisabilité en distanciel
** ratio variable selon le cours suivi
Niveau requis
Avoir des bases en programmation et une bonne maîtrise des outils informatiques et statistiques. Connaître les bases du Machine Learning est recommandé.
Public concerné
Ingénieurs, analystes, Data Scientists, Data Analysts, Data Stewards, développeurs ainsi que toute personne intéressée par le Deep Learning et les réseaux de neurones.
Programme
Introduction au Deep Learning
- Définition et vocabulaire
- Process pour entraîner un modèle
Exemple de travaux pratiques (à titre indicatif)
- Préparation de l'environnement
Fonctionnement d'un réseau de neurones
- Rappel de bases mathématiques
- Le réseau de neurones
- Architecture, fonctions d'activation et de pondération des activations précédentes...
- L'apprentissage d'un réseau de neurones
- Fonctions de coût, backpropagation, Stochastic gradient descent...
- Modélisation d'un réseau de neurones
- Modélisation des données d'entrée et de sortie selon le type de problème
- Appréhender une fonction et une distribution par un réseau de neurones
- Data Augmentation
- Comment équilibrer un dataset ?
- Généralisation des résultats d'un réseau de neurones
- Initialisations et régularisations d'un réseau de neurones
- L1 / L2 Regularization, Batch normalization
- Optimisations et algorithmes de convergence
Gestion d'un projet de Deep Learning
- Choix des architectures existantes
- Gestion du biais-variance
- Problématique du surapprentissage
- Accélérer l'apprentissage
Deep Learning : pour quels cas ?
- Les limites du Machine Learning classique
- Quand le Deep Learning devient pertinent ?
- Quand faut-il éviter d'avoir recours au Deep Learning ?
Outils de développement du Deep Learning
- Frameworks haut niveau
- PyTorch, Keras, Lasagne
- Frameworks bas niveau
- Theano, Torch, Caffe, TensorFlow
Exemples de travaux pratiques (à titre indicatif)
- Applications et limites des outils présentés
CNN (Convolutional Neural Network)
- Présentation des CNN
- Principes fondamentaux et applications
- Les différents types de convolution
- Stride, Padding, 3D
- Les couches convolutives et les couches de pooling
- Apprentissage : la rétropropagation convolutive
Exemple de travaux pratiques (à titre indicatif)
- Utilisation de CNN dans le cadre du traitement de l'image
RNN (Recurrent Neural Network)
- Présentation des RNN
- Principes fondamentaux et applications
- Les différentes cellules neuronales
- GRU et LSTM
- Apprentissage : la rétropropagation dans le temps
Exemples de travaux pratiques (à titre indicatif)
- Entraîner et évaluer un modèle pour classifier du texte
Deep RL (Deep Reinforcement Learning)
- Les auto-encodeurs
- Représentation sémantique des mots
- Interpolation et extrapolation
Exemples de travaux pratiques (à titre indicatif)
- Deepfake, falsification et anonymisation
Le contenu de ce programme peut faire l'objet d'adaptation selon les niveaux, prérequis et besoins des apprenants.
Modalités d’évaluation des acquis
- En cours de formation, par des études de cas ou des travaux pratiques
- Et, en fin de formation, par un questionnaire d'auto-évaluation
