Python : Apprentissage profond par réseaux de neurones

Référence : @Python apprentissage profond par réseaux de neurones

Durée : 3 jours

Préalables

• Savoir programmer en Python
• Introduction à l’apprentissage automatique

Objectifs

• Comprendre l’apprentissage profond et ses sous-domaines.
• Se familiariser avec quelques algorithmes usuels en apprentissage profond.
• Acquérir l’expertise Choisir le bon algorithme à utiliser pour votre cas.
• Acquérir l’expertise pour analyser les résultats des algorithmes d’apprentissage automatique.

Contenu

• Concepts de bases: (Réseau pleinement connecté, couche, forward propagation)
• Fonctions de non-linéarité
• Fonctions de perte pour l’apprentissage supervisé
• Initialisation et régularisation
• Backward propagation
• Optimization et algorithmes
• Initiation à Pytorch
• Cas pratique OCR

• Motivation et concepts clés (connectivité local, partage de paramètres)
• Convolution: kernels, filters and maps
• Agrégation, downsampling et pooling
• Architectures populaires: VGG, ResNet, GoogleNet
• Prétraitement des images
• Utilisation de réseau pré-entraîné

• Motivation et concepts clés (windows size, mémoire, etc)
• Architecture des réseaux récurrents (LSTM, GRU) + loss and gradients
• Séquences discrètes: One-hot encoding et embeddings
• Application pour la classification
• Application pour la prédiction de séquence

• Autoencodeurs
• Mutual information neural Estimator
• Deep Info Max
• Contrastive Predictive coding

• Auto-encodeurs variationnels
• GANs
• Génération par renforcement
• Génération sous conditions
• Transfert de style
• Évaluation des modèles génératif

• Apprentissage multi-tâches
• Apprentissage semi-supervisé
• Apprentissage par transfert
• Débogage