fr
en
Comprendre les fondements théoriques et les algorithmes du Deep Learning
Le deep learning est souvent utilisé comme une "boîte noire" via des bibliothèques de haut niveau. Pourtant, pour innover ou optimiser finement des modèles, il est crucial de comprendre ce qui se passe sous le capot. Cette formation de 2 jours propose une immersion dans les mathématiques et les algorithmes qui régissent l'apprentissage profond.
Le programme délaisse la simplicité des abstractions pour revenir aux fondamentaux : calcul matriciel, descente de gradient et rétropropagation (backpropagation). Vous apprendrez à implémenter un réseau de neurones "from scratch" en Python, sans framework, pour saisir la mécanique intime de l'apprentissage.
Vous progresserez ensuite vers les architectures modernes (CNN, RNN) et les stratégies d'optimisation (Adam, RMSProp). Cette approche, alliant rigueur théorique et implémentation pratique, vous donnera les clés pour diagnostiquer, ajuster et concevoir des modèles performants avec une réelle maîtrise technique.
Objectifs
À l’issue de cette formation, vous atteindrez les objectifs de compétences suivants :
- expliquer les bases mathématiques du Deep Learning (algèbre linéaire, dérivée et gradient) ;
- maîtriser les mécanismes de propagation avant et de rétropropagation (backpropagation) ;
- implémenter manuellement des algorithmes d'optimisation (SGD, Adam) et comprendre leurs hyperparamètres ;
- distinguer et appliquer les architectures de réseaux de neurones (MLP, CNN, RNN) selon les données ;
- évaluer la performance des modèles et corriger les problèmes de surapprentissage ou de sous-apprentissage.
Programme
Jour 1 : Maîtriser les fondements théoriques et les algorithmes de base
- Les bases mathématiques : vecteurs, matrices, produit scalaire et fonctions d'activation (Sigmoid, ReLU).
- La mécanique de l'apprentissage : fonction de coût, propagation avant et calcul des gradients (rétropropagation).
- Les algorithmes d'optimisation : descente de gradient, Momentum, RMSProp et Adam.
Travaux pratiques
- Calculer manuellement une propagation et implémenter un réseau de neurones simple en Python pur (sans framework).
Jour 2 : Explorer les architectures avancées et appliquer les bonnes pratiques
- Les architectures spécialisées : Réseaux convolutifs (CNN) pour l'image et Récurrents (RNN/LSTM) pour les séquences.
- L'entraînement et l'évaluation : gestion de l'overfitting, validation croisée et métriques de performance.
- Les bonnes pratiques : initialisation des poids, normalisation et ouverture vers les Transformers.
Travaux pratiques
- Implémenter un CNN pour la classification d'images (avec Keras ou PyTorch) et ajuster les hyperparamètres pour optimiser la performance.
Prérequis
Suivre cette formation nécessite les prérequis suivants :
- Compétences techniques : des connaissances de base en Python sont indispensables.
- Socle théorique : des notions en Machine Learning et statistiques, ainsi qu'une familiarité avec le concept de réseau de neurones, sont souhaitées.
Public
Cette formation s’adresse aux profils désirant ouvrir la "boîte noire" du Deep Learning. Le public inclut notamment :
- les Data Scientists et Data Engineers qui veulent dépasser l'utilisation superficielle des bibliothèques pour gagner en expertise ;
- les chercheurs et enseignants en IA qui ont besoin de maîtriser les fondements mathématiques pour leurs travaux ;
- les développeurs confirmés qui souhaitent se spécialiser dans l'implémentation d'algorithmes complexes ;
- les étudiants en intelligence artificielle qui cherchent à consolider leurs bases théoriques par la pratique.
Points forts
- Approche "From Scratch" : vous coderez les algorithmes à la main (en Python pur) pour une compréhension inégalée des mécanismes internes.
- Rigueur scientifique : vous aborderez le Deep Learning par ses fondements mathématiques, garantissant une compétence durable, peu importe les modes technologiques.
- Vision architecturale : vous comprendrez non seulement comment ça marche, mais pourquoi certaines architectures (CNN, RNN) sont adaptées à certains problèmes.
- Pratique intensive : chaque concept théorique est immédiatement validé par une implémentation ou un calcul pratique.
Objectifs
À l’issue de cette formation, vous atteindrez les objectifs de compétences suivants :
- expliquer les bases mathématiques du Deep Learning (algèbre linéaire, dérivée et gradient) ;
- maîtriser les mécanismes de propagation avant et de rétropropagation (backpropagation) ;
- implémenter manuellement des algorithmes d'optimisation (SGD, Adam) et comprendre leurs hyperparamètres ;
- distinguer et appliquer les architectures de réseaux de neurones (MLP, CNN, RNN) selon les données ;
- évaluer la performance des modèles et corriger les problèmes de surapprentissage ou de sous-apprentissage.
Programme
Jour 1 : Maîtriser les fondements théoriques et les algorithmes de base
- Les bases mathématiques : vecteurs, matrices, produit scalaire et fonctions d'activation (Sigmoid, ReLU).
- La mécanique de l'apprentissage : fonction de coût, propagation avant et calcul des gradients (rétropropagation).
- Les algorithmes d'optimisation : descente de gradient, Momentum, RMSProp et Adam.
Travaux pratiques
- Calculer manuellement une propagation et implémenter un réseau de neurones simple en Python pur (sans framework).
Jour 2 : Explorer les architectures avancées et appliquer les bonnes pratiques
- Les architectures spécialisées : Réseaux convolutifs (CNN) pour l'image et Récurrents (RNN/LSTM) pour les séquences.
- L'entraînement et l'évaluation : gestion de l'overfitting, validation croisée et métriques de performance.
- Les bonnes pratiques : initialisation des poids, normalisation et ouverture vers les Transformers.
Travaux pratiques
- Implémenter un CNN pour la classification d'images (avec Keras ou PyTorch) et ajuster les hyperparamètres pour optimiser la performance.
Prérequis
Suivre cette formation nécessite les prérequis suivants :
- Compétences techniques : des connaissances de base en Python sont indispensables.
- Socle théorique : des notions en Machine Learning et statistiques, ainsi qu'une familiarité avec le concept de réseau de neurones, sont souhaitées.
Public
Cette formation s’adresse aux profils désirant ouvrir la "boîte noire" du Deep Learning. Le public inclut notamment :
- les Data Scientists et Data Engineers qui veulent dépasser l'utilisation superficielle des bibliothèques pour gagner en expertise ;
- les chercheurs et enseignants en IA qui ont besoin de maîtriser les fondements mathématiques pour leurs travaux ;
- les développeurs confirmés qui souhaitent se spécialiser dans l'implémentation d'algorithmes complexes ;
- les étudiants en intelligence artificielle qui cherchent à consolider leurs bases théoriques par la pratique.
Points forts
- Approche "From Scratch" : vous coderez les algorithmes à la main (en Python pur) pour une compréhension inégalée des mécanismes internes.
- Rigueur scientifique : vous aborderez le Deep Learning par ses fondements mathématiques, garantissant une compétence durable, peu importe les modes technologiques.
- Vision architecturale : vous comprendrez non seulement comment ça marche, mais pourquoi certaines architectures (CNN, RNN) sont adaptées à certains problèmes.
- Pratique intensive : chaque concept théorique est immédiatement validé par une implémentation ou un calcul pratique.
Les noms de marques et logos éventuellement cités dans cette fiche (ex. Python, Keras, PyTorch) sont la propriété de leurs détenteurs respectifs. Leur mention à des fins pédagogiques ne constitue ni un engagement ni un partenariat.