← Back to Courses

Deep Learning et Intelligence Artificielle

Du deep learning en machine learning supervisée aux architectures complexes de type Transformers

Deep Learning et Intelligence Artificielle

Plan du cours

Introduction au machine learning

  • classification vs régression
  • calcul de sqrt(2), erreur, fonction de cout
  • régression linéaire et régression logistique
  • stochastic gradient descent
  • biais et overfitting

Le perceptron

  • le perceptron (1957)
  • fonctions d'activation
  • perceptron multicouche
  • backpropagation
  • exploding et vanishing gradients
  • réseaux de neurones feedforward
  • regularization et dropout
  • Keras, Tensorflow, Pytorch

Réseaux de neurones à convolution

  • convolution
  • pooling
  • normalization

Transfer Learning

Réutilisation de modèles pré-entraînés pour améliorer l'apprentissage sur de nouvelles tâches

Réseaux de neurones récurrents

  • RNN
  • LSTM
  • GRU

Attention and Transformers

VAE - variational autoencoder

  • Compresse des données complexes (images, texte, etc.) en une représentation latente continue et structurée.
  • Génère de nouveaux exemples similaires en échantillonnant depuis cette représentation latente

Use cases: Génération d'images réalistes, Interpolation entre exemples, Détection d'anomalies

Comme dit CLaude:

Contrairement à un autoencoder classique, le VAE ajoute une régularisation probabiliste (divergence KL) qui force l'espace latent à suivre une distribution normale, ce qui le rend "explorable" pour générer de nouvelles données cohérentes. 🤣🤣🤣

GANs - Generative Adversarial Networks

Deux réseaux en compétition :

  • Générateur : crée des images fake à partir de bruit aléatoire
  • Discriminateur : apprend à distinguer fake vs réel

Le générateur s'améliore pour tromper le discriminateur, qui s'améliore pour détecter les fakes. Cette compétition produit des images de plus en plus réalistes.

  • Résultat : génération d'images très haute qualité et photréalistes (visages, paysages, etc.)
  • Applications : deepfakes, synthèse d'images, style transfer, super-résolution...

Diffusion models

  • Modèles génératifs qui créent des images en inversant un processus de bruit.
  • DALL-E 3, Midjourney, Stable Diffusion - text-to-image - Imagen

Reinforcement Learning (RL)

  • Un agent apprend par essai-erreur en interagissant avec un environnement, guidé par des récompenses.
  • Jeux (AlphaGo, jeux vidéo), Robotique (apprentissage moteur), Recommandation (optimiser engagement), Contrôle (thermostat, drones)

Evaluation

à definir

  • projet final
  • quiz