COMMENT LES MACHINES APPRENNENT ?
Une introduction au Machine Learning
1
DE QUOI PARLE-T-ON ?
➤ Intelligence artificielle (IA/AI)
➤ Machine Learning / Apprentissage automatique
➤ Deep Learning / Réseaux de neurones
2
3
PLAN
➤
I. Une histoire d’algorithmes et de données
➤
II. Le machine learning
➤
III. Le deep learning
➤
IV. Quelques applications
4
I. UNE HISTOIRE D’ALGORITHMES ET DE DONNÉES
5
QUELQUES DÉFINITIONS
6
L’INTELLIGENCE ARTIFICIELLE
« la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus
« satisfaisante par des êtres humains car elles
demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique »
Marvin Minsky
7
LES ALGORITHMES
Un algorithme est une suite d'instructions permettant d'obtenir un résultat.
Peut-on trouver un algorithme pour :
➤ faire cuire des pâtes ?
➤ trouver son chemin dans une ville ?
➤ reconnaître un chat dans une image ?
➤ gagner une partie à Starcraft II ?
8
Publicité
UNE IDÉE : APPRENDRE À PARTIR D’EXEMPLES
➤ Souvent, on ne sait pas définir le bon algorithme, mais on a
des exemples (données).
9
EXPLOSION DU VOLUME DE DONNÉES
10
11
QU’EST-CE QUI GÉNÈRE DES DONNÉES ?
➤ Activités humaines :
➤ volontaires : réseaux sociaux, emails, géolocalisation,
podomètres, séquençage ADN…
➤ moins volontaires : cookies sur les sites web,
vidéosurveillance, biométrie…
➤ Processus automatiques : capteurs, transactions boursières,
logs sur les serveurs…
12
II. LE MACHINE LEARNING
13
LE MACHINE LEARNING
l’étude scientifique des algorithmes et des modèles statistiques que les ordinateurs utilisent pour accomplir une
«
tâche sans instruction explicite, mais plutôt en s’appuyant sur des motifs et de l’inférence.
14
TROIS MODES D’APPRENTISSAGE
➤ l’apprentissage supervisé
➤ l’apprentissage non supervisé
➤ l’apprentissage par renforcement
15
APPRENTISSAGE SUPERVISÉ
➤ apprendre une fonction de prédiction à partir d’ exemples
annotés
➤ deux grandes tâches :
16
EXEMPLES
classification régression
17
AVANTAGES
Publicité
➤ Très efficace quand on a suffisamment de données ;
➤ Plus performant que l’homme pour certains problèmes.
INCONVÉNIENTS
➤ Il faut beaucoup de données ;
➤ Les données doivent être annotées .
18
LE TURC MÉCANIQUE
19
20
APPRENTISSAGE NON SUPERVISÉ
➤ Regrouper des données similaires, mais sans annotation .
➤
21
22
APPRENTISSAGE PAR RENFORCEMENT
L' apprentissage par renforcement consiste, pour un agent autonome, à apprendre les actions à prendre, à partir d'expériences, de façon à optimiser une récompense au cours du temps.
➤ imiter la façon dont les animaux ou les humains
apprennent
23
LA SOURIS, LE FROMAGE ET LE POISON
Récompense +1 si la souris passe par une case rouge (fromage)
Pénalité -1 si la souris passe par une case bleue (poison)
(V. Lepetit, CentraleSupelec)
24
AVANT APPRENTISSAGE
25
APRÈS APPRENTISSAGE
26
15 MARS 2016 : ALPHA GO BAT LE CHAMPION LEE SEDOL
27
24 JANVIER 2019 : ALPHASTAR GAGNE 10-1 À STARCRAFT II
28
III. LE DEEP LEARNING
29
COMMENT ÇA FONCTIONNE ?
Apprentissage supervisé
30
Publicité
QUELQUES TECHNIQUES
➤ Algorithmes d’apprentissage supervisé :
➤ régression linéaire
➤ méthodes à noyaux
➤ machine à support de vecteurs
➤ forêts aléatoires
➤ réseaux de neurones
➤ …
31
LES RÉSEAUX DE NEURONES ARTIFICIELS
32
UN NEURONE : LE PERCEPTRON (1956)
33
RÉSEAUX DE NEURONES PROFONDS…
34
… TRÈS PROFONDS
Google Inception v3 : 48 couches
35
RÉSEAUX DE NEURONES VS DEEP LEARNING
36
PROCESSUS D’APPRENTISSAGE
➤ Poids modifiés en fonction des erreurs
37
CAPACITÉS DE CALCUL
En 1957
38
CAPACITÉS DE CALCUL
➤ GPU (Graphics Processing Unit) : processeur conçu pour la
manipulation de matrices, à l’origine pour le jeu vidéo
➤ Miniaturisation
Tesla P100 : $10 000 Movidius Neural Compute Stick : $79
39
OUTILS OPEN SOURCE
IV. QUELQUES APPLICATIONS
41
POUR LA VISION ARTIFICIELLE
AlexNet vainqueur du challenge ImageNet 2012
Publicité
42
POUR LA VISION ARTIFICIELLE
43 Facebook Detectron, janvier 2018
POUR LA VISION ARTIFICIELLE
https://www.youtube.com/watch?v=VOC3huqHrss 44
POUR LA VISION ARTIFICIELLE
45
POUR LA VISION ARTIFICIELLE
POUR LA VISION ARTIFICIELLE
47
POUR LA RECONNAISSANCE DU TEXTE ET DE LA PAROLE
POUR LA PERSONNALISATION
➤ Apprendre nos comportements et nos préférences
➤ Recommandations : Netflix, Amazon…
➤ Publicités sur Internet
➤
49
POUR LA ROBOTIQUE
POUR LA GÉNÉRATION DE DONNÉES
➤ GAN : Generative Adversarial Networks
51
POUR LA GÉNÉRATION DE DONNÉES
CycleGAN, UC Berkeley 2017
52
POUR LA GÉNÉRATION DE DONNÉES
NVIDIA AI Generated Faces (décembre 2018)
53
POUR L’ART ?
54
CONCLUSION
➤ Domaine ancien qui a connu d’énormes progrès depuis une
dizaine d’années
➤ Ce n’est pas de la magie !
➤ Aujourd’hui dominé par Facebook & Google, mais qui
intéresse des chercheurs et des entreprises du monde entier (US, Canada, Chine, Inde, Russie, Europe…)
55