Comment les machines apprennent ?

Cette conférence propose une introduction au machine learning, ou apprentissage automatique, en situant cette discipline dans le cadre plus large de l'intelligence artificielle. Elle aborde l'évolution des algorithmes et des données, les différents types d'apprentissage, les réseaux de neurones profonds, ainsi que quelques applications concrètes.

Une histoire d’algorithmes et de données

L’intelligence artificielle (IA) peut se définir comme la construction de programmes informatiques capables d’accomplir des tâches qui nécessitent habituellement des processus mentaux complexes, tels que l’apprentissage perceptuel, l’organisation de la mémoire ou le raisonnement critique. Cette définition, proposée par Marvin Minsky, souligne que l’IA cherche à reproduire des capacités humaines élevées.

Un algorithme est une suite d’instructions permettant d’obtenir un résultat précis. Cependant, pour certaines tâches complexes, comme reconnaître un chat dans une image ou gagner à un jeu vidéo comme Starcraft II, il est difficile de définir un algorithme explicite. Dans ces cas, une idée clé est d’apprendre à partir d’exemples, c’est-à-dire d’utiliser des données pour construire des modèles capables de réaliser la tâche.

Le volume de données disponibles a explosé ces dernières années. Ces données proviennent de diverses sources : activités humaines volontaires (réseaux sociaux, emails, géolocalisation, séquençage ADN), activités moins volontaires (cookies, vidéosurveillance, biométrie), et processus automatiques (capteurs, transactions boursières, logs de serveurs). Cette abondance de données est un moteur essentiel du développement du machine learning.

Le machine learning

Le machine learning est l’étude scientifique des algorithmes et des modèles statistiques que les ordinateurs utilisent pour accomplir une tâche sans instruction explicite, mais en s’appuyant sur des motifs et de l’inférence.

On distingue trois modes principaux d’apprentissage :

• Apprentissage supervisé : apprendre une fonction de prédiction à partir d’exemples annotés. Les tâches principales sont la classification (attribuer une catégorie) et la régression (prédire une valeur continue).
• Apprentissage non supervisé : regrouper des données similaires sans annotations, ce qui est un problème plus difficile.
• Apprentissage par renforcement : un agent autonome apprend à prendre des actions à partir d’expériences, afin d’optimiser une récompense au fil du temps, imitant ainsi la façon dont les animaux ou les humains apprennent.

Par exemple, dans un jeu où une souris doit atteindre un fromage tout en évitant du poison, la souris reçoit une récompense de +1 lorsqu’elle passe par une case rouge (fromage) et une pénalité de -1 lorsqu’elle passe par une case bleue (poison). L’agent apprend ainsi à maximiser sa récompense en choisissant les bonnes actions.

L’apprentissage supervisé est très efficace lorsqu’on dispose de suffisamment de données annotées, et peut surpasser les performances humaines dans certains domaines. Cependant, il nécessite un grand volume de données et un travail d’annotation souvent coûteux.

Le deep learning et les réseaux de neurones

Le deep learning est une sous-catégorie du machine learning qui utilise des réseaux de neurones artificiels profonds, inspirés du fonctionnement du cerveau humain. Ces réseaux sont composés de plusieurs couches de neurones, permettant de modéliser des fonctions complexes.

Un neurone artificiel simple, appelé perceptron, a été proposé en 1956. Depuis, les architectures se sont complexifiées, avec des réseaux très profonds comme Google Inception v3, qui comporte 48 couches.

Le processus d’apprentissage consiste à modifier les poids des connexions entre neurones en fonction des erreurs commises, afin d’améliorer progressivement la performance du modèle.

Les progrès récents ont été possibles grâce à l’augmentation des capacités de calcul, notamment avec l’utilisation des GPU (Graphics Processing Units), initialement conçus pour les jeux vidéo, mais très efficaces pour la manipulation de matrices. Ces processeurs sont devenus plus accessibles et miniaturisés, avec des exemples comme la Tesla P100 ou le Movidius Neural Compute Stick.

Parmi les techniques d’apprentissage supervisé, on trouve la régression linéaire, les méthodes à noyaux, les machines à support de vecteurs, les forêts aléatoires, ainsi que les réseaux de neurones.

Quelques applications du machine learning

Le machine learning est utilisé dans de nombreux domaines :

• Vision artificielle : des systèmes comme AlexNet, vainqueur du challenge ImageNet en 2012, ou Facebook Detectron, permettent la reconnaissance d’images et d’objets.
• Reconnaissance du texte et de la parole : des assistants vocaux comme Siri ou des outils de traduction automatique comme Google Traduction reposent sur ces technologies.
• Personnalisation : les systèmes apprennent nos comportements et préférences pour proposer des recommandations sur Netflix, Amazon, ou pour cibler des publicités en ligne, ainsi que pour la médecine personnalisée.
• Robotique : les machines apprennent à interagir avec leur environnement.
• Génération de données : les réseaux antagonistes génératifs (GAN) permettent de créer des images, des visages artificiels ou des œuvres d’art, comme le CycleGAN développé à l’Université de Californie Berkeley ou les visages générés par NVIDIA.

Points clés

• L’intelligence artificielle vise à automatiser des tâches complexes nécessitant des capacités humaines élevées.
• Le machine learning utilise des données pour apprendre des modèles sans programmation explicite.
• Il existe trois types d’apprentissage : supervisé, non supervisé et par renforcement.
• Le deep learning repose sur des réseaux de neurones profonds capables de modéliser des fonctions complexes.
• Les progrès récents sont liés à l’augmentation des capacités de calcul et à la disponibilité massive de données.
• Les applications couvrent la vision artificielle, la reconnaissance vocale, la personnalisation, la robotique et la génération de contenu.