Yann LeCun

Les réseaux convolutifs

Yann LeCun est connu pour avoir mis au point, dans les années quatre-vingt et quatre-vingt-dix, des réseaux de neurones capables de reconnaître des caractères manuscrits. Ces réseaux convolutifs exploitent une idée simple : un motif utile à un endroit d'une image l'est aussi ailleurs. En partageant les mêmes poids sur toute l'image, ils réduisent fortement le nombre de paramètres et gagnent en robustesse face aux décalages, aux rotations légères et aux variations d'écriture.

Cette architecture a équipé les systèmes de lecture automatique de chèques, puis une grande partie des applications industrielles de vision. Elle reste aujourd'hui la base de nombreux modèles embarqués, pour son rapport entre précision et coût de calcul. Le prix Turing, décerné avec Geoffrey Hinton et Yoshua Bengio, a consacré cet apport à l'apprentissage profond plutôt que les prises de position qui ont suivi, souvent plus commentées que ses articles. Cette économie de moyens explique pourquoi ces réseaux ont pu être déployés sur des machines modestes, à une époque où la puissance de calcul était rare.

Une critique des modèles de langage

LeCun soutient que prédire le mot suivant ne suffit pas à produire un raisonnement. Un modèle de langage manipule des symboles sans modèle du monde : il ne sait pas qu'un objet tombe, qu'un liquide coule, qu'un plan suppose une continuité entre ses parties. Cette limite expliquerait selon lui les erreurs grossières que produisent des systèmes par ailleurs convaincants sur des tâches textuelles, dès qu'on leur demande d'anticiper une conséquence physique ou spatiale.

Il défend en contrepartie des architectures qui apprennent une représentation interne de l'environnement, à partir de vidéo et d'interaction, avec un objectif de prédiction dans un espace abstrait plutôt que dans l'espace des mots. Ces travaux restent au stade de la recherche, et leur évaluation pratique n'est pas établie. Leur intérêt, pour une PME, est celui d'une direction de recherche à suivre, pas d'un produit disponible sur le marché. Il en tire une conséquence pratique : un système qui ne peut pas prévoir les effets d'une action ne peut pas planifier.

Ce que cela dit à une entreprise

La position de LeCun invite à ne pas attendre d'un modèle de langage ce qu'il ne sait pas faire : calculer juste, tenir un raisonnement long, vérifier un fait. Elle justifie les architectures où le modèle rédige et où un outil calcule, où le modèle propose et où un humain valide, où le modèle résume et où le document source reste consultable. Ce sont des choix de conception, pas des précautions de principe ajoutées en fin de projet.

Elle rappelle aussi que le débat scientifique n'est pas tranché. Des chercheurs sérieux défendent des thèses opposées sur la nature de ces systèmes, sur leur capacité à raisonner et sur leur trajectoire. Pour un dirigeant, cela signifie qu'il faut juger sur des résultats mesurés dans son propre contexte, et se méfier autant des annonces de rupture que des condamnations définitives. Les deux camps ont intérêt à exagérer ce qu'ils annoncent. Cela vaut pour les modèles comme pour ceux qui les vendent.