IA embarquée

Ce qui change sur le terrain

Faire tourner le modèle sur l'appareil supprime l'aller-retour vers un serveur. La réponse arrive sans latence réseau, fonctionne hors connexion et reste sur place. Pour un chantier, un navire, un site isolé ou une zone mal couverte, la différence est décisive : un contrôle qui exige le réseau n'est pas un contrôle disponible. La confidentialité y gagne aussi, puisque l'image ou le texte ne quitte pas l'appareil. Un dispositif qui dépend du réseau tombe en panne au moment précis où l'on a besoin de lui.

Ces qualités expliquent l'intérêt pour la maintenance prédictive, le tri de photos, la lecture de compteurs ou l'assistance en atelier. Le modèle embarqué ne raisonne pas longtemps : il classe, détecte, transcrit, reconnaît. Les tâches visées sont étroites et répétitives, ce qui les rend justement compatibles avec les ressources d'un téléphone, d'une caméra ou d'un boîtier de taille modeste. Cette étroitesse est une condition de réussite : un modèle spécialisé bat souvent un modèle généraliste sur son terrain.

Comment un modèle tient dans l'appareil

Un modèle de grande taille ne tient pas dans un téléphone. On réduit donc la précision des nombres, par quantification, on distille un grand modèle dans un plus petit, on choisit une architecture adaptée à la tâche. Ces opérations font perdre de la finesse, parfois beaucoup sur les cas rares. Le réglage consiste à trouver le point où la perte reste acceptable pour l'usage réel, et non pour un classement général.

Le matériel impose ses contraintes : mémoire disponible, capacité de calcul spécialisé, chaleur, batterie. Un boîtier industriel et un téléphone récent n'offrent pas les mêmes marges, et un modèle qui fonctionne en démonstration peut ralentir en usage continu. Les mises à jour posent enfin un problème d'échelle : remplacer un modèle sur un parc de capteurs dispersés demande une infrastructure que l'on oublie souvent de chiffrer. Un modèle qui chauffe ralentit, et un boîtier mal ventilé ne tient pas une journée de production.

Ce que l'on ne peut pas lui demander

Un modèle embarqué ne connaît pas l'actualité et ne suit pas un catalogue qui change. Il ne faut pas lui demander une réponse documentée, une comparaison de textes longs ou un raisonnement en plusieurs étapes. Sa force est la décision locale, immédiate, sur des données qu'il a apprises à reconnaître. Dès que la question exige un contexte à jour, il faut un serveur, même intermittent. Un modèle figé peut aussi devenir obsolète sans que rien ne le signale, faute de mesure sur les données réellement rencontrées.

La conception réaliste est hybride. L'appareil traite ce qui doit être immédiat et local ; le serveur reprend la main pour l'enrichissement, la consolidation et les cas douteux. Cette répartition se décide par usage : ce qui reste sur l'appareil, ce qui remonte, sous quelle forme, avec quel consentement. Un projet embarqué qui néglige cette carte des flux se heurte tôt ou tard à une objection légitime. Cette carte se discute avec le responsable métier, car elle engage des choix d'organisation.