Traitement par lots

Deux régimes de service

Un service de modèle peut être appelé de deux façons. En temps réel, chaque demande attend sa réponse : c'est ce qu'il faut pour un assistant, une recherche ou un formulaire. En différé, les demandes sont déposées, traitées par groupes, et les résultats sont récupérés plus tard, souvent par un fichier de retour. Le second mode accepte une latence de plusieurs heures parce que la contrainte n'est plus l'interactivité mais le volume traité et le coût unitaire.

Les fournisseurs proposent généralement une remise sur ce mode, en échange d'une fenêtre de livraison annoncée. La remise n'est pas un avantage commercial isolé : elle reflète un meilleur remplissage des machines, qui tournent sur des lots complets plutôt que sur des requêtes isolées, séparées par des temps d'attente. Pour une entreprise, cela déplace le sujet du prix vers celui de la planification : il faut accepter de ne pas savoir le soir ce qui sera disponible le lendemain matin.

Ce qu'il permet, ce qu'il interdit

Le lot convient aux traitements sans urgence : classer un fonds d'archives, résumer un ensemble de comptes rendus, extraire des champs de factures, traduire une documentation, produire des fiches à partir d'un catalogue. Il suppose que le résultat peut être relu plus tard et que l'erreur sur une pièce isolée n'a pas de conséquence immédiate. Un devis à envoyer dans l'heure, une réponse à un client mécontent, une relance commerciale attendue n'entrent pas dans ce cadre. Le critère est simple : si personne ne peut attendre le lendemain matin, ce n'est pas le bon outil.

Il interdit en revanche tout usage conversationnel et toute étape qui dépend d'un aller-retour avec un humain. Un agent qui doit vérifier, demander une précision et reprendre ne fonctionne pas en différé. Le lot suppose un flux linéaire : une entrée, une sortie, pas de négociation intermédiaire ni de correction en cours de route. C'est une contrainte de conception à constater tôt, avant d'écrire le pipeline et de découvrir qu'il faudra le scinder en deux.

Construire un lot fiable

Un lot se prépare comme une chaîne de production. Chaque demande reçoit un identifiant stable, la réponse est journalisée avec la consigne exacte et la version du modèle, et les échecs sont isolés sans bloquer le reste du flux. Sans ce suivi, une erreur de format découverte sur mille pièces devient impossible à corriger, car on ne sait plus quelle sortie correspond à quelle entrée, ni avec quelle version du modèle elle a été produite.

La reprise partielle compte autant que le débit. Un lot interrompu doit pouvoir reprendre au dernier identifiant traité, sans refacturer ce qui est déjà fait ni dupliquer les écritures dans le logiciel de destination. Sur les volumes importants, un contrôle par échantillonnage, avec relecture humaine d'une petite série, suffit souvent à détecter une dérive de qualité avant de valider l'ensemble. Le coût de ce contrôle reste modeste au regard du risque d'un lot entier à refaire. Un rapport de fin de lot, avec pièces traitées et échecs, vaut mieux qu'une surveillance en temps réel.