Auto-hébergement

Ce que l'on rapatrie vraiment

Auto-héberger ne signifie pas entraîner son propre modèle. Dans la très grande majorité des cas, on installe un modèle ouvert, téléchargé avec ses poids, et on le sert depuis une machine que l'on contrôle. Les données envoyées dans la consigne, les documents indexés et les journaux de conversation restent alors sur le réseau de l'organisation. C'est ce déplacement du lieu de traitement, plus que le choix du modèle, qui produit l'essentiel du bénéfice attendu par une entreprise soucieuse de ses données.

Le modèle ouvert se distingue du logiciel libre classique. Les poids sont disponibles, souvent sous une licence qui impose des conditions d'usage et de mention, mais les données d'entraînement restent rarement publiées. On peut donc héberger le modèle, étudier ses performances et l'adapter à son corpus, sans pour autant connaître exactement ce qu'il a appris ni ce qu'il ignore. Cette nuance doit être dite clairement à un client qui croit acheter de la transparence complète en quittant un service américain.

Ce qu'il faut assumer

La première charge est matérielle. Un modèle de taille moyenne demande une carte graphique dotée d'une mémoire suffisante, un serveur stable, une alimentation protégée et un refroidissement adapté au climat. Aux Antilles, la chaleur, l'air salin et les coupures pèsent sur la durée de vie du matériel, ce qui impose de prévoir onduleur, pièces de rechange et local technique ventilé. Le coût d'entrée se situe donc bien au-delà du prix du serveur nu acheté en ligne.

La deuxième charge est humaine. Il faut savoir installer le moteur d'inférence, le mettre à jour, surveiller les files d'attente, gérer les sauvegardes et répondre aux incidents. Ce travail ne s'improvise pas et ne s'arrête jamais : un modèle servi en local est un service, avec ses heures de disponibilité et ses utilisateurs mécontents quand il tombe. Sous-estimer cette part est la cause la plus fréquente des projets d'auto-hébergement abandonnés au bout de quelques mois.

Le bon compromis

La plupart des organisations n'ont pas à choisir entre tout local et tout distant. Un montage courant consiste à garder sur site les documents sensibles et les traitements qui les concernent, tout en utilisant un service externe pour les tâches sans donnée confidentielle : reformulation, résumé d'articles publics, aide à la rédaction. Cette répartition se décide dossier par dossier, en fonction de la nature des informations, du volume à traiter et de la tolérance au risque de chacun.

Un autre compromis porte sur la taille du modèle. Un modèle plus petit, quantifié pour tenir sur une machine modeste, répond souvent assez bien à une tâche étroite et répétitive : extraire des champs, classer des courriels, traduire des libellés. Réserver les modèles lourds aux cas qui les exigent réellement réduit la facture matérielle et simplifie l'exploitation. La performance utile se mesure sur vos documents, jamais sur un classement général publié par un éditeur.

Quand cela se justifie

L'auto-hébergement se justifie lorsque les documents traités ne peuvent pas sortir : dossiers de santé, données de paie, contrats sous clause de confidentialité, informations relatives à des personnes vulnérables. Il se justifie aussi lorsque la liaison internet est incertaine et qu'un usage métier ne peut pas attendre le retour du réseau. Dans ces deux cas, la maîtrise du lieu de traitement n'est pas un confort, elle conditionne la possibilité même du projet.

Il se justifie mal, en revanche, pour un usage occasionnel ou une tâche sans donnée sensible. Monter un serveur, le sécuriser et l'administrer pour trois résumés par semaine coûte plus cher que l'abonnement équivalent, en argent comme en attention. La décision doit se prendre sur un calcul écrit, avec les volumes réels et le temps d'administration estimé, pas sur une préférence de principe pour le local, ni sur une méfiance générale envers les fournisseurs qui ne constitue pas un argument technique.