Modèles et services
Llama
Famille de modèles de langage publiés par Meta, dont les poids sont diffusés et que l'on peut exécuter sur ses propres serveurs sous conditions d'usage.
Une diffusion par les poids
Meta publie depuis plusieurs années des modèles de langage sous le nom Llama, en versions de tailles différentes et en variantes spécialisées pour le dialogue ou le code. Les poids sont téléchargeables, ce qui permet de faire tourner le modèle sur un serveur que l'on contrôle, sans passer par une interface tierce. Cette possibilité a fait de la famille une base fréquente pour les déploiements privés, les expérimentations universitaires et les produits qui doivent rester dans un périmètre donné.
La diffusion des poids ne signifie pas que tout est ouvert au sens d'une licence libre. Les conditions d'utilisation accompagnent les fichiers et encadrent la redistribution, l'usage commercial et certaines applications. Une entreprise doit les lire avant de bâtir un service dessus, et conserver la version du texte applicable au moment du téléchargement. La distinction entre modèle ouvert et modèle sous conditions est souvent effacée dans les présentations commerciales, ce qui crée des surprises juridiques.
Ce que permet l'exécution locale
Exécuter un modèle chez soi change la donne sur trois points. Les données ne sortent pas du réseau de l'entreprise, ce qui simplifie l'analyse de conformité pour des informations sensibles. Le coût devient un coût de matériel et d'exploitation, indépendant du nombre d'appels. Enfin, la latence ne dépend plus d'un fournisseur distant, ce qui compte pour une connexion aux Antilles où les allers-retours vers un centre de données éloigné se ressentent sur les usages interactifs.
En contrepartie, l'entreprise assume l'exploitation : serveur, mises à jour, surveillance, sécurité, sauvegardes. Un modèle local mal configuré expose autant qu'un service distant, parfois davantage, car personne ne surveille les correctifs. Il faut aussi accepter un écart de qualité avec les grands modèles propriétaires sur les tâches complexes. Le choix se justifie par la confidentialité, la maîtrise ou le volume, rarement par la seule performance brute comparée sur des classements généraux.
Choisir une taille et une variante
Les versions se distinguent par le nombre de paramètres, la longueur de contexte, la langue et le type d'ajustement. Un modèle plus gros raisonne mieux mais consomme plus de mémoire et répond plus lentement. Un modèle ajusté pour le dialogue suivra mieux une consigne conversationnelle qu'une version de base. Le bon choix dépend de la tâche, du matériel disponible et du débit attendu, et se tranche par des essais sur des cas réels plutôt que sur des classements publiés.
La quantification, qui réduit la précision des poids, permet d'exécuter un modèle sur un matériel plus modeste au prix d'une légère perte de qualité. Les formats varient et tous les moteurs ne les acceptent pas de la même manière. Un test sur un jeu de questions représentatives reste la seule façon fiable de savoir si la perte est acceptable. Les fiches techniques donnent des ordres de grandeur, jamais une garantie pour un usage particulier.
Souveraineté et dépendance
Utiliser un modèle ouvert ne supprime pas toute dépendance. Les poids viennent d'un éditeur étranger, les conditions peuvent évoluer pour les versions suivantes, et l'écosystème d'outils est largement dominé par quelques acteurs. En revanche, l'entreprise garde la possibilité de conserver la version qu'elle utilise, de l'adapter et de changer de fournisseur de calcul. Cette réversibilité est l'argument principal dans les secteurs où la continuité de service est critique. C'est un point à vérifier dans le contrat de maintenance, pas seulement au moment de l'installation.
Pour une collectivité ou une PME antillaise, l'intérêt se situe souvent dans un usage interne : recherche documentaire, aide à la rédaction, tri de courriels, extraction d'informations. Ces tâches tolèrent un modèle de taille moyenne et un serveur unique. Elles se déploient plus vite qu'un projet de grande envergure et se mesurent avec des indicateurs simples, ce qui permet d'arrêter ou d'étendre sans engagement lourd. Le modèle n'est alors qu'une brique d'un service plus large.
En pratique
- Lire les conditions d'usage de la version téléchargée et les archiver avec les poids.
- Tester sur des questions réelles avant de comparer les tailles de modèles.
- Chiffrer le coût d'exploitation du serveur, pas seulement l'installation.
- Garder la possibilité de revenir à un fournisseur distant en cas de panne.
Voir aussi
- Modèles ouvertsDes modèles dont les poids sont téléchargeables, ce qui permet de les héberger et de les étudier soi-même.
- OllamaUn outil qui installe et fait tourner un modèle ouvert en local en une commande.
- QuantificationRéduire la précision des nombres d'un modèle pour qu'il tienne sur une machine plus modeste.
- Mistral AIUn éditeur français de modèles, dont plusieurs sont ouverts et peuvent être hébergés sur vos serveurs.