Ollama

Ce que fait l'outil

Ollama se présente comme un gestionnaire de modèles locaux. Une commande suffit pour récupérer un modèle, le lancer et dialoguer avec lui dans le terminal, sans compte ni clé d'accès. Derrière cette simplicité, l'outil télécharge les poids, choisit un format compatible avec la machine et expose un serveur local que d'autres programmes peuvent appeler. Un développeur peut ainsi prototyper une réponse générée sans quitter son poste, puis brancher la même adresse dans une application existante, sans réécrire la logique métier déjà en place.

L'intérêt principal tient à l'absence de dépendance à un service tiers. Les textes envoyés au modèle restent sur la machine, ce qui simplifie les discussions avec un client prudent sur la confidentialité de ses dossiers. L'outil gère aussi le passage d'un modèle à l'autre : un petit modèle pour les essais rapides, un plus gros pour la qualité, sans réinstaller d'environnement ni changer de bibliothèque. Cette souplesse explique sa présence fréquente dans les premières phases d'un projet, quand il faut vérifier un comportement avant d'arrêter une architecture.

Ce qu'il faut prévoir

Un modèle local consomme de la mémoire et du calcul. Sur un ordinateur portable récent, un modèle de taille moyenne répond, mais lentement ; sur un serveur doté d'un accélérateur graphique, le débit change nettement. Il faut donc dimensionner avant de promettre quoi que ce soit : mémoire disponible, présence ou non d'un processeur graphique, nombre d'utilisateurs simultanés. Ces trois éléments déterminent ce qui est réaliste, bien plus que la réputation du modèle choisi sur les réseaux sociaux.

La qualité obtenue n'est pas celle des grands services commerciaux sur les tâches complexes. Un modèle ouvert compact rédige correctement, résume, classe et extrait des informations, mais il peut se tromper sur un raisonnement long ou un calcul en plusieurs étapes. Le prototype sert justement à mesurer cet écart sur vos propres documents, plutôt qu'à supposer qu'il sera négligeable. Prévoir un jeu de questions réel et un temps de vérification manuelle évite les déceptions au moment de la mise en production.

Place dans une architecture

Ollama convient au poste de travail, au serveur d'atelier et aux démonstrations. Pour un usage partagé par une équipe, il faut un serveur accessible, une politique de mise à jour des modèles et un journal des appels. L'outil ne remplace pas une plateforme d'exploitation complète : pas de gestion fine des droits, de quotas par service ni de supervision intégrée. Ces briques se construisent autour, avec un reverse proxy, un annuaire et un outil de mesure des temps de réponse.

Beaucoup de projets antillais commencent par cette étape, parce qu'elle coûte peu et parle concrètement aux dirigeants. Un modèle qui tourne sur une machine du bureau rend le sujet tangible, y compris pour un comité de direction peu familier de ces questions. La décision suivante — rester en local, passer sur un serveur dédié ou basculer vers une API distante — se prend ensuite sur des faits mesurés : temps de réponse constaté, qualité obtenue, coût du matériel et contraintes de confidentialité propres au dossier traité.