Techniques
Température
Paramètre qui règle l'ampleur du hasard dans le choix du token suivant, rendant la réponse reproductible ou variée pour un même prompt et un même modèle.
Ce que le réglage change
À chaque étape, le modèle calcule une probabilité pour chaque token possible. La température agit sur cette distribution avant le tirage : une valeur basse concentre le choix sur les tokens les plus probables, une valeur haute aplatit la distribution et laisse une chance à des tokens moins attendus. Le modèle ne devient pas plus intelligent, il devient plus ou moins aventureux dans sa formulation, et cette nuance suffit à changer fortement le résultat perçu. Deux appels identiques ne produisent donc jamais exactement le même texte, sauf réglage explicite.
L'effet se voit surtout sur les tâches ouvertes. À basse température, deux appels donnent des réponses très proches, ce qui convient à une extraction de données ou à un résumé structuré. À température plus élevée, les variantes se multiplient : utile pour produire des idées, risqué pour respecter un format, un montant ou une référence exacte. La valeur pertinente dépend donc de la tâche, jamais d'un réglage universel. Un même prompt peut ainsi donner un résumé fidèle ou une reformulation approximative selon le seul curseur.
Le combiner avec d'autres filtres
La température n'agit pas seule. Le paramètre top_p limite le tirage aux tokens dont les probabilités cumulées atteignent un seuil, et top_k restreint le choix aux k tokens les plus probables. Les deux filtrent l'ensemble des candidats avant le tirage, ce qui produit un effet voisin mais distinct. Utiliser simultanément une température haute et un top_p large revient à ouvrir grand les deux portes, ce qui rend les sorties instables. Les fournisseurs ne documentent pas toujours l'interaction entre ces paramètres, ce qui impose de tester soi-même.
Les API exposent aussi des pénalités de répétition, qui découragent le retour des mêmes tokens, et parfois une graine aléatoire qui rend un appel reproductible. Pour des tests comparatifs, fixer la graine et la température est indispensable : sans cela, deux exécutions du même prompt ne mesurent pas la même chose et les écarts observés ne veulent rien dire. Cette discipline de mesure manque souvent dans les comparaisons de modèles publiées en interne.
Régler par usage
La règle pratique consiste à partir bas et à monter seulement si le résultat est trop pauvre. Un agent qui remplit un formulaire, extrait un montant ou applique une consigne de style doit rester sur une valeur faible, car l'imprévu n'a aucune valeur dans ce contexte. Un générateur d'idées, de slogans ou de variantes de texte supporte une valeur plus haute, à condition qu'un humain sélectionne ensuite parmi les propositions produites. Un test comparatif sur vos propres cas vaut mieux qu'un réglage recopié d'un tutoriel.
Le réglage se documente avec le prompt et la version du modèle. Un changement de modèle modifie la distribution des tokens, et donc l'effet d'une même température : ce qui fonctionnait avec un fournisseur peut devenir incohérent avec un autre. Pour un usage en production, la température fait partie de la configuration testée et versionnée, pas d'un curseur laissé à l'appréciation de chaque utilisateur au fil des essais. Changer de modèle sans revoir ces valeurs produit des écarts que l'on attribue à tort à la qualité du fournisseur.
En pratique
- Restez sur une valeur basse pour toute extraction, tout calcul et tout format imposé.
- N'ouvrez la température que pour des tâches créatives avec sélection humaine derrière.
- Ne combinez pas température haute et top_p large : l'instabilité devient incontrôlable.
- Figez température et graine pendant les tests, sinon les comparaisons ne valent rien.
Voir aussi
- PromptLa consigne donnée au modèle : rôle, tâche, contexte, format attendu.
- HallucinationUne affirmation fausse énoncée avec aplomb, produite parce que le modèle complète au lieu de vérifier.
- InférenceLe moment où le modèle répond : c'est la phase qui coûte à chaque usage, pas une fois pour toutes.
- LLMUn grand modèle de langage : un réseau entraîné à prédire le mot suivant sur des milliards de phrases.