GPU

Du jeu vidéo au calcul neuronal

Un processeur graphique a été conçu pour afficher des images : calculer la couleur de millions de pixels, en même temps, avec des opérations simples. Cette architecture massivement parallèle s'est révélée adaptée à un autre usage, le calcul matriciel, qui constitue l'essentiel du travail d'un réseau de neurones. Les mêmes puces qui animaient les jeux se sont donc retrouvées dans les centres de calcul, avec des bibliothèques logicielles réécrites pour cet usage inattendu. Ce détournement n'était pas prévu par leurs concepteurs.

Un processeur central enchaîne quelques tâches complexes très vite ; un processeur graphique en exécute beaucoup de simples simultanément. L'apprentissage automatique, qui multiplie des matrices de nombres, préfère le second. Cette différence explique pourquoi une carte graphique surpasse un serveur classique sur certaines tâches, et pourquoi les fabricants ont adapté leurs puces au calcul scientifique, en ajoutant de la mémoire et des formats numériques adaptés. La mémoire, les formats de calcul et les bibliothèques ont ensuite été adaptés à cette demande nouvelle.

Ce qui limite une carte

La mémoire est le premier facteur limitant. Un modèle doit tenir, au moins partiellement, dans la mémoire de la carte ; au-delà, il faut répartir le calcul sur plusieurs puces, avec une perte d'efficacité. La bande passante entre mémoire et processeur compte autant que la capacité : elle détermine la vitesse à laquelle les paramètres sont lus, donc la vitesse de réponse perçue par l'utilisateur. Une carte bien pourvue en calcul mais pauvre en mémoire restera inutile pour un grand modèle.

La consommation électrique et le refroidissement conditionnent l'usage réel. Une carte puissante dégage une chaleur importante, exige une alimentation adaptée et un local ventilé. Dans un petit bureau, une machine équipée de plusieurs cartes devient bruyante et coûteuse en électricité. La location à l'heure ou au mois, chez un hébergeur, évite cet investissement pour les usages intermittents et pour les projets qui doivent d'abord être validés. Le bruit et la chaleur sont souvent les premiers obstacles rencontrés dans un local existant.

L'offre et la dépendance

Un fabricant domine le marché des puces destinées à l'IA, avec un écosystème logiciel très installé. Cette position crée une dépendance pour les acheteurs : disponibilité des cartes, prix, compatibilité des bibliothèques. D'autres fabricants proposent des accélérateurs concurrents, et les grands hébergeurs développent leurs propres puces, mais la migration d'un écosystème à l'autre demande du travail et des compétences rares. Cette avance tient autant au matériel qu'aux outils logiciels qui l'accompagnent depuis des années.

La pénurie de cartes a marqué plusieurs périodes récentes et pesé sur les projets. Une organisation qui prévoit d'héberger un modèle doit donc anticiper les délais, vérifier la compatibilité des bibliothèques avec le matériel envisagé, et prévoir une solution de repli. Le matériel n'est jamais un simple achat : c'est un engagement dans un écosystème technique, avec ses dépendances et son rythme de renouvellement. Un contrat de location peut d'ailleurs être plus difficile à obtenir qu'une carte, en période de tension.

Héberger un modèle chez soi

Le dimensionnement dépend du modèle et de l'usage. Un petit modèle peut tourner sur une carte de milieu de gamme ; un modèle plus volumineux exige plusieurs cartes, beaucoup de mémoire et une alimentation sérieuse. La quantification, qui réduit la précision des nombres, permet de faire tenir un modèle plus gros dans moins de mémoire, au prix d'une légère perte de qualité qu'il faut mesurer sur vos cas. Le choix de la précision devient alors un arbitrage économique, à documenter.

Avant d'acheter, il faut calculer le coût complet : matériel, électricité, refroidissement, local, maintenance, renouvellement. Pour un usage faible ou irrégulier, la location chez un hébergeur reste plus économique. Pour un usage quotidien avec des données sensibles, l'investissement peut se justifier, à condition d'accepter que la machine soit obsolète au bout de quelques années et que son remplacement soit budgété dès le départ. Une machine achetée pour un modèle d'aujourd'hui servira souvent un modèle plus petit demain.