Déployer un cluster GPU en Europe

Ce qui change quand le cluster est en Europe

Un cluster GPU en Europe se conçoit comme n’importe quel autre : mêmes systèmes NVIDIA HGX ou GB300 NVL72, mêmes fabrics InfiniBand ou Ethernet, mêmes Kubernetes et Slurm. Ce qui change, c’est tout autour : où l’énergie est disponible et à quelle échéance, quelles règles s’appliquent aux données et au service, comment le matériel entre dans l’UE, et qui l’exploite, dans quel fuseau horaire.

Ce guide est écrit par l’équipe d’ingénieurs d’OPSaaS, basée en France. Il reprend ce que nous vérifions sur chaque projet de cluster GPU européen, du premier dimensionnement à l’exploitation. Si vous voulez qu’une seule équipe livre l’ensemble, voir nos clusters GPU clés en main.

1. Site et énergie

L’énergie est la première contrainte, avant les GPU. Sur plusieurs marchés européens du datacenter, un nouveau raccordement au réseau prend des années : la capacité disponible dans une salle existante décide souvent du planning.

Puissance par baie. Un nœud HGX B300 ou B200 à 8 GPU consomme environ 14 à 15 kW à pleine charge. Quatre nœuds par baie, c’est 55 à 60 kW ; un rack GB200 NVL72 consomme environ 120 kW et un rack GB300 NVL72 environ 130 à 140 kW. Beaucoup de salles conçues pour 10 à 15 kW par baie ne peuvent pas les accueillir sans travaux.
Puissance du cluster. Un cluster de 1 000 GPU représente environ 2 MW de charge IT, avant PUE. En règle générale, la fabric, le stockage et l’administration ajoutent 10 à 15 % au calcul.
Redondance. Un job d’entraînement survit à la perte d’un nœud grâce aux checkpoints, pas à une panne de salle. Double alimentation A/B par baie, et une décision claire sur ce qui passe sur onduleur.
Carbone et coût. La France a l’un des mix électriques les moins carbonés d’Europe, les pays nordiques ajoutent un climat froid et des renouvelables bon marché. Sur 5 ans, le prix et l’intensité carbone du MWh pèsent plus que le prix catalogue des GPU.
Réseau. Opérateurs présents sur site, distance aux utilisateurs, et peering sur les points d’échange internet européens pour le trafic d’inférence.

2. Refroidissement

L’air fonctionne encore pour des nœuds HGX à densité modérée, avec confinement des allées chaudes.
Les portes arrière refroidies prolongent les salles à air vers de plus hautes densités.
Le refroidissement liquide direct est obligatoire pour les GB300 NVL72 et GB200 NVL72 : CDU, collecteurs, le plus souvent une boucle d’eau dans la salle, avec la qualité d’eau et la détection de fuite qui vont avec. Pour les autres systèmes, l’air de la salle ne suffit plus quelque part entre 20 et 50 kW par baie, selon la salle.
Récupération de chaleur. Dans l’UE, les datacenters neufs ou rénovés en profondeur de plus de 1 MW doivent étudier la valorisation de leur chaleur fatale, dont le raccordement à un réseau de chaleur. Le refroidissement liquide rend cette chaleur plus facile à récupérer.

3. Réglementation et souveraineté

RGPD. Les données d’entraînement et les prompts contiennent souvent des données personnelles. Gardez-les dans l’UE, documentez le traitement, et maîtrisez qui, hors UE, peut accéder au cluster, y compris l’équipe d’exploitation et le support à distance des fournisseurs.
NIS2. Les fournisseurs de services de datacenter et de cloud sont concernés, comme les entités moyennes et grandes des secteurs listés : gestion des risques, sécurité de la chaîne d’approvisionnement, et notification des incidents (alerte précoce sous 24 heures, notification sous 72 heures, rapport final sous un mois).
AI Act. Il fixe des obligations aux fournisseurs et déployeurs de systèmes d’IA et aux fournisseurs de modèles d’IA à usage général, avec une entrée en application par étapes. Celles des systèmes à haut risque, dont la journalisation et la gouvernance des données, arrivent en dernier : concevez l’infrastructure pour qu’elle puisse les porter.
DORA pour les entités financières, la certification HDS pour héberger des données de santé à caractère personnel en France, et les exigences SecNumCloud pour les charges publiques et sensibles en France.
Reporting énergétique. Les datacenters d’au moins 500 kW de puissance IT installée déclarent chaque année leurs indicateurs d’énergie et d’eau au titre de la directive européenne sur l’efficacité énergétique.

La souveraineté est une propriété de la conception : où se trouve le matériel, qui détient les clés, qui a les accès administrateur, et de quelle juridiction relève l’exploitant. Voir comment nous intégrons la sécurité à chaque couche.

4. Acheter le matériel

Allocation et délais. Les dernières générations NVIDIA sont allouées, et les délais varient avec la demande. Figez la configuration tôt, et suivez chaque ligne : GPU, cartes réseau, optiques, switchs, CDU.
Une seule nomenclature. Calcul, fabric, stockage, réseau d’administration, câbles et optiques, pièces de rechange. Les optiques et les câbles sont une cause fréquente de retard.
Import dans l’UE. Douane, TVA à l’import, et livraison sur le quai d’un datacenter avec un créneau réservé.
Contrôle des exportations. Les accélérateurs d’origine américaine s’accompagnent de formalités de contrôle des exportations sur l’usage et l’utilisateur final. Elles doivent être en ordre avant la commande.
Garantie et pièces en Europe. Qui remplace un plateau GPU défaillant, en combien de temps, et où se trouve la pièce.

5. Fabric, stockage et logiciel

Fabric. InfiniBand NDR 400G ou XDR 800G, ou Ethernet pour l’IA (Spectrum-X, RoCEv2), optimisée par rail, une carte réseau par GPU. Réglée jusqu’à ce que la bande passante all-reduce NCCL atteigne la fiche technique.
Stockage. Un système de fichiers parallèle (Lustre, Weka, VAST) dimensionné pour les pics de checkpoint, du stockage objet pour les jeux de données.
Orchestration. Kubernetes avec le GPU Operator et l’ordonnancement en groupe (Volcano, Kueue), ou Slurm, ou les deux.
Serving. vLLM, SGLang ou TensorRT-LLM derrière des endpoints authentifiés, avec des objectifs de latence par modèle.

La liste complète des technologies avec lesquelles nous travaillons est dans notre nomenclature des pièces.

6. Recette et exploitation

Recette avant la livraison : diagnostics DCGM sur chaque GPU, tests NCCL sur toute la fabric, HPL, débit du stockage, bascule du plan de contrôle.
Exploitation aux horaires européens, en français ou en anglais, avec une astreinte 24/7 à la demande. Runbooks, tableaux de bord et historique des changements dans Git, qui vous appartiennent.

Liste de contrôle

Charge de travail et croissance écrites : modèles, entraînement ou inférence, utilisateurs, objectifs de latence.
Puissance par baie et par salle confirmée, avec sa date de disponibilité.
Refroidissement choisi : air, porte arrière ou liquide direct.
Classification des données faite : RGPD, NIS2, AI Act, règles sectorielles.
Nomenclature complète, avec optiques, câbles et pièces de rechange.
Import, TVA et contrôle des exportations en ordre.
Tests de recette définis avant la commande.
Modèle d’exploitation décidé : votre équipe, la nôtre, ou les deux.

Questions fréquentes

Combien coûte un cluster GPU en Europe ?

Cela dépend d’abord de la génération et du nombre de GPU, puis du datacenter. En ordre de grandeur, le matériel domine la première année, et l’énergie, l’hébergement et l’exploitation dominent les suivantes. Nous donnons une fourchette de budget sous 5 jours ouvrés, après un court questionnaire et un appel de dimensionnement.

Quel pays européen choisir pour un cluster GPU ?

Celui où l’énergie est disponible quand vous en avez besoin, à un prix et une intensité carbone acceptables, assez près de vos utilisateurs et sous les règles qu’exigent vos données. La France et les pays nordiques sont forts sur l’énergie bas carbone ; d’autres marchés l’emportent sur la latence ou les salles disponibles.

Peut-on utiliser une région européenne d’un cloud américain à la place ?

Oui pour beaucoup de charges. Pour des données sensibles, des secteurs régulés ou de l’entraînement à grande échelle sur la durée, un cluster dédié en Europe vous donne la maîtrise de la juridiction, des accès et des coûts.

Qui peut livrer un cluster GPU de bout en bout en Europe ?

OPSaaS livre des clusters GPU clés en main en tant que maître d’œuvre, avec ses partenaires datacenter et matériel, du dimensionnement à l’exploitation. Parler à un ingénieur.