Infinity Forge 8 | Serveur de recherche en IA d'entreprise | Serveur 8x RTX PRO 6000 Blackwell Edition Serveur 96 Go | 2x EPYC 9575F

Pour les groupes de recherche universitaires et hospitaliers, les start-up et les entreprises de l’IA qui ont besoin d’une capacité soutenue de huit GPU avec des données conservées sur place : une alternative sur site aux allocations partagées de calcul haute performance (HPC) ou à la location à long terme de GPU dans le nuage. Il s’agit d’un système de centre de données qui consomme environ 6,9 kW, nécessite quatre alimentations de 220 à 240 V et occupe 4U dans une baie profonde, chaque projet commence donc par une consultation et une visite des installations.

La conception de référence repose sur l’ASUS ESC8000A-E13, un serveur GPU double socket 4U dans lequel chacun des huit emplacements GPU à double emplacement dispose de sa propre liaison PCIe 5.0 x16 vers un processeur. Il associe deux processeurs AMD EPYC 9575F à 64 cœurs et 768 Go de mémoire enregistrée ECC DDR5-6400 à huit GPU NVIDIA RTX PRO 6000 Blackwell Server Edition (96 Go de GDDR7 ECC chacun, soit 768 Go au total), refroidis par les modules de ventilateurs GPU du châssis et configurables jusqu’à 600 W chacun. Deux connexions réseau 100GbE, deux disques NVMe U.2 d’entreprise de 3,84 To et des blocs d’alimentation redondants 3+1 de 3 200 W de classe Titanium complètent l’ensemble. La plateforme, le modèle et le nombre de GPU, la mémoire et le réseau sont confirmés pour chaque projet.

768 Go de mémoire GPU peuvent accueillir un modèle ouvert de 671 milliards de paramètres tel que DeepSeek-V3.1 en 4 bits (Q4_K_M, 405 Go), avec suffisamment d’espace pour de longs contextes et de nombreux utilisateurs (estimation d’Infinity), ou plusieurs grands modèles en parallèle. La Server Edition prend en charge NVIDIA vGPU, le nœud peut donc héberger des machines virtuelles et des bureaux accélérés par GPU, et MIG peut créer jusqu’à 32 instances isolées de 24 Go pour un cluster de recherche partagé.

Comparé au Forge 4, il double le nombre de GPU et passe à des GPU Server Edition de 600 W prenant en charge NVIDIA vGPU, deux processeurs avec 24 canaux mémoire, une alimentation redondante 3+1 et du 100GbE. Ce n’est pas un système d’entraînement NVSwitch : les GPU communiquent via PCIe 5.0, ce qui convient à l’inférence, au réglage fin et à de nombreuses tâches parallèles.

Chaque projet comprend l’assemblage, la configuration du BIOS et du BMC, la configuration de la limite de puissance des GPU en fonction de vos alimentations, un test de rodage de 72 heures validant la liaison, la température et la puissance de chaque GPU, la pile CUDA avec NVIDIA Container Toolkit, la configuration facultative de l’hôte vGPU et un document de configuration finale. Une visite des installations couvrant quatre alimentations de 220 à 240 V / 16 A, le dimensionnement des unités de distribution d’énergie (PDU), environ 23 500 BTU/h de refroidissement, la profondeur de la baie et la charge au sol est obligatoire ; l’installation sur place, la configuration de Slurm ou de Kubernetes et une solution de surveillance à distance sont indiquées dans le devis.

Les options comprennent un démarrage avec quatre GPU et une extension à huit, huit GPU RTX PRO 5000 Blackwell 72 Go (576 Go) sous réserve de confirmation par le fournisseur de plateforme, 1,5 To de mémoire système lorsque l’approvisionnement le permet, une carte RAID/HBA pour davantage de disques NVMe et un réseau 400 Gb pour les travaux multi-nœuds.

Il est destiné exclusivement aux centres de données : alimentation de 220 à 240 V, environ 6,9 kW et environ 23 500 BTU/h de chaleur, une baie profonde et une installation à l’aide d’un chariot élévateur. Les blocs d’alimentation 3+1 protègent contre une défaillance d’alimentation ; pour survivre à la perte d’une alimentation A/B complète à pleine charge, une limite de puissance des GPU ou une capacité d’alimentation supérieure est nécessaire. Il n’y a pas de ports de données intégrés ni de NVLink, et seulement deux disques NVMe sans carte RAID/HBA. La disponibilité de la plateforme et des GPU Server Edition, les prix et les délais sont confirmés au moment du devis ; il n’y a pas d’unité en stock.

Couvert par la garantie matérielle de 3 ans et le soutien technique à vie d’Infinity Computers, sans délai d’intervention sur place contractuel. Livré par fret sur palette avec hayon et livraison à l’intérieur du centre de données, ou installé par Infinity selon le devis. Chaque commande est chiffrée en dollars canadiens avant la TPS/TVH, avec un acompte et des conditions convenues ; assemblé et testé en Ontario.