L’architecture de référence Pure Storage pour AIIA d’entreprise de NVIDIA accélère l’intelligence à grande échelle

Synthèse

The Pure Storage with NVIDIA Enterprise AI Factory reference architecture is a jointly engineered solution that combines NVIDIA’s cutting-edge AI computation and orchestration capabilities with high-performance flash storage from Pure Storage.

Pure Storage AI Factory avec NVIDIA est une plateforme d’infrastructure dAI validée, conçue pour accélérer les projets d’AI d’entreprise. À mesure que les modèles d’AI et les systèmes de raisonnement deviennent de plus en plus complexes, cette solution vise à accélérer les informations tout en simplifiant les opérations.

Spécialement conçu pour l’AI d’entreprise moderne

Les équipes informatiques traditionnelles peinent à répondre aux exigences des charges de travail d’AI modernes, garantissant ainsi la productivité continue des équipes de calcul et d’AI. D’autre part, le stockage AI haute performance doit intégrer des capacités d’entreprise telles que la disponibilité, l’agilité et la résilience garanties. La solution Pure Storage pour la conception validée par NVIDIA Enterprise AI Factory résout ces problèmes grâce à une architecture simple, intégrée, haute performance et résiliente. Il prend en charge des charges de travail avancées telles que l’AI générative et la vision par ordinateur en combinant les toutes dernières plateformes logicielles et de calcul accéléré de NVIDIA avec le stockage Pure Storage® FlashBlade//S™, offrant ainsi les performances et l’évolutivité nécessaires à l’entraînement et à l’inférence de modèles à grande échelle. Pure Storage FlashBlade//S est un système de stockage NVIDIA NVIDIA certifié™ capable de prendre en charge jusqu’à 1 024 GPU NVIDIA et plusieurs pétaoctets de données, avec une mise en réseau haute vitesse qui intègre étroitement le calcul et le stockage.

Principaux avantages

Mises à niveau sans interruption : FlashBlade permet des mises à niveau des données sur site, ce qui permet une extension ou des actualisations sans interruption, contrairement au stockage traditionnel qui nécessite souvent des pannes planifiées.
Facilité d’utilisation : Une plateforme unifiée simplifie le pipeline de données d’AI, de l’ingestion à l’inférence, conçue pour permettre aux développeurs informatiques et d’AI d’entreprise de fonctionner en toute simplicité.
Performances constantes : L’architecture garantit des performances fiables à n’importe quelle échelle, ce qui permet aux organisations de développer leurs déploiements sans interruption ni perte de performance.
Agilité et pérennité : La conception ouverte et modulaire prend en charge l’évolution des technologies d’AI et évite l’enfermement des fournisseurs, optimisant ainsi la flexibilité et l’interopérabilité.
Efficacité : La haute densité et la consommation d’énergie réduite de FlashBlade réduisent l’encombrement du datacenter et les coûts d’exploitation, tandis que la pile unifiée simplifie la maintenance.

Configurations validées

Ensemble, Pure Storage, NVIDIA et d’autres partenaires système conçoivent des produits, des logiciels et des services qui accélèrent la transition informatique des entreprises vers une usine d’AI. Suite à la conception validée par NVIDIA Enterprise AI Factory, Pure est en tête de la création d’une nouvelle catégorie d’infrastructure sur site, avec des serveurs NVIDIA certifiés RTX™ PRO et HGX Blackwell, un réseau Ethernet NVIDIA Spectrum™-X, des DPU NVIDIA BlueField® et un logiciel NVIDIA AI Enterprise associé aux systèmes de stockage NVIDIA certifiés de Pure.

Les solutions de conception validées par NVIDIA Enterprise AI Factory sont basées sur les configurations matérielles recommandées par NVIDIA architectures de référence d’entreprise NVIDIA (Enterprise Reference Architectures, RA), adaptées aux déploiements d’entreprise de 4 à 32 nœuds avec 16 à 256 GPU. Chaque RA d’entreprise suit un schéma de conception prescriptif, appelé Configuration de référence, construit autour d’un serveur NVIDIA NVIDIA certifié pour garantir des performances optimales dans un cluster. Ces configurations de référence standardisent la description des nœuds de calcul en fonction des spécifications de processeur, de GPU, de réseau et de bande passante. La nomenclature C-G-N-B simplifie la sélection du système en indiquant clairement la puissance de calcul, les capacités réseau et les performances de la bande passante. Chaque chiffre (par exemple, 2-8-5-200) désigne le nombre de sockets CPU, le nombre de GPU, le nombre d’adaptateurs réseau (NIC, SuperNIC ou DPU) et la bande passante est-ouest moyenne par GPU (GbE), respectivement.

Pour simplifier l’adoption, Pure Storage a aligné ses systèmes sur les configurations de référence utilisées dans la conception validée par NVIDIA Enterprise AI Factory, ce qui permet de déployer et de faire évoluer facilement des systèmes équilibrés qui évitent les goulets d’étranglement et les performances sous-optimales. Vous trouverez ci-dessous les configurations de référence reproductibles conçues et testées par Pure.

Elles représentent des éléments de base validés que les clients et les OEM partenaires peuvent utiliser pour déployer la solution à différentes échelles. Voici ce que cela signifie :

2-4-3-200 (PCIe optimisé) : Un nœud de calcul avec 2 processeurs, 4 processeurs graphiques, 3 cartes NIC/DPU haute vitesse et une bande passante réseau de 200 Gbps par GPU.It peut correspondre à un serveur certifié NVIDIA avec quatre processeurs PCIe (NVIDIA L40S ou NVIDIA processeurs NVIDIA RTX PRO 6000 Blackwell Server Edition, ou NVIDIA H100 NVL pour les grands modèles) et trois interfaces Ethernet de 200Gb (utilisant souvent les DPU NVIDIA BlueField-3 pour les déchargements). Le bloc de construction 2-4-3-200 offre un point d’entrée équilibré pour les usines d’AI, suffisant pour des tâches telles que l’entraînement de petits modèles et l’ajustement précis ou le service de modèles de taille moyenne en production. Les entreprises peuvent commencer par un cluster de ces serveurs 4-GPU en sachant que l’architecture évoluera de manière prévisible.
2-8-5-200 (PCIe optimisé) : Un nœud PCIe plus large comprenant 2 processeurs, 8 processeurs graphiques, 5 cartes NIC/DPU et une bande passante réseau de 200 Gbps par GPU. Avec huit processeurs graphiques dans un seul nœud, cette configuration permet d’obtenir davantage de calcul par serveur pour l’AI, ce qui convient aux tâches d’entraînement plus lourdes ou aux fermes d’inférence consolidées. Cette configuration s’aligne sur le serveur NVIDIA RTX PRO récemment annoncé, avec jusqu’à huit GPU RTX PRO 6000 Blackwell Server Edition. Le modèle de conception « 2-8-5 » garantit une bande passante réseau et un nombre d’adaptateurs encore plus importants pour gérer l’augmentation du nombre de GPU graphiques, en conservant un pipeline complet de 200 Gbit/s sur chaque GPU. Les cas d’utilisation incluent l’entraînement de modèles de taille moyenne à grande (comme les modèles de NLP modérés ou les modèles de vision) et l’inférence à haut débit pour de nombreux utilisateurs simultanés. Cette configuration peut être fournie via des serveurs tels que des systèmes PCIe HGX A100/H100 certifiés NVIDIA ou des conceptions OEM personnalisées qui répondent aux spécifications. Il offre une excellente option scale-up tout en utilisant une structure Ethernet standard.
2-8-9-400 (optimisation HGX) : Une configuration haut de gamme avec 2 processeurs, 8 processeurs graphiques (dans un format NVIDIA HGX), 9 adaptateurs réseau et un réseau de 400 Gbps par GPU. Cela correspond à une plateforme NVIDIA HGX (par exemple, HGX H100 ou HGX H200 à venir) où 8 processeurs graphiques SXM sont connectés via NVIDIA NVLink avec une bande passante GPU-GPU ultra-élevée (de l’ordre de 900 Go/s en interne). Les interfaces réseau « 9 » (telles que les DPU BlueField-3 ou les cartes réseau NVIDIA ConnectX-7) fournissent un débit agrégé massif, 8 x 400Gb/s pour les GPU, plus des options de stockage ou de communication entre les clusters, fournissant efficacement 400Gb/s à chaque GPU pour les charges de travail les plus gourmandes en I/O. Ce modèle de 2-8-9-400 est destiné aux scénarios les plus exigeants : l’entraînement de grands modèles (modèles de plusieurs milliards de paramètres), l’inférence lourde sur les entrées contextuelles volumineuses ou toute charge de travail d’AI où le débit maximal et la faible latence sont primordiaux. Compte tenu de sa puissance, elle convient naturellement à des cas d’utilisation tels que l’AI générative avancée, la simulation complexe ou le service d’inférence à grande échelle.

Ces configurations de référence peuvent être étendues à l’échelle du cluster. Par exemple, une usine d’AI peut commencer par quatre (4) nœuds de 2-8-5-200, puis étendre jusqu’à 32 nœuds par cluster. Le stockage FlashBlade et la mise en réseau Ethernet NVIDIA Spectrum-X évolueront en conséquence (des conseils sont fournis pour déterminer le nombre de châssis FlashBlade et de liaisons montantes nécessaires au fur et à mesure de l’évolution, garantissant ainsi une évolutivité linéaire). Les entreprises bénéficient ainsi d’une voie de croissance claire et modulaire : Commencez par un bloc fonctionnel éprouvé et ajoutez-en davantage à mesure que la demande en AI augmente.

Pour garantir une large accessibilité, NVIDIA et Pure Storage valident des solutions avec les principaux OEM de serveurs afin de mettre sur le marché ces éléments constitutifs de AI’AI Factory. Les serveurs Dell Technologies, HPE et Supermicro seront testés avec les plateformes NVIDIA Blackwell associées à Pure Storage FlashBlade comme solutions AI Factory complètes. Cela permettra d’accélérer la conception et les déploiements de NVIDIA AI Factory avec le fournisseur choisi par le client et de garantir que les solutions sont entièrement validées conformément aux spécifications de NVIDIA-Pure Storage.

LAI Factory n’est pas une appliance à boîte noire unique, mais plutôt une architecture de référence ouverte sur laquelle plusieurs fournisseurs peuvent s’appuyer. Les entreprises peuvent adopter la solution par l’intermédiaire du fournisseur de matériel qu’elles préfèrent, ou même intégrer les composants elles-mêmes selon la conception de référence. Cette ouverture contraste avec certaines approches concurrentes qui lient les clients à l’écosystème d’un fournisseur. Dans tous les cas, le client bénéficie d’une conception validée conjointement et d’un travail d’intégration strict effectué par les équipes d’ingénierie.

Pile logicielle unifiée : NVIDIA Base Command Manager, Run :AI et Portworx par Pure Storage

La pile logicielle unifiée de NVIDIA-Pure Storage AI Factory permet d’orchestrer les données et le calcul. Trois composants logiciels clés jouent un rôle ici : NVIDIA Base Command Manager, Portworx® par Pure Storage et NVIDIA Run :AI. Ensemble, ils forment une couche cohérente qui simplifie l’exécution de l’AI à grande échelle :

NVIDIA Base Command Manager est une solution de gestion de clusters qui permet un déploiement rapide et automatise le provisioning et l’administration des clusters de toutes tailles. Dans AI Factory, Base Command Manager fournit des fonctionnalités de provisioning, de surveillance et de gestion dans un seul outil couvrant l’ensemble du cycle de vie du cluster. En intégrant Base Command Manager, AI’AI Factory garantit aux organisations une utilisation optimale des ressources de leur cluster. Le logiciel inclut des tableaux de bord pour afficher l’utilisation du cluster et les données d’état afin d’ajuster les performances ou de détecter les problèmes (d’où la création d’« outils d’optimisation de l’infrastructure »). En résumé, NVIDIA Base Command Manager relie le matériel en un seul superordinateur d’AI du point de vue de l’utilisateur, éliminant ainsi la complexité du cluster sous-jacent.
Portworx de Pure Storage est une plateforme de données native Kubernetes qui excelle dans la gestion du stockage persistant pour les applications conteneurisées. Dans AI Factory, Portworx peut être utilisé pour orchestrer les données sur FlashBlade pour les charges de travail d’AI conteneurisées. Alors que le développement de l’AI utilise de plus en plus de pipelines basés sur des conteneurs et Kubernetes, Portworx garantit que les données sont disponibles pour les conteneurs où qu’ils s’exécutent, avec des fonctionnalités telles que le provisioning dynamique des volumes, les snapshots de stockage et la réplication entre les clusters. C’est particulièrement important dans les scénarios de hybrid cloud. Par exemple, si certains microservices d’AI s’exécutent dans le cloud pendant que l’entraînement principal a lieu sur site, Portworx peut faciliter le transfert ou la synchronisation des données entre les environnements. Il fournit en effet une couche compatible avec le cloud en plus du stockage rapide FlashBlade. Grâce à l’intégration de Portworx, les développeurs n’ont pas besoin de gérer manuellement la logistique des données ; ils peuvent demander des volumes de données via Kubernetes et s’assurer que la plateforme fournira les données avec les performances nécessaires. Associée à la vitesse brute de FlashBlade, elle garantit que les tâches d’AI conteneurisées (par exemple, services d’inférence de modèle ou pipelines de préparation de données) bénéficient d’un accès à la demande aux données à faible latence et haut débit.
NVIDIA Run :AI est une plateforme spécialisée d’orchestration des charges de travail d’AI qui optimise l’utilisation des GPU graphiques et simplifie la planification des tâches dans AI Factory. Run :AI étend Kubernetes à des capacités de planification intelligentes, basées sur des règles, qui allouent dynamiquement des fractions de GPU, mettent en file d’attente des tâches et appliquent des quotas permettant un partage efficace de l’infrastructure GPU entre plusieurs utilisateurs et équipes. Par exemple, si une expérience n’utilise qu’une partie de la mémoire d’un GPU, Run :AI peut planifier des charges de travail supplémentaires sur le même GPU, ce qui augmente l’utilisation comme les planificateurs traditionnels ne le peuvent pas. Il en résulte une réduction du temps d’inactivité et un débit de charge de travail plus élevé au sein de l’AI Factory. Ensemble, Run :AI et Portworx créent essentiellement un plan de gestion des données et des ressources unifié pour l’ensemble du GPU et du stockage, offrant un accès aux données à latence plus faible et une meilleure utilisation des ressources pour les tâches d’AI. Cette unification révolutionne la productivité : Les ressources de données et de calcul sont orchestrées en tandem, automatiquement.

En exploitant Base Command Manager, NVIDIA Run :AI et Portworx, la solution NVIDIA-Pure Storage AI Factory offre une approche complète. Il ne s’agit pas seulement de matériel brut, mais aussi de matériel et de logiciels intelligents. Cela signifie que les entreprises disposent d’une plateforme clé en main qui offre non seulement des performances de classe mondiale, mais également l’automatisation et l’intégration intelligentes nécessaires pour utiliser efficacement ces performances. Les développeurs peuvent lancer des expériences d’AI sans se soucier du montage de systèmes de fichiers ou de la localisation de leurs données. La plateforme les gère. Les opérateurs informatiques peuvent assurer la gouvernance et l’efficacité grâce à des politiques de contrôle détaillées. La pile unifiée transforme efficacement la matrice complexe des GPU, du réseau et du stockage en une expérience cohérente pour les utilisateurs finaux au sein de l’entreprise.

Améliorer la productivité des développeurs et l’efficacité du pipeline d’AI

L’un des aspects les plus passionnants de lAI Factory de NVIDIA-Pure Storage est la manière dont elle peut accélérer le travail des développeurs d’AI et des spécialistes des données. En éliminant les goulets d’étranglement et la complexité de l’infrastructure, elle permet aux équipes de se concentrer sur l’élaboration de modèles et de solutions plutôt que de se débattre avec le matériel et la plomberie de données.

Voici comment AI Factory améliore la productivité de l’ensemble du pipeline d’AI :

Accès simplifié aux données : Dans de nombreuses entreprises, les données sont cloisonnées entre différents systèmes de stockage, et obtenir les bonnes données pour alimenter les expériences d’AI est un processus lent et manuel. Avec le stockage unifié FlashBlade de AI’AI Factory, toutes les étapes des données d’AI, de l’ingestion brute aux fonctionnalités affinées, résident dans un référentiel haute vitesse. Cela signifie que les clusters d’entraînement et les serveurs d’inférence peuvent accéder directement aux ensembles de données, sans étapes fastidieuses de copie ou de transfert. De plus, la capacité de FlashBlade à prendre en charge les charges de travail en mode fichier et en mode objet implique une compatibilité avec un large éventail de structures d’AI et de formats de données. Les développeurs peuvent utiliser des protocoles standard (comme NFS ou S3) pour lire/écrire des données à la vitesse du GPU. L’intégration de la mise en réseau RoCE permet également aux processeurs graphiques d’extraire des données du stockage avec une latence et des coûts processeurs réduits. En pratique, cela se traduit par des temps de chargement des données plus courts et par la possibilité d’itérer plus rapidement. Une tâche d’entraînement qui aurait pu se bloquer en attendant les I/O se poursuit désormais sans entrave, ce qui permet d’exploiter pleinement les ressources coûteuses des GPU graphiques.
Réglage minimal de l’infrastructure : Le réglage de l’infrastructure pour l’AI peut nécessiter d’innombrables heures d’efforts informatiques. La solution Pure Storage avec NVIDIA Enterprise AI Factory réduit considérablement ce fardeau. Cette architecture de référence est prévalidée et équilibrée pour les charges de travail d’AI, ce qui signifie que les performances prêtes à l’emploi sont déjà optimisées. Le logiciel NVIDIA Base Command (inclus dans la pile) fournit des outils pour optimiser l’utilisation des GPU graphiques et gérer la planification, afin que les administrateurs n’aient pas à écrire leurs propres solutions pour gérer des clusters multi-utilisateurs. Dans l’ensemble, les choix de conception de la plateforme, comme l’utilisation d’Ethernet standard et de RDMA, par rapport aux interconnexions propriétaires obscures, signifient également qu’elle se branche facilement dans les environnements existants. Les équipes informatiques consacrent moins de temps à la bricolage et à la lutte contre les incendies, et les développeurs d’AI consacrent moins de temps à attendre. Par conséquent, les organisations peuvent accélérer les cycles d’itération, avec davantage d’expériences, d’ajustements de modèles et de tests en même temps, ce qui accélère le passage de l’idée à la Insight.
Intégration du pipeline de bout en bout : NVIDIA NVIDIA AI Factory avec Pure Storage ne se limite pas à l’entraînement : c’est une approche globale couvrant la préparation, l’entraînement, la validation et le déploiement des données. Prenons l’exemple d’un flux de travail d’AI d’entreprise classique : Les ingénieurs de données ingèrent et gèrent des ensembles de données volumineux, les scientifiques de données forment des modèles sur des clusters GPU et les ingénieurs ML déploient ces modèles pour l’inférence en production. Traditionnellement, chaque étape peut se produire sur des systèmes distincts, nécessitant le déplacement des données et la gestion séparée des environnements. Dans cette solution, l’ensemble du pipeline peut être unifié. Une seule baie FlashBlade peut héberger les données brutes, les données prétraitées intermédiaires, les points de contrôle du modèle et les fichiers de modèle finaux, ainsi que les intégrations RAG et le contexte du cache KV pour l’inférence. La même infrastructure GPU peut être partitionnée (avec une planification appropriée) pour gérer les tâches d’entraînement et les services d’inférence. Cette cohésion signifie que dès qu’un modèle est entraîné, il peut être testé et servi aux utilisateurs sur la même plateforme, ce qui réduit considérablement le temps de déploiement. De plus, l’environnement cohérent réduit les erreurs lors de la transition des modèles du développement à la production. Tout cela conduit à un processus de développement agile de l’AI, où les idées évoluent rapidement vers des déploiements de production, sans la friction traditionnelle entre les équipes et les systèmes cloisonnés.

En fin de compte, en offrant des performances simples, AI Factory permet aux entreprises d’atteindre ce qui était auparavant très difficile : une plateforme d’AI à la fois extrêmement rapide et efficace sur le plan opérationnel. Cette combinaison apporte des avantages commerciaux tangibles : informations plus précieuses sur les données, possibilité d’itérer plus fréquemment sur les modèles d’AI et équipe de développement plus productive, qui n’est pas ralentie par les problèmes d’infrastructure.

FlashBlade : Une infrastructure de stockage optimisée pour les charges de travail d’AI

FlashBlade//S NVIDIA AI Pure Storage est une plateforme de stockage scale-out 100 % flash spécialement conçue pour l’analytique moderne et les charges de travail d’AI. Dans cette solution, FlashBlade fonctionne comme la plateforme de données haute performance qui sous-tend à la fois l’entraînement AI (qui nécessite une lecture efficace des ensembles de données massifs) et l’inférence AI (qui bénéficie d’un accès rapide et à faible latence aux données de référence et aux fichiers de modèle). L’architecture de FlashBlade est parfaitement adaptée à ces défis. Il offre des performances et une évolutivité multidimensionnelles, une faible latence, un accès parallèle aux données, des opérations sans interruption et résilientes, et la possibilité d’unifier le stockage de fichiers et d’objets, ce qui permet aux scientifiques et ingénieurs de travailler avec les données dans le format que leurs outils attendent, sans avoir à utiliser des silos de stockage différents.

Pure Storage FlashBlade fournit à une usine d’AI d’entreprise NVIDIA une base de données haute performance et hautement efficace, offrant une capacité de plusieurs pétaoctets, des dizaines de téraoctets par seconde de débit et une faible latence constante à grande échelle. Tout aussi important, elle offre ces performances avec les fonctionnalités d’entreprise (instantanés, chiffrement, réplication) et la facilité d’utilisation que le service informatique de l’entreprise attend, contrairement aux systèmes de fichiers HPC de niche.

Conclusion : Accélérer l’innovation AI en toute confiance

Le lancement de NVIDIA Enterprise AI Factory avec Pure Storage marque une étape importante dans l’évolution de l’infrastructure d’AI. Il combine le meilleur de deux mondes : Les capacités de calcul et d’orchestration AI de pointe de NVIDIA et la technologie de stockage flash innovante de Pure Storage. Pour les responsables de l’AI d’entreprise, cela signifie qu’ils peuvent enfin déployer une plateforme d’AI qui offre des performances de niveau superordinateur et une fiabilité/efficacité de niveau entreprise dans un seul package. La capacité de la plateforme à gérer des charges de travail d’AI dynamiques et multimodales en toute simplicité, tout en simplifiant les opérations et en s’étendant, renforce l’agilité organisationnelle dans un domaine où la vitesse est importante.

En exploitant cette solution conçue conjointement, les entreprises peuvent transformer leurs datacenters en véritables « usines d’AI », des installations qui ingèrent en permanence des données, forment des modèles d’AI et produisent des informations stratégiques ou des services intelligents qui alimentent l’entreprise. L’architecture de référence Pure Storage et NVIDIA Enterprise AI Factory aide les entreprises à éliminer les obstacles historiques qui ralentissent ces initiatives : La gestion des données ne constituera plus un obstacle au débit, l’ajout de capacité ne nécessitera plus d’arrêts et les développeurs ne seront plus gênés par des problèmes d’infrastructure. Ils bénéficient plutôt d’une plateforme rationalisée et hautement performante pour expérimenter rapidement et produire des résultats d’AI.

À mesure que le paysage de l’AI continue d’évoluer (avec des modèles toujours plus grands et des applications émergentes dans l’AI générative, l’analytique en temps réel, etc.), il est essentiel d’avoir une base flexible et puissante. LAI Factory fournit cette base : performances à grande échelle, adaptabilité pour l’avenir et élégance opérationnelle intégrée. Pour toute organisation qui cherche à s’imposer à l’ère de lAI, NVIDIA AI Factory avec Pure Storage offre une voie à suivre convaincante : Accélérez vos projets d’AI dès aujourd’hui, en sachant que votre infrastructure répondra aux besoins de demain. Il s’agit d’une infrastructure d’AI réinventée pour l’agilité, les performances et la réussite.