Dell AI Factory transforme les centres de données grâce à des innovations en matière de refroidissement, de calcul haute densité et de stockage
octobre 2024 par Marc Jacob
Dell Technologies dévoile de nouveaux systèmes intégrés évolutifs en rack, accompagnés d’innovations dans les domaines des serveurs, du stockage et de la gestion des données. Ces avancées, qui intègrent la Dell AI Factory, optimisent les charges de travail de calcul et d’intelligence artificielle à haute densité et à grande échelle.
Le Dell Integrated Rack 7000 (IR7000) répond aux besoins de calculs intensifs grâce à une densité supérieure, une gestion plus durable de l’alimentation et des technologies de refroidissement avancées. Ce rack basé sur les normes de l’Open Compute Project (OCP) est idéal pour les déploiements à grande échelle et présente une conception évolutive pour les environnements technologiques multigénérationnels et hétérogènes.
Principales caractéristiques :
• Conçue pour la densité, la baie Dell IR7000 de 21 pouces est conçue pour prendre en charge la densité de CPU et de GPU la plus élevée du secteur.
• Prête pour l’avenir et efficace, la baie est dotée de serveurs plus larges et plus hauts pour accueillir les dernières architectures de processeurs plus volumineuses. Ce rack a été spécialement conçu pour le refroidissement liquide, capable de refroidir des déploiements futurs allant jusqu’à 480KW, et est capable de capturer près de 100% de la chaleur générée.
• Développé pour offrir plus de choix et de flexibilité, ce rack intégré prend en charge à la fois les solutions réseaux Dell et celles du marché.
• Les déploiements sont simples et économes en énergie grâce aux Dell Integrated Rack Scalable Systems (IRSS). IRSS fournit une infrastructure innovante à l’échelle du rack, optimisée pour les charges de travail d’IA. Le processus d’installation est fluide et efficace, grâce à une solution entièrement intégrée et prête à l’emploi à l’échelle du rack.
Dell Technologies présente des plateformes prêtes pour l’IA et conçues pour le Dell IR7000 :
• Intégrant la Dell AI Factory with NVIDIA, le Dell PowerEdge XE9712 offre une accélération haute performance pour l’inférence en temps réel et l’entraînement des modèles LLM pour des déploiements d’IA à grande échelle. Conçue pour une densité de GPU dernière génération avec le NVIDIA GB200 NVL72, cette plate-forme connecte 36 CPU NVIDIA Grace à 72 GPU NVIDIA Blackwell dans un design rack. Le domaine NVLink de 72 GPU agit comme un seul GPU pour une inférence LLM en temps réel jusqu’à 30 fois plus rapide avec des trillions de paramètres. Le NVIDIA GB200 NVL72 refroidi par liquide est jusqu’à 25 fois plus efficace que le les systèmes alimentés par NVIDIA H100 refroidi par air.
• Le serveur Dell PowerEdge M7725 offre une puissance de calcul élevée, idéale pour la recherche, le secteur public, le secteur financier et l’enseignement supérieur. Conçu pour être déployé dans le rack IR7000, le serveur Dell PowerEdge M7725 offre plus de puissance de calcul et une maintenabilité optimisée. Il peut évoluer entre 24 000 et 27 000 cœurs par rack, avec 64 ou 72 nœuds à deux sockets, alimentés par des CPU AMD EPYC de 5e génération. Les emplacements d’E/S frontaux permettent une connectivité E/S à grande vitesse et offrent une connectivité transparente pour les applications exigeantes. La conception énergétiquement efficace du serveur permet des déploiements plus durables grâce au refroidissement liquide (DLC) des CPU et au refroidissement par air via une connexion rapide au rack.
Stockage non structuré et innovations en matière de gestion des données
Les innovations du portefeuille de stockage de données non structurées de Dell Technologies optimisent les performances des applications d’IA et permettent une gestion simplifiée des données. Dell PowerScale, le premier stockage Ethernet au monde certifié pour NVIDIA DGX SuperPOD, propose de nouvelles mises à jour qui renforcent les stratégies de gestion des données, optimisent les performances des charges de travail et permettent une gestion renforcée des charges de travail d’IA.[1]
• Optimisation de l’accessibilité aux informations sur les données pour une prise de décision plus rapide et plus éclairée grâce aux métadonnées PowerScale et au Dell Data Lakehouse. Le prochain chargeur de documents Dell open-source pour les services NVIDIA NeMo et les frameworks RAG est conçu pour permettre aux clients d’optimiser le temps d’ingestion des données et de réduire les coûts de calcul et de GPU.
• Stockage plus dense : les clients peuvent affiner leurs modèles d’IA en les entraînant sur des ensembles de données plus importants grâce aux nouveaux disques de 61 To qui augmentent la capacité et l’efficacité tout en réduisant de moitié l’empreinte de stockage du centre de données.[2]
• Optimisation des performances de l’IA : les performances des charges de travail d’IA sont optimisées grâce aux capacités front-end de NVIDIA InfiniBand et à la prise en charge d’adaptateurs Ethernet 200GbE qui offrent un débit jusqu’à 63% plus rapide.[3]
Grâce aux nouvelles optimisations apportées à la plateforme de gestion des données Dell Data Lakehouse, les clients de Dell peuvent aussi gagner du temps et améliorer leurs opérations avec de nouvelles fonctionnalités telles que la reprise après sinistre, la découverte automatisée des schémas, des API de gestion complètes et des mises à niveau de la pile complète en libre-service.
Les entreprises peuvent simplifier leur parcours axé sur les données et faire évoluer rapidement leur IA et leurs cas d’utilisation métier grâce à Optimization Services for Data Cataloging et à Implementation Services for Data Pipelines. Ces services augmentent l’accessibilité à des données de haute qualité par la découverte, l’organisation, l’automatisation et l’intégration.
Solutions d’IA générative de Dell avec Intel : pour des flux de travail modernes
Dans le cadre de la Dell AI Factory, Dell Generative AI Solutions with Intel offre des plateformes conçues, testées et validées conjointement pour un déploiement transparent de l’IA. Dotées des accélérateurs Dell PowerEdge XE9680 et Intel® Gaudi 3® AI Accelerators et les solutions de stockage Dell, le réseau, les services et une pile logicielle open-source, ces solutions préconfigurées, flexibles et très performantes prennent en charge une gamme de cas d’utilisation GenAI, notamment la création de contenu, les assistants numériques, la conception et la création de données, la génération de code et bien plus encore.
Disponibilité
• Le Dell IR7000 sera disponible au premier trimestre de l’année 2025.
• Le modèle Dell PowerEdge XE9712 est échantillonné dès maintenant pour certains clients.
• Le modèle Dell PowerEdge M7725 sera disponible au 1er janvier 2025.
• Les mises à jour Dell PowerScale seront disponibles au quatrième trimestre 2024.
• Les mises à jour de Dell Data Lakehouse seront disponibles au premier semestre 2025.
• Les solutions Dell Generative AI avec Intel seront disponibles au cours du quatrième trimestre de l’année 2024.