WEKA dévoile le premier cluster de stockage d'IA basé sur la superchip de CPU NVIDIA Grace
La société présente au Supercomputing 2024 une nouvelle solution avec NVIDIA, Arm et Supermicro pour offrir une densité de performances et des économies d'énergie exceptionnelles pour les déploiements d'IA en entreprise
ATLANTA et CAMPBELL, Californie, 19 novembre 2024 /PRNewswire/ -- Depuis le Supercomputing 2024 : WEKA, la société de plateforme de données natives IA, a présenté la première solution de stockage haute performance du secteur pour la superchip de CPU NVIDIA Grace™. La solution fonctionnera sur un nouveau serveur de stockage puissant de Supermicro équipé du logiciel WEKA® Data Platform et de cœurs Arm® Neoverse™ V2 utilisant la superchip de CPU NVIDIA Grace et NVIDIA ConnectX-7 et NVIDIA BlueField-3 mise en réseau pour accélérer les charges de travail d'IA de l'entreprise avec une densité de performance et une efficacité énergétique inégalées.
Alimenter la prochaine génération d'innovations de l'IA
Les charges de travail actuelles en matière d'IA et de calcul à haute performance (HPC) exigent un accès rapide aux données, mais la plupart des centres de données sont confrontés à des contraintes croissantes en matière d'espace et d'énergie.
NVIDIA Grace intègre dans un seul module le niveau de performances d'une station de travail ou d'une plateforme serveur x86-64 à deux sockets. Les processeurs Grace Superchips sont alimentés par 144 cœurs Arm Neoverse V2 haute performance qui offrent une efficacité énergétique deux fois supérieure à celle des serveurs x86 traditionnels. Les cartes réseau NVIDIA ConnectX-7 et les SuperNIC BlueField-3 sont dotées d'une accélération RDMA/RoCE spécialement conçue pour fournir une connectivité réseau à haut débit et à faible latence à des vitesses pouvant atteindre 400 Gbits/s. La combinaison de l'architecture logicielle révolutionnaire zéro-copie de WEKA Data Platform fonctionnant sur le serveur de stockage Supermicro Petascale minimise les goulets d'étranglement E/S et réduit la latence du pipeline d'IA pour optimiser l'utilisation du GPU et accélérer l'apprentissage et l'inférence des modèles d'IA afin d'améliorer considérablement le temps d'obtention des premiers jetons, des découvertes et des idées tout en réduisant la consommation d'énergie et les coûts associés.
Principaux avantages de la solution :
- Vitesse et évolutivité extrêmes pour l'IA d'entreprise : La superchip de CPU NVIDIA Grace, avec 144 cœurs Arm® Neoverse™ V2 à haute performance connectés par un NVIDIA Scalable Coherency Fabric personnalisé très performant, offre les performances d'un serveur CPU x86 à deux sockets pour la moitié de la puissance. Les cartes réseau NVIDIA ConnectX-7 et les SuperNIC NVIDIA BlueField-3 fournissent une mise en réseau haute performance, essentielle pour les charges de travail d'IA des entreprises. Associée à l'architecture native IA de WEKA Data Platform, qui accélère jusqu'à 10 fois le temps d'obtention du premier jeton, la solution garantit des performances optimales dans les pipelines de données d'IA à pratiquement n'importe quelle échelle.
- Utilisation optimale des ressources : La plateforme de données WEKA haute performance, combinée à l'architecture mémoire LPDDR5X des processeurs Grace, garantit jusqu'à 1 To/s de bande passante mémoire et un flux de données continu, éliminant ainsi les goulots d'étranglement. En intégrant l'architecture distribuée de WEKA et la technologie de contournement du noyau, les organisations peuvent accélérer l'apprentissage des modèles d'IA, réduire les temps d'épochage et augmenter les vitesses d'inférence, ce qui en fait la solution idéale pour mettre à l'échelle les charges de travail d'IA de manière efficace.
- Efficacité énergétique et spatiale exceptionnelle : La plateforme de données WEKA offre une efficacité de pile GPU 10 à 50 fois supérieure pour traiter de manière transparente les charges de travail d'IA et de HPC à grande échelle. En outre, grâce à la réduction des copies de données et à l'élasticité du cloud, la plateforme WEKA peut réduire l'empreinte des infrastructures de données de 4 à 7 fois et réduire la production de carbone - en évitant jusqu'à 260 tonnes de CO2e par Po stocké annuellement et en réduisant les coûts énergétiques de 10 fois. Associé à l'efficacité énergétique multipliée par deux de la superchip de CPU Grace par rapport aux principaux serveurs x86, les clients peuvent faire plus avec moins, atteindre les objectifs de développement durable tout en augmentant les performances de l'IA.
« L'IA transforme la façon dont les entreprises du monde entier innovent, créent et opèrent, mais la forte augmentation de son adoption a drastiquement augmenté la consommation d'énergie des centres de données, qui devrait doubler d'ici 2026, selon l'Agence atomique internationale », déclare Nilesh Patel, responseble des produits, WEKA. « WEKA est ravi de s'associer à NVIDIA, Arm et Supermicro pour développer des solutions hautes performances et économes en énergie pour les centres de données de la prochaine génération qui promeuvent l'IA d'entreprise et les charges de travail hautes performances tout en accélérant le traitement de grandes quantités de données et en réduisant le temps nécessaire à l'obtention d'informations exploitables. »
« WEKA a développé avec Supermicro une puissante solution de stockage qui s'intègre parfaitement à la superchip de CPU NVIDIA Grace pour améliorer l'efficacité des charges de travail d'IA intensives en données à l'échelle. Cette solution fournira un accès rapide aux données tout en réduisant la consommation d'énergie, ce qui permettra aux entreprises axées sur les données de booster leur infrastructure d'IA », déclare Ivan Goldwasser, directeur des CPU pour centres de données, NVIDIA.
« Le serveur de stockage ARS-121L-NE316R en pétaoctets de Supermicro est le premier serveur optimisé pour le stockage utilisant la superchip de CPU Grace de NVIDIA », déclare Patrick Chiu, directeur principal, gestion des produits de stockage, Supermicro. « La conception du système comprend 16 baies SSD Gen5 E3.S NVMe haute performance ainsi que trois emplacements réseau PCIe Gen 5, qui prennent en charge jusqu'à deux adaptateurs réseau NVIDIA ConnectX 7 ou BlueField-3 SuperNIC et un adaptateur réseau OCP 3.0. Le système est idéal pour les charges de travail de stockage haute performance telles que l'IA, l'analyse de données et les applications cloud hyperscale. Notre collaboration avec NVIDIA et WEKA a abouti à une plateforme de données permettant aux clients de rendre leurs centres de données plus économes en énergie tout en ajoutant de nouvelles capacités de traitement de l'IA. »
« L'innovation en IA nécessite une nouvelle approche de la conception des circuits et des systèmes qui concilie performance et efficacité énergétique. Arm est fier de travailler avec NVIDIA, WEKA et Supermicro pour fournir une solution d'IA d'entreprise très performante qui apporte une valeur exceptionnelle et une efficacité énergétique sans compromis », déclare David Lecomber, directeur HPC, Arm.
La solution de stockage de WEKA et Supermicro utilisant les superchips de CPU Grace de NVIDIA sera commercialisée début 2025. Les participants au Supercomputing 2024 peuvent rendre visiter à l'équipe WEKA au stand 1931 pour plus de détails et une démonstration de la nouvelle solution.
À propos de WEKA
WEKA conçoit une nouvelle approche de la pile de données de l'entreprise, adaptée à l'ère de l'IA. La WEKA® Data Platform établit la norme pour l'infrastructure d'IA avec une architecture native cloud et IA déployable n'importe où, offrant une portabilité optimale des données à travers les environnements sur site, cloud et edge. Elle transforme les silos de données existants en pipelines de données dynamiques qui accélèrent les GPU, l'apprentissage et l'inférence des modèles d'IA et d'autres charges de travail exigeantes, leur permettant de travailler plus efficacement, de consommer moins d'énergie et de réduire les émissions de carbone associées. WEKA aide les entreprises et les organismes de recherche les plus innovants au monde à surmonter les défis complexes liés aux données pour parvenir plus rapidement et plus durablement à des découvertes, des idées et des résultats - y compris 12 des entreprises du classement Fortune 50. Visitez www.weka.io pour en savoir plus ou rejoignez WEKA sur LinkedIn, X et Facebook.
WEKA a été reconnu comme Visionnaire dans le 2024 Gartner® Magic Quadrant™ for File and Object Storage Platforms - lisez le rapport.
WEKA et le logo WEKA sont des marques déposées de WekaIO, Inc. Les autres noms commerciaux utilisés dans le présent document peuvent être des marques commerciales de leurs propriétaires respectifs.
Photo - https://mma.prnewswire.com/media/2561552/WEKA_NVIDIA_SMC_PR.jpg
Logo - https://mma.prnewswire.com/media/1796062/WEKA_v1_Logo.jpg
Partager cet article