WoW : Les nouveaux systèmes Graphcore bénéficient d'une augmentation considérable de puissance d’efficacité avec le 1er processeur 3D wafer on wafer

Graphcore présente aujourd’hui le premier processeur 3D “wafer on wafer” (technologie de puces empilées) au monde : le processeur Bow, pièce maîtresse de la nouvelle génération de systèmes informatiques Bow Pod AI.

Qui propose des performances 40 % supérieures et une efficacité énergétique 16 % plus élevée pour les applications d’IA existantes. Le tout, pour le même prix et sans modifications logicielles.

La solution phare Bow Pod256 offre plus de 89 PetaFLOPS de calcul d’IA (intelligence artificielle), tandis que le Bow POD1024 superévolutif fournit 350 PetaFLOPS, ce qui permet aux ingénieurs en apprentissage automatique de continuer à s’adapter à la taille en évolution constante des modèles d’IA et d’innover dans le secteur.

Cirrascale, fournisseur de services dans le cloud américain, rend disponibles des systèmes Bow Pod dans le cadre de leur service Graphcloud Bare Metal, tandis que G-Core Labs, fournisseur de services cloud européen, a annoncé son lancement d’instances Bow dans le cloud dans le 2e trimestre 2022.

Résultats concrets
Les Bow Pods sont conçus pour offrir des performances concrètes et évolutives pour de très nombreuses applications d’IA, des applications GPT et BERT pour le traitement naturel du langage à EfficientNet et ResNet pour la vision par ordinateur, en passant par les réseaux de neurones graphiques et bien plus encore.

Les clients profitent de performances jusqu’à 40 % supérieures pour nombre d’applications d’IA dans la même fourchette de performances optimales qu’avec les systèmes Mk2 IPU-Pod avec Bow Pods.

Le Bow Pod16 fournit des performances 5 fois supérieures à celles d’un système Nvidia DGX A100 comparable, et pour la moitié du prix, ce qui résulte en un avantage TCO 10 fois supérieur pour le modèle de vision par ordinateur de pointe EfficientNet.

Efficacité énergétique améliorée
En plus des gains de 40 % en performances, les systèmes Bow Pod proposent également une meilleure efficacité énergétique que leurs prédécesseurs.

Testées dans le cadre de nombreuses applications concrètes, les Bow Pods fournissent un rendement électrique jusqu’à 16 % supérieur.




Technologie “wafer on wafer” (technologie de puces empilées)
Les systèmes Bow Pod sont synonymes d’améliorations des performances considérables et de meilleure efficacité énergétique grâce à l’emploi de semiconducteurs 3D avec le processeur Bow au cœur des systèmes Bow Pod.

Graphcore est le premier sur le marché à vendre des systèmes utilisant la technologie 3D “wafer on wafer” de TSMC, que Graphcore a développée en collaboration avec eux. Le wafer on wafer est capable de fournir une bande passante bien plus élevée entre puces en silicium, et est utilisé pour optimiser l’efficacité énergétique et améliorer l’alimentation à l’architecture Colossus au niveau des wafers.

Grâce au wafer on wafer des processeurs Bow, deux wafers sont reliées pour générer un nouvelle puce 3D : un wafer pour le traitement de l’IA architecturalement compatible avec le processeur GC200 doté de 1 472 tuiles IPU-Core indépendants, capable d’exécuter plus de 8 800 threads avec 900 Mo de mémoire intégrée, et une seconde wafer avec puce d’alimentation.

En ajoutant des Deep Trench Capacitors (DTC) à la puce d’alimentation (à côté des noyaux de traitement et de la mémoire), Graphcore est en mesure d’optimiser les performances de 40 % et de profiter de 350 TeraFLOPS de calcul d’IA. En collaborant étroitement avec TSMC, Graphcore a optimisé plusieurs technologies, dont des innovations telles que le BTSV (Back Side Through Silicon Via) et la liaison hybride WoW (Wafer-on-Wafer).

"TSMC a travaillé en étroite collaboration avec Graphcore, qui est l’un des principaux clients de notre solution révolutionnaire SoIC-WoW (Wafer-on-Wafer), car leurs conceptions pionnières dans les architectures de traitement parallèle de pointe en font un partenaire idéal pour notre technologie ," a déclaré Paul de Bot, directeur général de TSMC Europe.

"Graphcore a pleinement exploité la possibilité d'ajouter une alimentation directement connectée via notre technologie WoW et ainsi atteindre une étape majeure dans la performance, et nous sommes impatients de travailler avec eux sur de nouvelles évolutions de cette technologie."




Technologie éprouvée
Les clients sont des leaders dans leur domaine, qui ont besoin de systèmes informatiques alliant performance, efficacité et fiabilité.. Ceux qui utilisent déjà des processeurs IPU devraient trouver aisée, la transition vers les systèmes Bow Pod.

La pile logicielle Poplar ainsi que la bibliothèque de modèles optimisés pour les IPU en constante évolution,, tirent pleinement parti des capacités des systèmes Bow Pod.
La nouvelle solution Bow-2000 (au cœur de chaque système Bow Pod) s’appuie sur la même architecture de systèmes robustes que la machine IPU-2000 de deuxième génération, mais désormais dotée de quatre processeurs Bow puissants, fournissant 1,4 PetaFLOPS de calcul d’IA.

Entièrement rétrocompatible avec les systèmes IPU-POD existants, le Bow 2000 est toujours synonyme de vitesse élevée, de latence faible, et de taille flexible et compacte.

Allié à certains serveurs hôtes de marques de pointe (Dell, Atos, Supermicro, Inspur, Lenovo, etc.) pour créer des systèmes Bow Pod, le Bow-2000 constitue la base de la gamme Bow Pod, du Bow Pod16 avec quatre Bow-2000 et un serveur hôte au Bow Pod32 (huit Bow-2000 et un serveur hôte) et au Bow Pod64, en passant par les systèmes phares Bow Pod256 et Bow Pod1024.

Disponibilité
Les systèmes Bow Pod sont d’ores et déjà disponibles auprès des partenaires commerciaux de Graphcore tout autour du monde.

Voici ce que certains partenaires ont eu à dire sur l’arrivée des Bow Pods :

« Le Graphcloud de Cirrascale permet aux innovateurs en IA de découvrir les capacités de l’IPU Graphcore et fournit une plateforme flexible et évolutive, adaptée aux besoins croissants en puissance de calcul. L’addition de Bow Pods à Graphcloud optimise le calcul d’IA, qu’il soit utilisé pour accélérer des modèles massifs sur de grandes configurations Pod, ou pour offrir plus de possibilités aux utilisateurs individuels dans des situations multi-locataires. » PJ Go, PDG, Cirrascale Cloud Services

« Pour les clients G-Core Labs, les performances sont synonymes de progrès : les IPU de Graphcore leur permettent de déployer leurs modèles d’IA et de bénéficier des avantages d’entreprise escomptés plus rapidement. L’amélioration de la puissance de calcul rendue possible par les Bow Pods aura pour effet de stimuler l’innovation en intelligence artificielle, et leur disponibilité via le cloud G-Core Labs garantit une accessibilité étendue. » Andre Reitenbach, PDG, G-Core Labs

" Les systèmes Bow POD de Graphcore fixent les jalons d’un nouveau standard en matière de calcul d'intelligence artificielle qui permettra aux clients d'Atos de pousser plus loin leur innovation en matière d'IA et d'obtenir des résultats plus rapidement que jamais. Alors que les modèles augmentent en taille et en complexité, Graphcore et Atos travaillent ensemble pour fournir des systèmes Exascale. Dans le même temps, l'accent mis sans relâche par Graphcore sur l'efficacité du calcul garantit que les utilisateurs obtiennent le meilleur retour possible sur leur investissement en IA." Agnès Boudot, Head of HPC & Quantum, Atos

www.graphcore.ai

  Demander plus d’information…