Microchips 'associe à Intelligent Hardware Korea (IHWK) pour développer une plate-forme de calcul analogique visant à accélérer l'inférence Edge AI/ML

En utilisant la technologie de calcul en mémoire non volatile memBrain de Microchip et en travaillant avec des universités, IHWK crée un processeur SoC pour les dispositifs de neurotechnologie.

Pour faire face à l'essor rapide de la puissance de calcul requise par l'intelligence artificielle (AI) à la périphérie des réseau et de ses algorithmes d'inférence associés, Intelligent Hardware Korea (IHWK) développe une plate-forme informatique neuromorphique pour les appareils de neurotechnologie et des dispositifs neuromorphiques programmables sur le terrain. Microchip Technology, via sa filiale Silicon Storage Technology (SST), participe au développement de cette plateforme en fournissant un système d'évaluation pour sa solution de mémoire neuromorphique SuperFlash^® memBrain™. La solution est basée sur la technologie SuperFlash de mémoire non volatile (NVM) éprouvée de Microchip et optimisée pour effectuer une multiplication matricielle vectorielle (VMM) pour les réseaux neuronaux via une approche de calcul analogique en mémoire.

Le kit d'évaluation technologique memBrain est conçu pour permettre à IHWK de démontrer l'efficacité énergétique absolue de sa plate-forme informatique neuromorphique pour exécuter des algorithmes d'inférence en environnement embarqué. L’objectif final est de créer une unité de traitement analogique (APU) à très faible consommation pour des applications telles que les modèles d’IA générative, les voitures autonomes, le diagnostic médical, le traitement vocal, la sécurité/surveillance et les drones commerciaux.

Étant donné que les modèles actuels de réseaux neuronaux pour l'inférence de périphérie peuvent nécessiter 50 millions de synapses (poids) ou plus pour le traitement, il devient difficile de disposer d'une bande passante suffisante pour la DRAM hors puce, requise par les solutions purement numériques, créant un goulot d'étranglement pour le calcul des réseaux neuronaux qui réduit considérablement la puissance de calcul globale. En revanche, la solution memBrain stocke les poids synaptiques dans la grille flottante sur puce, en mode sous-seuil de consommation ultra faible et utilise les mêmes cellules mémoire pour effectuer les calculs, offrant ainsi des améliorations significatives en termes d'efficacité énergétique et de latence du système.

Par rapport aux approches numériques traditionnelles basées sur DSP et SRAM/DRAM, elle permet une consommation d'énergie 10 à 20 fois inférieure par décision d'inférence et peut réduire considérablement la nomenclature globale.

Pour développer l'APU, l'IHWK travaille également avec l'Institut coréen avancé des sciences et technologies (KAIST), à Daejeon, pour le développement de dispositifs, et avec l'Université Yonsei, à Séoul, pour l'assistance à la conception de dispositifs.

L'APU final devrait optimiser les algorithmes d'inférence au niveau du système et fonctionner entre 20 et 80 TeraOPS par watt, ce qui constitue la meilleure performance disponible pour une solution de calcul en mémoire conçue pour être utilisée dans des appareils alimentés par batterie.

« En utilisant une NVM éprouvée plutôt que des solutions de mémoire hors puce alternatives pour effectuer le calcul du réseau neuronal et stocker les poids, la technologie de calcul en mémoire memBrain de Microchip est sur le point d'éliminer les énormes goulots d'étranglement de communications de données associé au traitement de l’IA Edge. » a déclaré Mark Reiten, vice-président de SST, l'unité commerciale de licences de Microchip. « Travailler avec l'IHWK, les universités et les premiers clients est une excellente opportunité de prouver davantage notre technologie de traitement neuronal et de faire progresser notre implication dans le domaine de l'IA en nous engageant avec une entreprise de R&D leader en Corée. »

« La Corée est un point chaud important pour le développement des semi-conducteurs d’IA », a déclaré Sanghoon Yoon, directeur de la succursale d’IHWK. « Nos experts en mémoire non volatile et émergente ont validé que le produit memBrain de Microchip, basé sur la technologie NVM éprouvée, constitue la meilleure option lorsqu'il s'agit de créer des systèmes informatiques en mémoire ».

Le stockage permanent des modèles neuronaux dans l'élément de traitement de la solution memBrain prend également en charge la fonctionnalité de démarrage instantané pour le traitement du réseau neuronal en temps réel. IHWK exploite la non-volatilité des cellules à grille flottante de la mémoire SuperFlash pour atteindre une nouvelle référence en matière de dispositifs informatiques de pointe à faible consommation prenant en charge l'inférence d'apprentissage automatique à l'aide de modèles ML avancés.

Pour plus d’informations, contactez This email address is being protected from spambots. You need JavaScript enabled to view it. ou le contact régional approprié répertorié sur le site Web de SST.

www.microchip.com

  Demander plus d’information…