VMware et NVIDIA ont annoncé une plate-forme d’entreprise prête pour l’IA basée sur vSphere et la dernière technologie GPU de NVIDIA basée sur A100 Cette plate-forme permet aux entreprises d’exécuter des charges de travail d’IA virtualisées qui tirent parti de l’accélération matérielle des GPU NVIDIA

Depuis l’annonce à VMworld en septembre 2020, NVIDIA et VMware ont collaboré pour améliorer l’intégration de leurs offres La version récente de la version vSphere Update 2 est certifiée par NVIDIA pour exécuter sa suite d’entreprise, NVIDIA AI Enterprise

La suite NVIDIA AI Enterprise comprend les applications, les frameworks et les outils utilisés par les chercheurs en IA, les data scientists et les développeurs Il est exclusivement disponible sur VMware vSphere pour exécuter des charges de travail IA virtualisées NVIDIA et VMware affirment que les GPU exposés à vSphere 7 offrent des performances de type bare-metal aux applications d’IA

NVIDIA AI Enterprise se compose des éléments de base de la pile logicielle GPU Au bas de la pile se trouvent le GPU NVIDIA et le DPU NVIDIA qui fournissent une accélération matérielle aux charges de travail La couche suivante contient les pilotes et les bibliothèques tels que vGPU, CUDA-X et DOCA qui exposent les API aux charges de travail Pour la conteneurisation et la prise en charge de Kubernetes, NVIDIA ajoute la combinaison de l’opérateur GPU et de l’opérateur réseau qui apporte l’accélération matérielle aux charges de travail natives du cloud. La couche supérieure a des frameworks et des outils optimisés pour le GPU tels que TensorFlow, PyTorch, NVIDIA TLT 30 et RAPIDS

Les chercheurs et développeurs ML qui utilisent les frameworks et les outils exécutés sur la suite NVIDIA AI Enterprise ne se rendent pas compte qu’ils ont affaire à une instance virtualisée d’accélérateur d’IA

Alimenter la pile est le GPU A100 phare de NVIDIA basé sur la technologie Ampere Combiné avec les capacités d’accès direct à la mémoire à distance (RDMA), le NVIDIA vGPU permet à la formation d’apprentissage en profondeur d’évoluer vers plusieurs nœuds avec une performance quasi nue, même pour les charges de travail de formation d’apprentissage en profondeur les plus importantes. Les fonctionnalités RDMA disponibles dans NVIDIA Bluefield DPU réduisent la latence impliquée dans le déplacement des données entre une carte d’interface réseau locale (NIC) et un GPU distant

Contrairement aux CPU, la virtualisation des GPU est un problème complexe à résoudre Grâce à son partenariat avec NVIDIA, VMware a apporté le mécanisme GPU le plus efficace à sa plate-forme vSphere Le support initial est venu via vGPU, qui ne permettait pas une isolation stricte au niveau matériel entre les VMS partageant le même GPU Avec la dernière version, vSphere 7 Update 2 prend en charge les GPU multi-instances (MIG), ce qui est considéré comme une étape importante dans la virtualisation de GPU Une machine virtuelle consommant un GPU basé sur MIG obtient des ressources matérielles dédiées telles que des multiprocesseurs de streaming et de la mémoire framebuffer avec une isolation stricte

Les administrateurs peuvent allouer des ressources à granularité fine à partir d’un vGPU soutenu par MIG Le GPU NVIDIA A100 peut être exploité pour exécuter plusieurs charges de travail IA en parallèle sans compromettre les performances Sur la base d’un profil de qualité de service (QoS), les administrateurs peuvent définir des seuils pour le vGPU par charge de travail

La NVIDIA A100 est devenue la référence en matière de formation de modèles d’IA dans le cloud Les hyperscalers, notamment AWS, Azure, IBM Cloud et Google Cloud, proposent des VM basées sur ce GPU

Avec vSphere 7 Update 2 et la suite NVIDIA AI Enterprise, le GPU A100 devient disponible pour les clients VMware exécutant des charges de travail IA dans le centre de données de l’entreprise

Janakiram MSV est analyste, conseiller et architecte chez Janakiram & Associates Il a été le fondateur et le CTO de Get Cloud Ready Consulting, une migration vers le cloud de niche et

Janakiram MSV est analyste, conseiller et architecte chez Janakiram & Associates Il a été le fondateur et le directeur technique de Get Cloud Ready Consulting, une entreprise spécialisée dans la migration et les opérations cloud dans le cloud, acquise par Aditi Technologies. Par ses discours, ses écrits et ses analyses, il aide les entreprises à tirer parti des technologies émergentes

Janakiram est l’un des premiers professionnels Microsoft Azure certifiés en Inde Il est l’un des rares professionnels à posséder des informations d’identification d’architecte de solution certifié Amazon, de développeur certifié Amazon et d’administrateur SysOps certifié Amazon. Janakiram est un architecte cloud professionnel certifié Google Il est reconnu par Google comme l’expert des développeurs Google (GDE) pour son expertise dans le domaine des technologies cloud et IoT. Il reçoit le titre de directeur professionnel et régional le plus utile par Microsoft Corporation Janakiram est un innovateur logiciel Intel, un prix décerné par Intel pour les contributions de la communauté dans l’IA et l’IoT Janakiram est professeur invité à l’Institut international des technologies de l’information (IIIT-H) où il enseigne le Big Data, le Cloud Computing, les Conteneurs et le DevOps aux étudiants inscrits au Master. Il est ambassadeur de la Cloud Native Computing Foundation

Janakiram était analyste senior au sein du réseau d’analystes Gigaom Research où il a analysé le paysage des services cloud Au cours de ses 18 années de carrière en entreprise, Janakiram a travaillé dans des sociétés de produits de classe mondiale, notamment Microsoft Corporation, Amazon Web Services et Alcatel-Lucent. Son dernier rôle était avec AWS en tant qu’évangéliste de la technologie où il les a rejoints en tant que premier employé en Inde. Auparavant, Janakiram a passé plus de 10 ans chez Microsoft Corporation où il était impliqué dans la vente, le marketing et l’évangélisation de la plate-forme et des outils d’application Microsoft. Au moment de quitter Microsoft, il était l’architecte cloud axé sur Azure

Nvidia, unité de traitement graphique

Actualités – États-Unis – VMware et NVIDIA apportent les GPU A100 à vSphere 7 pour virtualiser l’accélération de l’IA
Titre associé :
VMware et NVIDIA apportent A100 GPU vers vSphere 7 pour virtualiser l’accélération de l’IA
PS5 Restock Scalpers n’est plus intéressé? Le marché des GPU devient extrêmement mauvais — Nvidia RTX 3090 Prix en hausse

Source: https://www.forbes.com/sites/janakirammsv/2021/03/23/vmware-and-nvidia-bring-a100-gpus-to-vsphere-7-to-virtualize-ai-acceleration/

En s’appuyant sur ses expertises dans les domaines du digital, des technologies et des process , CSS Engineering vous accompagne dans vos chantiers de transformation les plus ambitieux et vous aide à faire émerger de nouvelles idées, de nouvelles offres, de nouveaux modes de collaboration, de nouvelles manières de produire et de vendre.

CSS Engineering s’implique dans les projets de chaque client comme si c’était les siens. Nous croyons qu’une société de conseil devrait être plus que d’un conseiller. Nous nous mettons à la place de nos clients, pour aligner nos incitations à leurs objectifs, et collaborer pour débloquer le plein potentiel de leur entreprise. Cela établit des relations profondes et agréables.

Nos services:

  1. Création des sites web professionnels
  2. Hébergement web haute performance et illimité
  3. Vente et installation des caméras de vidéo surveillance
  4. Vente et installation des système de sécurité et d’alarme
  5. E-Marketing

Toutes nos réalisations ici https://www.css-engineering.com/en/works/