Depuis 1987 – Couvrant les ordinateurs les plus rapides du monde et les personnes qui les exécutent

Depuis 1987 – Couvrant les ordinateurs les plus rapides au monde et les personnes qui les dirigent

12 avril 2021 – L’insertion de code d’optimisation léger dans les périphériques réseau à haut débit a permis à une collaboration dirigée par KAUST d’augmenter par cinq la vitesse d’apprentissage automatique sur les systèmes informatiques parallélisés

Cette technologie «d’agrégation en réseau», développée avec des chercheurs et des architectes système d’Intel, de Microsoft et de l’Université de Washington, peut apporter des améliorations spectaculaires de la vitesse en utilisant du matériel réseau programmable facilement disponible

L’avantage fondamental de l’intelligence artificielle (IA) qui lui donne tant de pouvoir pour «comprendre» et interagir avec le monde est l’étape d’apprentissage automatique, au cours de laquelle le modèle est entraîné à l’aide de grands ensembles de données d’entraînement étiquetées. Plus l’IA est formée de données, meilleures sont les performances du modèle lorsqu’il est exposé à de nouvelles entrées

La récente explosion d’applications d’IA est en grande partie due à un meilleur apprentissage automatique et à l’utilisation de modèles plus grands et d’ensembles de données plus diversifiés Cependant, effectuer les calculs d’apprentissage automatique est une tâche extrêmement pénible qui repose de plus en plus sur de grandes baies d’ordinateurs exécutant l’algorithme d’apprentissage en parallèle.

«Comment former des modèles d’apprentissage en profondeur à grande échelle est un problème très difficile», déclare Marco Canini, de l’équipe de recherche KAUST «Les modèles d’IA peuvent être constitués de milliards de paramètres, et nous pouvons utiliser des centaines de processeurs qui doivent fonctionner efficacement en parallèle Dans de tels systèmes, la communication entre les processeurs lors des mises à jour incrémentielles du modèle devient facilement un goulot d’étranglement majeur des performances. »

L’équipe a trouvé une solution potentielle dans la nouvelle technologie réseau développée par Barefoot Networks, une division d’Intel

«Nous utilisons le nouveau matériel de réseau de plan de données programmable de Barefoot Networks pour décharger une partie du travail effectué lors de la formation à l’apprentissage automatique distribué», explique Amedeo Sapio, un ancien de KAUST qui a depuis rejoint l’équipe Barefoot Networks d’Intel «L’utilisation de ce nouveau matériel réseau programmable, plutôt que simplement du réseau, pour déplacer des données signifie que nous pouvons effectuer des calculs le long des chemins du réseau. »

La principale innovation de la plate-forme SwitchML de l’équipe est de permettre au matériel réseau d’effectuer la tâche d’agrégation de données à chaque étape de synchronisation pendant la phase de mise à jour du modèle du processus d’apprentissage automatique. Non seulement cela décharge une partie de la charge de calcul, mais cela réduit également considérablement la quantité de transmission de données.

«Bien que le plan de données du commutateur programmable puisse effectuer des opérations très rapidement, les opérations qu’il peut effectuer sont limitées», déclare Canini «Notre solution devait donc être suffisamment simple pour le matériel et suffisamment flexible pour résoudre des problèmes tels que la capacité de mémoire embarquée limitée. SwitchML relève ce défi en co-concevant le réseau de communication et l’algorithme de formation distribué, réalisant une accélération jusqu’à 55 fois par rapport à l’approche de pointe »

Sapio, A, Canini, M, Ho, C-Y, Nelson, J, Kalnis, P, Kim, C, Krishnamurthy, A, Moshref, M, Ports, DRK, Richtarik, P Mise à l’échelle de l’apprentissage automatique distribué avec l’agrégation en réseau Le 18e symposium USENIX sur la conception et la mise en œuvre de systèmes en réseau (NSDI ’21), avril 2021

Soyez la personne la plus informée de la salle! Gardez une longueur d’avance sur les tendances technologiques grâce à des mises à jour complètes qui vous sont livrées chaque semaine!

Rejoignez HPCwire ici même le lundi 12 avril à 8h30 (heure du Pacifique) pour voir le discours liminaire sur Nvidia GTC21 du PDG de Nvidia, Jensen Huang, retransmis en direct dans son intégralité Hébergé par HPCwire, vous pouvez cliquer pour rejoindre la keynote de Huang sur notre livestream pour entendre les actualités attendues de Nvidia et En savoir plus…

Alors que les tensions entre les US et la Chine continue de mijoter, le US Le gouvernement a ajouté aujourd’hui sept entités chinoises de calcul intensif à une liste noire économique Le US Barres de la liste d’entités US entreprises de fournir des technologies clés En savoir plus…

Les carburants diesel représentent encore près de dix pour cent de tous les U liés à l’énergieS émissions de carbone – la plupart provenant de véhicules lourds comme les camions et les équipements de construction L’efficacité énergétique est la clé de ces machines, En savoir plus…

Habana Labs, une société d’IA appartenant à Intel, s’est associée au fabricant de serveurs Supermicro pour fournir un calcul IA haute performance et haute efficacité sous la forme de nouveaux serveurs de formation et d’inférence qui alimenteront le futur En savoir plus…

À la suite du lancement par Intel des derniers processeurs Xeon Scalable «Ice Lake» de troisième génération de la société le 6 avril (mardi), les partenaires de serveurs Intel Cisco, Dell EMC, HPE et Lenovo ont simultanément dévoilé leurs premiers modèles de serveurs construits autour des dernières puces Et bien que son rival AMD puisse En savoir plus…

Volkswagen Passenger Cars est l’un des plus grands constructeurs automobiles au monde depuis plus de 70 ans La société livre plus de 6 millions d’automobiles à des clients mondiaux chaque année, à partir de 50 sites de production sur cinq continents En savoir plus…

Dans cette fonctionnalité régulière, HPCwire met en évidence les recherches récemment publiées dans la communauté informatique haute performance et les domaines associés De la programmation parallèle à l’exascale en passant par l’informatique quantique, les détails sont ici
En savoir plus…

Rejoignez HPCwire ici même le lundi 12 avril à 8h30 (heure du Pacifique) pour voir le discours liminaire sur Nvidia GTC21 du PDG de Nvidia, Jensen Huang, retransmis en direct dans son intégralité Hébergé par HPCwire, vous pouvez cliquer pour rejoindre la keynote de Huang sur notre livestream pour entendre les actualités attendues de Nvidia et En savoir plus…

Alors que les tensions entre les US et la Chine continue de mijoter, le US Le gouvernement a ajouté aujourd’hui sept entités chinoises de calcul intensif à une liste noire économique The U En savoir plus…

Habana Labs, une société d’IA appartenant à Intel, s’est associée au fabricant de serveurs Supermicro pour fournir un calcul IA haute performance et haute efficacité sous la forme de nouvelles En savoir plus…

À la suite du lancement par Intel des derniers processeurs Xeon Scalable «Ice Lake» de troisième génération de la société le 6 avril (mardi), les partenaires de serveurs Intel Cisco, Dell EMC, HPE et Lenovo ont simultanément dévoilé leurs premiers modèles de serveurs construits autour des dernières puces Et bien qu’AMD, son grand rival, puisse En savoir plus…

L’attente est terminée Aujourd’hui, Intel a officiellement lancé son processeur de centre de données 10 nm, le processeur Intel Xeon Scalable de troisième génération, nommé Ice Lake Avec jusqu’à 40 Lire la suite…

HPE a lancé aujourd’hui une nouvelle famille de solutions de stockage associée au système de fichiers parallèle IBM Spectrum Scale Erasure Code Edition (description ci-dessous) et à la fonctionnalité En savoir plus…

RIKEN a pris d’assaut le monde du supercalculateur l’été dernier en lançant Fugaku – qui est devenu (et reste) le supercalculateur le plus puissant du monde – ne Lire la suite…

L’Organisation européenne pour la recherche nucléaire (CERN) regroupe 23 pays, 15 000 chercheurs, des milliards de dollars par an et la plus grande machine du monde En savoir plus…

L’adoption rapide de Julia, le langage de programmation open source de haut niveau avec des racines au MIT, ne montre aucun signe de ralentissement selon les données de Julialangorg J’ai lu plus…

L’attente est terminée Aujourd’hui, Intel a officiellement lancé son processeur de centre de données 10 nm, le processeur Intel Xeon Scalable de troisième génération, nommé Ice Lake Avec jusqu’à 40 Lire la suite…

L’Organisation européenne pour la recherche nucléaire (CERN) regroupe 23 pays, 15 000 chercheurs, des milliards de dollars par an et la plus grande machine du monde En savoir plus…

Qu’est-ce que ça fait de concevoir une application pour le supercalculateur le plus rapide du monde, qui devrait être mise en ligne aux États-Unis en 2021? Sunita Chandrasekaran, de l’Université du Delaware, dirige une équipe internationale d’élite dans cette tâche Chandrasekaran, professeur adjoint d’informatique et de sciences de l’information, a récemment été nommé En savoir plus…

HPE a lancé aujourd’hui une nouvelle famille de solutions de stockage associée au système de fichiers parallèle IBM Spectrum Scale Erasure Code Edition (description ci-dessous) et à la fonctionnalité En savoir plus…

Le plus gros facteur intéressant dans les puces de serveur est le nanomètre AMD a battu Intel avec un processeur construit sur un nœud de processus 7 nm * – avec 5 nm et 3 nm en route – a été i Lire la suite…

En termes de revenus, le géant pétrolier et gazier Saudi Aramco est l’une des plus grandes entreprises au monde et a historiquement utilisé des quantités proportionnées de calcul intensif En savoir plus…

IonQ, une start-up d’informatique quantique basée dans le Maryland qui travaille avec la technologie des pièges à ions, prévoit de devenir publique via une fusion de SPAC (Special Purpose Acquisition Company) a En savoir plus…

La prévision numérique du temps (NWP) est un pilier du calcul intensif Certaines des premières applications des premiers supercalculateurs concernaient la modélisation du climat, et En savoir plus…

Une innovation de stockage local proche des nœuds appelée Rabbit a fortement contribué à la décision du Lawrence Livermore National Laboratory de sélectionner la proposition de Cray pour sa machine CORAL-2, le premier supercalculateur de classe exascale du laboratoire, El Capitan Les détails de cette nouvelle technologie de stockage ont été révélés En savoir plus…

La résolution (et la tentative de résolution) du Rubik’s Cube a ravi des millions d’amateurs de puzzles depuis 1974, année où le cube a été inventé par un sculpteur et archite hongrois. En savoir plus…

Historiquement, l’Afrique n’a pas été exactement synonyme de calcul intensif Il n’y a qu’une poignée de supercalculateurs sur le continent, avec peu de classement sur le Lire la suite…

La pandémie COVID-19 pose un plus grand défi à la communauté informatique haute performance que jamais Couverture par HPCwire de la réponse du supercalcul t En savoir plus…

Le PDG de HPE, Antonio Neri, a annoncé aujourd’hui (2 mars 2021) la nomination de Justin Hotard au poste de directeur général du HPC, des solutions et des laboratoires critiques pour la mission, efficace En savoir plus…

Lors d’un événement de lancement virtuel qui s’est tenu aujourd’hui (lundi), AMD a dévoilé sa gamme de processeurs Epyc «Milan» de troisième génération: un ensemble de 19 SKU – y compris la partie phare de 64 cœurs, 280 watts 7763 – destinée à Charges de travail HPC, entreprise et cloud Notamment, les puces Epyc Milan de troisième génération atteignent 19% En savoir plus…

La Station spatiale internationale recevra bientôt une livraison de puissants outils d’IA, de périphérie et de cloud computing de HPE et Microsoft Azure pour étendre l’expérience technologique En savoir plus…

HPCwire est une marque déposée de Tabor Communications, Inc L’utilisation de ce site est régie par nos conditions d’utilisation et notre politique de confidentialité

Reproduction en tout ou en partie sous quelque forme ou support que ce soit sans l’autorisation écrite expresse de Tabor Communications, Inc est interdit

Les cookies nécessaires sont absolument essentiels au bon fonctionnement du site Cette catégorie comprend uniquement les cookies qui assurent les fonctionnalités de base et les fonctionnalités de sécurité du site Web Ces cookies ne stockent aucune information personnelle

Tous les cookies qui peuvent ne pas être particulièrement nécessaires au fonctionnement du site Web et qui sont utilisés spécifiquement pour collecter des données personnelles des utilisateurs via des analyses, des publicités et d’autres contenus intégrés sont appelés cookies non nécessaires. Il est obligatoire d’obtenir le consentement de l’utilisateur avant d’exécuter ces cookies sur votre site Web

Apprentissage automatique, Université des sciences et technologies King Abdullah, intelligence artificielle, informatique

Actualités – GB – La collaboration de KAUST avec Intel, Microsoft et l’Université de Washington accélère la formation aux modèles ML
Titre associé :
Machine learning at speed
La collaboration KAUST avec Intel, Microsoft et l’Université de Washington accélère la formation aux modèles ML

Source: https://www.hpcwire.com/off-the-wire/kaust-collaboration-with-intel-microsoft-and-university-of-washington-accelerates-training-in-ml-models/

En s’appuyant sur ses expertises dans les domaines du digital, des technologies et des process , CSS Engineering vous accompagne dans vos chantiers de transformation les plus ambitieux et vous aide à faire émerger de nouvelles idées, de nouvelles offres, de nouveaux modes de collaboration, de nouvelles manières de produire et de vendre.

CSS Engineering s’implique dans les projets de chaque client comme si c’était les siens. Nous croyons qu’une société de conseil devrait être plus que d’un conseiller. Nous nous mettons à la place de nos clients, pour aligner nos incitations à leurs objectifs, et collaborer pour débloquer le plein potentiel de leur entreprise. Cela établit des relations profondes et agréables.

Nos services:

  1. Création des sites web professionnels
  2. Hébergement web haute performance et illimité
  3. Vente et installation des caméras de vidéo surveillance
  4. Vente et installation des système de sécurité et d’alarme
  5. E-Marketing

Toutes nos réalisations ici https://www.css-engineering.com/en/works/