Google zegt dat zijn AI-supercomputer sneller en groener is dan Nvidia – Nieuws | Laatste nieuws | Laatste nieuws

4 april (Reuters) – Alphabet Inc’s (GOOGL.O) Google heeft nieuwe details vrijgegeven over de supercomputers die het gebruikt om AI-modellen te trainen, en zegt dat de systemen zowel sneller als efficiënter zijn dan de vergelijkbare systemen van Nvidia Corp (NVDA Het bespaart meer energie. . O).

Google heeft zijn eigen gepatenteerde chip ontwikkeld, de Tensor Processing Unit of TPU. Het gebruikt deze chips in meer dan 90% van het werk van het bedrijf in AI-training – het proces van het invoeren van gegevens door modellen om het bruikbaar te maken voor menselijke taken zoals het beantwoorden van tekstvragen of het weergeven van afbeeldingen.

Google TPU is nu in de vierde generatie. Dinsdag publiceerde Google een wetenschappelijk artikel waarin wordt uitgelegd hoe het meer dan 4.000 chips koppelt aan een supercomputer.

Aangezien de zogenaamde grote taalmodellen die technologieën zoals Google’s Bard of OpenAI’s ChatGPT aandrijven, te groot zijn om op een chip te worden opgeslagen, is de ontwikkeling van deze verbindingen een belangrijk punt geworden in de concurrentie tussen bedrijven die kunstmatige intelligentie ontwikkelen en supercomputers.

In plaats daarvan moeten modellen worden verdeeld over duizenden chips die weken of langer samenwerken om het model te trainen. Het PaLM-model van Google – het grootste taalmodel dat ooit voor het publiek beschikbaar is gesteld – werd in 50 dagen getraind op twee supercomputers met 4.000 chips.

Google zegt dat zijn supercomputers het gemakkelijk maken om de communicatie tussen chips snel te configureren, waardoor problemen en tweaks voor prestatieverbeteringen worden voorkomen.

“Circuitvervanging maakt het gemakkelijker om defecte componenten te omzeilen”, aldus Google Fellow Norm Jouppi en Google Distinguished Engineer David Patterson in een blogpost over het systeem. “Deze flexibiliteit stelt ons zelfs in staat om de topologie van de supercomputerinteractie te veranderen om de prestaties van het ML-model (machine learning) te versnellen.”

Hoewel Google nog maar net details over zijn supercomputer heeft vrijgegeven, is deze sinds 2020 online in het datacenter van het bedrijf in Mayes County, Oklahoma. Google zei dat startup Midjourney het systeem gebruikte om een ​​model te trainen dat nieuwe afbeeldingen maakt na een paar woorden tekst te hebben gekregen.

In het rapport zei Google dat zijn supercomputer voor systemen van vergelijkbare grootte 1,7 keer sneller en 1,9 keer energiezuiniger is dan een systeem op basis van Nvidia’s A100-chip, die tegelijk met de vierde generatie op de markt komt. TPU. .

Google zei dat het zijn vierde generatie chip niet vergeleek met Nvidia’s huidige vlaggenschip H100-chip, omdat de H100 na de Google-chip kwam en werd gebouwd met nieuwere technologie.

Google liet doorschemeren dat het zou kunnen werken aan een nieuwe TPU om te concurreren met de Nvidia H100, maar ging niet verder in.

Rapportage in San Francisco door Stephen Nellis Bewerkt door Matthew Lewis

Onze normen: Vertrouwensprincipes van Thomson Reuters.

2023-04-05 04:18:20
Bron – Reuters

Vertaling“24 UUR”