Qualcomm en Nvidia strijden om de eerste plaats in AI-chipefficiëntietests – Nieuws | Laatste nieuws | Laatste nieuws

5 april (Reuters) – De kunstmatige-intelligentiechips van Qualcomm Inc (QCOM.O) verslaan Nvidia Corp (NVDA.O) in twee van de drie energie-efficiëntiestatistieken die zijn gewonnen door de Taiwanese startup, in nieuwe testgegevens die woensdag zijn vrijgegeven. beide in één categorie.

Nvidia domineert de markt voor het trainen van AI-modellen met grote hoeveelheden data. Maar als deze AI-modellen eenmaal zijn getraind, worden ze vaker gebruikt in bewerkingen die “inferentie” worden genoemd, waarbij taken worden uitgevoerd zoals het genereren van tekstreacties op prompts en het beslissen of een afbeelding een kat bevat.

Analisten denken dat de markt voor datacenter-extractiechips snel zal groeien naarmate bedrijven AI-technologieën toepassen op hun producten, maar bedrijven zoals Alphabet Inc’s (GOOGL.O) Google zijn al aan het onderzoeken hoe ze extra kosten kunnen vermijden. toevoegen.

Een van die grote kosten is elektriciteit, en Qualcomm heeft zijn geschiedenis van het ontwerpen van chips voor batterijgevoede apparaten zoals smartphones gebruikt om een ​​chip genaamd Cloud AI 100 te maken die gericht is op efficiënt stroomverbruik.

In testgegevens die woensdag zijn vrijgegeven door MLCommons, een ingenieursconsortium dat testcriteria handhaaft die veel worden gebruikt in de chipindustrie voor kunstmatige intelligentie, presteert Qualcomm’s AI 100 beter dan Nvidia’s vlaggenschip H100 bij het classificeren van afbeeldingen op basis van het aantal datacenterserverquery’s dat elke chip kan verwerken. watt.

De chips van Qualcomm bereikten 197,6 serververzoeken per watt versus 108,4 verzoeken per watt voor Nvidia. Neuchips, een startup opgericht door de ervaren Taiwanese chipwetenschapper Youn-Long Lin, nam de eerste plaats in met 227 verzoeken per watt.

Bij objectdetectie versloeg Qualcomm Nvidia met 3,2 verzoeken per watt versus Nvidia’s 2,4 verzoeken per watt. Objectdetectie kan worden gebruikt in toepassingen zoals het analyseren van afbeeldingen in winkels om te zien waar klanten het meest naartoe gaan.

Nvidia stond echter op de eerste plaats in zowel absolute prestaties als energie-efficiëntie in de test voor natuurlijke taalverwerking, de meest gebruikte AI-technologie in systemen zoals chatbots. Nvidia nam 10,8 samples per watt, Neuchips werd tweede met 8,9 samples per watt en Qualcomm werd derde met 7,5 samples per watt.

Nieuws door Stephen Nellis uit San Francisco; Onder redactie van Paul Simao

Onze normen: Vertrouwensprincipes van Thomson Reuters.

2023-04-05 21:57:36
Bron – Reuters

Vertaling“24 UUR”