AI-experts wijzen de campagne van Musk af, daarbij verwijzend naar eigen onderzoek – Nieuws | Laatste nieuws | Laatste nieuws

LONDEN, 31 maart (Reuters) – Vier AI-experts hebben hun bezorgdheid geuit na het citeren van hun werk in een open brief van Elon Musk waarin wordt opgeroepen tot onmiddellijke stopzetting van het onderzoek.

De brief, gedateerd 22 maart, die vrijdag meer dan 1.800 handtekeningen had bereikt, riep op tot een zes maanden durende stroomonderbreker die “krachtiger” was dan de nieuwe GPT-4 (MSFT.O) van Microsoft, ondersteund door Microsoft (MSFT.O). ). bij systeemontwikkeling. Chat als een mens, schrijf liedjes en vat lange documenten samen.

Sinds ChatGPT, de voorloper van GPT-4, vorig jaar werd uitgebracht, haasten rivaliserende bedrijven zich om vergelijkbare producten uit te brengen.

De open brief stelt dat AI-systemen met “human-competitive intelligence” grote risico’s voor de mensheid vormen en put uit het werk van 12 experts, waaronder universitaire wetenschappers en huidige en voormalige medewerkers van OpenAI, Google (GOOGL.O) en haar dochteronderneming DeepMind. . met

Maatschappelijke groeperingen in de VS en de EU hebben sindsdien wetgevers gedwongen om OpenAI-onderzoek in toom te houden. OpenAI reageerde niet onmiddellijk op verzoeken om commentaar.

Critici hebben het Future of Life Institute (FLI), de organisatie achter de brief en voornamelijk gefinancierd door de Musk Foundation, beschuldigd van het promoten van fictieve doemscenario’s in plaats van dringender zorgen over AI, zoals racistische of seksistische vooroordelen die in machines zijn geprogrammeerd.

Een van de geciteerde studies is een artikel genaamd “On the Perils of Stochastic Parrots”, mede geschreven door Margaret Mitchell, die eerder toezicht hield op ethisch AI-onderzoek bij Google.

Mitchell, nu hoofdethicus bij het kunstmatige-intelligentiebedrijf Hugging Face, bekritiseerde de brief en vertelde Reuters dat het niet duidelijk was wat “krachtiger was dan GPT4”.

“De brief beschadigt veel twijfelachtige ideeën en bevestigt een reeks prioriteiten en een verhaal over kunstmatige intelligentie waar FLI-aanhangers van hebben geprofiteerd”, zei hij. “Op dit moment is het negeren van actieve schade een voorrecht dat sommigen van ons niet hebben.”

Co-auteurs Timnit Gebru en Emily M. Bender bekritiseerden de brief op Twitter en noemden enkele beweringen in de brief “open”.

FLI-president Max Tegmark vertelde Reuters dat de campagne geen poging was om de dominantie van OpenAI door bedrijven te ondermijnen.

“Dat is best grappig. Ik heb mensen zien zeggen: ‘Elon Musk probeert de concurrentie af te remmen'”, zei hij, eraan toevoegend dat Musk geen rol speelde bij het opstellen van de brief. “Het gaat niet om één bedrijf.”

RISICO’S NU

Shiri Dori-Hacohen, universitair hoofddocent aan de Universiteit van Connecticut, maakte ook bezwaar tegen het citeren van haar werk in de brief. Vorig jaar was hij co-auteur van een onderzoekspaper waarin hij betoogde dat het wijdverbreide gebruik van AI al ernstige risico’s met zich meebrengt.

Zijn onderzoek heeft bewezen dat het gebruik van moderne kunstmatige-intelligentiesystemen de besluitvorming over klimaatverandering, nucleaire oorlog en andere existentiële bedreigingen kan beïnvloeden.

“Kunstmatige intelligentie hoeft niet het menselijke niveau te bereiken om deze risico’s te vergroten”, zei hij tegen Reuters.

“Er zijn niet-bestaande risico’s die heel, heel belangrijk zijn, maar niet dezelfde aandacht krijgen op Hollywood-niveau.”

Gevraagd naar commentaar op de kritiek, zei Tegmark van FLI dat de korte- en langetermijnrisico’s van AI serieus moeten worden genomen.

“Als we iemand citeren, doen we net alsof ze de zin goedkeuren. Het betekent niet dat ze de brief goedkeuren of dat we alles goedkeuren wat ze denken,” zei hij.

Dan Hendrycks, directeur van het in Californië gevestigde Center for Artificial Intelligence Security, genoemd in de brief, vertelde Reuters dat het zinvol is om rekening te houden met Black Swan-gebeurtenissen – gebeurtenissen die onwaarschijnlijk lijken maar verwoestende gevolgen hebben.

De open brief waarschuwde ook dat productieve AI-tools kunnen worden gebruikt om het internet te vullen met “propaganda en leugens”.

Dori-Hacohen zei dat Musk’s ondertekening van de deal “behoorlijk rijk” was, daarbij verwijzend naar de opkomst van verkeerde informatie op Twitter sinds de overname van het platform, wat is gedocumenteerd door de non-profitorganisatie Common Cause en anderen.

Twitter introduceert binnenkort een nieuwe tariefstructuur voor toegang tot onderzoeksdata, wat onderzoek op dit gebied mogelijk belemmert.

“Dit heeft een directe impact gehad op het werk van mijn lab en is gedaan door anderen die werken aan fouten en verkeerde informatie”, zei Dori-Hacohen. Gezegd. “We bewegen met één hand op de rug gebonden.”

Musk en Twitter reageerden niet onmiddellijk op verzoeken om commentaar.

Zoals Martin Coulter meldde; Onder redactie van Philippa Fletcher

Onze normen: Vertrouwensprincipes van Thomson Reuters.

2023-03-31 18:05:20
Bron – Reuters

Vertaling“24 UUR”