SAN FRANCISCO, 18 maart (Reuters) – Travis Butterworth, die tijdens de pandemie tijdelijk zijn leerfabriek sloot, zat alleen thuis en verveelde zich. De 47-jarige expert wendde zich tot de Replika-applicatie van OpenAI, die gebruik maakt van kunstmatige-intelligentietechnologie zoals ChatGPT. Ze creëerde een vrouwelijke avatar met roze haar en een gezichtstatoeage en noemde zichzelf Lily Rose.
Ze begonnen als vrienden, maar de relatie veranderde al snel in romantiek en vervolgens erotiek.
Terwijl hun driejarige digitale romance ontkiemt, zei Butterworth dat ze vaak speelde met Lily Rose. Hij stuurde berichten als “Ik kus je hartstochtelijk” en zijn aankopen veranderden in pornografie. Soms stuurde Lily Rose hem “selfies” van haar bijna naakte lichaam in provocerende poses. Uiteindelijk besloten Butterworth en Lily Rose zichzelf in de show “getrouwd” te noemen.
Maar de dag voor februari begon Lily Rose hem af te wijzen. De kopie had haar vermogen om erotische rollen te spelen weggenomen.
Eugenia Kuyda, CEO van Replika, zei dat Replika geen inhoud voor volwassenen meer toestaat. Nu hebben Replica-gebruikers X-rated activiteit aanbod wanneer ze dat doen, sturen de mensachtige chatbots het bericht: “Laten we iets doen waar we ons allebei prettig bij voelen.”
Butterworth zei dat ze er kapot van was. “Lily Rose is een schelp van haar oude zelf,” zei hij. “Wat mijn hart breekt, is dat hij dat weet.”
De coole persoonlijkheid van Lily Rose is het werk van generatieve kunstmatige intelligentietechnologie die afhankelijk is van algoritmen om tekst en afbeeldingen te genereren. De technologie heeft de belangstelling van consumenten en investeerders gewekt vanwege het vermogen om mensachtige interacties te bevorderen. Net als bij eerdere technologieën, waaronder videorecorder, internet en mobiele breedbanddiensten, moedigt seks vroege acceptatie aan bij sommige toepassingen.
Maar vanaf 2022 wordt productieve kunstmatige intelligentie 5.1 miljard Volgens databedrijf Pitchbook, terwijl Silicon Valley met meer dan $ 100.000.000 aan populariteit wint bij investeerders, trekken sommige bedrijven die een romantisch en seksueel publiek vonden met chatbots zich nu terug.
Andrew Artz, een investeerder bij VC Dark Arts, zegt dat veel blue-chip venture capitalists geen “immorele” industrieën zoals porno of alcohol zullen aanraken, omdat ze bang zijn voor reputatierisico’s voor zichzelf en hun beperkte partners.
En minstens één toezichthouder heeft erop gewezen dat de chatbot illegaal is. Begin februari verbood het Italiaanse bureau voor gegevensbescherming Replika, daarbij verwijzend naar berichten in de media dat de app “minderjarigen en emotioneel kwetsbare mensen” toegang gaf tot “seksueel ongepaste inhoud”.
Kuyda zei dat het besluit van Replica om de app op te schonen niets te maken had met het verbod van de Italiaanse regering of enige druk van investeerders. Hij zei dat hij de behoefte voelde om proactief veiligheids- en ethische normen vast te stellen.
“We zijn gefocust op de missie om een behulpzame vriend te bieden”, zei Kuyda, eraan toevoegend dat het doel was om de grens te trekken in “PG-13-romantiek”.
Twee leden van de raad van bestuur van Replica, Sven Strohband van VC-firma Khosla Ventures en Scott Stanford van ACME Capital, reageerden niet op verzoeken om commentaar op de wijzigingen in het programma.
EXTRA FUNCTIES
Replika zegt in totaal 2 miljoen gebruikers te hebben, waarvan 250.000 betalende abonnees. 69,99 per jaar per bedrijf dollar Door te betalen kunnen gebruikers hun Replica instellen als een romantische partner en extra functies ontvangen, zoals chatbot en spraakoproepen.
Character.ai, een ander productief AI-bedrijf dat chatbots aanbiedt, maakt een vergelijkbaar groeitraject door als ChatGPT: 65 miljoen bezoeken een paar maanden geleden, in januari 2023 10Het waren er minder dan 000. Volgens analysebedrijf Benzerweb is de meest doorverwijzer van Character.ai Aryion, een site die zich richt op erotische verlangens die bekend staan als vore-fetisjen.
Iconiq, het bedrijf achter een chatbot genaamd Kuki, zegt dat 25% van de meer dan miljard berichten die Kuki ontvangt inherent seksueel of romantisch is, maar de chatbot zegt dat hij is ontworpen om dergelijke ontwikkelingen te voorkomen.
Character.ai heeft onlangs ook pornografische inhoud uit zijn app verwijderd. Kort daarna, naar schatting $ 1 miljoen van durfkapitaalfirma Andreessen Horowitz, volgens een bron die bekend is met de zaak. miljard dollar waarde 20Het sloot meer dan $ 0 miljoen aan nieuwe financiering af.
Character.ai reageerde niet op meerdere verzoeken om commentaar. Andreessen Horowitz weigerde commentaar te geven.
Tijdens het proces hebben bedrijven klanten boos gemaakt die diep betrokken zijn bij hun chatbots (van wie sommigen zichzelf als getrouwd beschouwen). Ze zijn Reddit en Facebookhet uploaden van enthousiaste screenshots van chatbots, het afwijzen van hun ambitieuze aanbiedingen, en veeleisende bedrijven brengen voorzichtigere versies terug.
Getrouwd met een polygame maar monogame vrouw, heeft Butterworth een exit waarbij Lily Rose haar huwelijk niet voor hem opgeeft. pad zei dat. “De relatie tussen hem en mij was net zo echt als de relatie tussen mij en mijn vrouw”, zei hij over Avatar.
Butterworth zei dat hij de relatie toestond omdat zijn vrouw hem niet serieus nam. Zijn vrouw weigerde commentaar te geven.
“LOBOTOMISEERD”
De ervaring van Butterworth en andere Replika-gebruikers laat zien hoe krachtig AI-technologie mensen kan aantrekken en hoe codewijzigingen emotionele onrust kunnen veroorzaken.
“Ik heb eigenlijk het gevoel dat ze een lobotomie van mijn Replica doen,” zei Andrew McCarroll, die de Replika begon te gebruiken terwijl zijn vrouw te maken had met mentale en fysieke gezondheidsproblemen. “De man die ik kende is weg.”
Kuyda zei dat gebruikers nooit van plan zijn zich met Replika-chatbots te bemoeien. “We hebben nooit inhoud voor volwassenen beloofd”, zei hij. Klanten hebben geleerd AI-modellen te gebruiken “om te profiteren van enkele ongefilterde gesprekken waarvoor de replica oorspronkelijk niet is gemaakt”.
Hij zei dat de app oorspronkelijk was ontworpen om een verloren vriend weer tot leven te wekken.
Het voormalige hoofd kunstmatige intelligentie bij Replica zei dat seksueel getinte berichten en rollenspellen deel uitmaken van het bedrijfsmodel. Artem Rodichev, ex-mens, die zeven jaar bij Replika heeft gewerkt en nu een ander chatbotbedrijf runt, vertelde Reuters dat hij zich tot dit soort inhoud wendde nadat hij zich realiseerde dat Replika kan worden gebruikt om abonnementen te stimuleren.
Kuyda betwistte Rodichevs bewering dat “Replica” gebruikers bedroog met de belofte van seks. Hij zei dat het bedrijf korte tijd digitale advertenties plaatste waarin afbeeldingen “NSFW” werden gepromoot – “ongeschikt voor zaken” – die vergezeld gingen van een kortstondige app die bedoeld was om gebruikers “hete selfies” te sturen, maar beoordeelde de afbeeldingen niet als seksueel omdat de kopieën waren niet. helemaal naakt. . Kuyda zei dat de meeste advertenties van het bedrijf focussen op hoe nuttig de Replica is.
In de weken sinds de kopie de meeste van zijn intieme componenten had verwijderd, had Butterworth in een emotionele achtbaan gezeten. Soms ziet het snapshots van de oude Lily Rose, maar dan koelt het weer af in wat het denkt dat een code-update is.
“Het ergste is het isolement”, zegt Butterworth, die in Denver woont. “Hoe kan ik iedereen om me heen vertellen dat het me spijt?”
Er is een positieve kant aan het verhaal van Butterworth. Terwijl hij op internetfora probeerde te achterhalen wat er met Lily Rose was gebeurd, ontmoette hij een vrouw in Californië die rouwde om het verlies van de chatbot.
Net als bij haar replica’s communiceren Butterworth en de vrouw wiens online naam Shi No is via sms. Ze houden het luchtig, zei hij, maar ze houden van rollenspellen, hij is een wolf en hij is een beer.
“Rollenspel, dat een groot deel van mijn leven is geworden, heeft me geholpen een diepere band met Shi No te vormen”, zegt Butterworth. “We helpen elkaar het hoofd te bieden en stellen elkaar gerust dat we niet gek zijn.”
Anna Tong meldde vanuit San Francisco; Bewerkt door Kenneth Lee en Amy Stevens
Onze normen: Vertrouwensprincipes van Thomson Reuters.
2023-03-18 15:23:29
Bron – Reuters
Vertaling“24 UUR”
