OpenAI maakt zich zorgen over het feit dat zijn gebruikers emotionele relaties aangaan met hun AI

Zullen OpenAI-ingenieurs zich overweldigd voelen door hun innovaties? In een document uitte het bedrijf dat generatieve kunstmatige intelligentie (AI) ChatGPT lanceerde zijn bezorgdheid dat de realistische stem in zijn software gebruikers ertoe zou kunnen aanzetten er verbindingen mee te creëren, ten koste van menselijke interacties. naar’“Antropomorfisme houdt in dat menselijke attitudes of kenmerken worden toegeschreven aan iets niet-menselijks, zoals een model voor kunstmatige intelligentie.”Dat bevestigt het bedrijf in een donderdag gepubliceerd rapport. “Het gevaar kan worden vergroot door de akoestische eigenschappen van GPT-4o, die mensachtige interacties mogelijk maken.”Het rapport geeft aan.

Lees ook“Ik praat tot drie uur ’s nachts met Ryan Gosling”: deze internetgebruikers zijn gefascineerd door de kunstmatige intelligentie van beroemdheden

Het document werd de dag vóór de lancering van de nieuwe versie van ChatGPT, GPT-4o, gepubliceerd, waarin de software de mogelijkheid heeft om vocaal te reageren en het equivalent van een gesprek mogelijk te maken. Maar hetzelfde soort gesprekken voeren met een AI als met een mens kan chaos veroorzaken “Misplaatst vertrouwen” in het programma, wat kan worden versterkt door het geluid dat aan laatstgenoemde wordt toegevoegd. OpenAI bevestigt specifiek dat het uitwisselingen tussen testers van de nieuwe versie met de AI heeft kunnen waarnemen die het ontstaan ​​van een emotionele band leken te laten zien, zoals het uiten van spijt dat dit hun laatste dag samen was.

“Deze gevallen lijken zeker onbeduidend, maar ze benadrukken de noodzaak van voortgezet onderzoek naar hoe deze effecten op de lange termijn ontstaan.”Het rapport besluit. Het aangaan van een of andere vorm van sociale relatie met AI zou gebruikers er ook toe kunnen aanzetten hun verlangen naar relaties met mensen te verminderen, voorspelt OpenAI. “Langdurige interacties met het model kunnen een impact hebben op sociale normen. Onze modellen zijn bijvoorbeeld altijd respectvol en stellen gebruikers in staat ze op elk moment te onderbreken, gedrag dat buiten de normen van sociale interacties valt, ondanks dat dit normaal is voor AI. ”Rapportdetails.

Risico’s van het vertrouwen op technologie

Het vermogen van AI om details van gesprekken te onthouden en toegewezen taken uit te voeren, kan er ook toe leiden dat gebruikers te veel op technologie vertrouwen. “Deze nieuwe zorgen gedeeld door OpenAI over het risico van potentiële afhankelijkheid van ChatGPT-audio benadrukken de omvang van de opkomende vraag: moeten we de tijd nemen en proberen te begrijpen hoe technologie menselijke interacties en relaties beïnvloedt?”zegt Alon Yamin, mede-oprichter en CEO van Copyleaks, een AI-aangedreven plagiaatdetectieplatform.

“AI is een complementaire technologie, ontworpen om ons te helpen ons werk en dagelijks leven te vereenvoudigen; het mag geen vervanging worden voor echte menselijke relaties.”Hij voegde eraan toe. OpenAI heeft bevestigd te blijven onderzoeken hoe de stemfunctionaliteit van AI gebruikers er emotioneel aan gehecht kan maken. Testers wisten hem ook valse informatie te laten herhalen of complottheorieën te creëren, waardoor zorgen ontstonden over de potentiële gevaren van het AI-model.

De stemfunctionaliteit van Chat-GPT heeft al tot veel reacties geleid en heeft OpenAI afgelopen juni gedwongen zich te verontschuldigen bij actrice Scarlett Johansson omdat ze een stem gebruikte die te dicht bij de hare stond, wat aanleiding gaf tot discussie over de risico’s die gepaard gaan met het transcriberen van stemmen met behulp van de technologie. Terwijl het bedrijf ontkende de stem van Scarlett Johansson te gebruiken, benadrukte de president, Sam Altman, de stemfunctie op sociale media met één woord: “Ha”In verwijzing naar de film waarin de actrice een kunstmatige intelligentie speelt, hielp dit de volgers niet overtuigen.

De film, uitgebracht in 2013, vertelt het verhaal van een man, gespeeld door acteur Joaquin Phoenix, die verliefd wordt op zijn kunstmatige intelligentie. “Samantha”Waarvoor Scarlett Johansson haar stem verzorgde.