Ontbind het team dat verantwoordelijk is voor de veiligheid van een potentiële super-AI

Na het vertrek van de managers werd het OpenAI-team dat verantwoordelijk was voor de beveiliging van potentiële kunstmatige superintelligentie (AI) ontbonden en sloten de leden zich aan bij andere onderzoeksgroepen binnen het bedrijf. OpenAI bevestigde deze informatie op vrijdag 17 mei aan Agence France-Presse en legde uit dat de verandering in de structuur enkele weken geleden was begonnen. De uitvinder van ChatGPT zorgt ervoor dat onderzoekers die verantwoordelijk zijn voor de veiligheid van AI-modellen kunnen samenwerken met de ingenieurs die deze modellen ontwikkelen.

Maar de twee vorige managers van het team hadden net het bedrijf van de Silicon Valley-ster verlaten. Jan Lake legde vrijdag op X uit dat hij ontslag nam vanwege fundamentele meningsverschillen met het management over de prioriteiten van het bedrijf: innovatie of veiligheid. ‘We hebben het breekpunt bereikt’zei de ingenieur die leiding gaf aan het team dat verantwoordelijk was voor ‘hyperalignment’, dat wil zeggen ervoor zorgen dat toekomstige ‘algemene’ kunstmatige intelligentie, die net zo intelligent is als mensen, rekening houdt met de waarden van laatstgenoemde.

Sam Altman, mede-oprichter en president van het bedrijf met het hoofdkantoor in San Francisco (Californië), zei. “Het is heel triest om te zien [Jan Leike] Vertrekken “. ‘Hij heeft gelijk, we hebben nog veel te doen [pour la recherche sur l’alignement sur les valeurs humaines et la sécurité]Wij zijn vastbesloten om dat te doen.”Hij voegde eraan toe en beloofde binnenkort een langer bericht.

Het ‘superalignment’-team werd ook geleid door Ilya Sutskever, medeoprichter van OpenAI, die dinsdag zijn vertrek aankondigde. Op de tiende, zei hij tegen zichzelf “Ervan overtuigd dat OpenAI veilige en bruikbare ‘algemene’ AI zal bouwen.”. Hij was voorheen de hoofdwetenschapper van het bedrijf en was lid van de raad van bestuur die in november 2023 stemde om Sam Altman te ontslaan, voordat hij zijn koers veranderde.

“Handelen met zwaartekracht”

Met ChatGPT heeft OpenAI een revolutie in generatieve AI op gang gebracht (het produceren van inhoud op basis van een eenvoudige vraag in alledaagse taal), die Silicon Valley heeft geïntrigeerd, maar ook veel waarnemers en toezichthouders heeft gealarmeerd, van Californië tot Washington en Brussel. Vooral als Sam Altman het heeft over het creëren van ‘algemene’ kunstmatige intelligentie, dat wil zeggen met cognitieve vaardigheden die gelijkwaardig zijn aan die van mensen.

Op 13 mei introduceerde OpenAI een nieuwe versie van ChatGPT die nu naadloze verbale gesprekken met zijn gebruikers kan voeren, een nieuwe stap in de richting van persoonlijkere en efficiëntere AI-assistenten.

Jan Lek riep vrijdag alle medewerkers van OpenAI op om… “Handelen met zwaartekracht” Wat rechtvaardigt wat ze bouwen. “Ik ben van mening dat we meer tijd moeten besteden aan de voorbereiding op de volgende generaties modellen, met betrekking tot beveiliging, controles, veiligheid, cyberbeveiliging, afstemming op onze waarden, gegevensprivacy, maatschappelijke impact en andere onderwerpen.”mannelijk.