Niet alles onthullen aan ChatGPT: voorbeeld van Samsung

Samsung ontdekte dat drie van zijn technici in korte tijd minstens drie keer vertrouwelijke gegevens lekten met behulp van ChatGPT.

Nieuws samenvatting

• Samsung heeft een datalek ontdekt dat verband houdt met het gebruik van ChatGPT om bugs in de broncode op te lossen;
• Dit datalek geeft aanleiding tot bezorgdheid over de potentiële risico’s van door AI aangedreven werk;
• Samsung is van plan een ChatGPT-achtige AI-service voor intern gebruik te ontwikkelen om soortgelijke incidenten in de toekomst te voorkomen.

volgens De econoomSamsung ontdekte een datalek dat vertrouwelijke informatie, waaronder notulen van vergaderingen, de prestaties van de productiefaciliteit en productiviteitsgegevens, blootlegde aan ChatGPT.

Samsung-technici gebruikten de chatbot om snel bugs in hun broncode op te lossen, waardoor gegevens werden verplaatst die niet bedoeld waren om vrij te geven. Hoewel deze hack onbedoeld was, geeft het aanleiding tot bezorgdheid over de potentiële risico’s van door AI aangedreven werk.

In de loop van 20 dagen documenteerde Samsung drie gevallen waarin het gebruik van ChatGPT resulteerde in datalekken. Deze gebeurtenissen volgden elkaar snel op. In één geval introduceerde een medewerker geheime testpatronen om defecte chips te identificeren en vervolgens te verbeteren. In een ander geval gebruikte een medewerker Naver Clova om een ​​opname van een vergadering om te zetten in een document voordat deze ter voorbereiding op een presentatie naar ChatGPT werd gestuurd.

Samsung is van plan om zijn eigen ChatGPT-achtige AI-service te ontwikkelen

Om soortgelijke incidenten in de toekomst te voorkomen, is Samsung van plan een ChatGPT-achtige AI-dienst voor intern gebruik te ontwikkelen. Bovendien heeft het bedrijf de lengte van vragen die naar ChatGPT worden gestuurd, beperkt tot 1024 bytes. Ten slotte kan Samsung, als er nieuwe bekende inbreuken zijn, eenvoudig de toegang tot ChatGPT blokkeren.

ChatGPT is een echte revolutie, maar de tool roept veel controverses op. Onlangs heeft Italië ervoor gekozen om ChatGPT te blokkeren. Garante, de Italiaanse toezichthouder voor de bescherming van persoonsgegevens, bekritiseert met name de door OpenAI ontworpen kunstmatige intelligentie omdat deze niet voldoet aan de toepasselijke wetgeving inzake de bescherming van privégegevens.

Zoals getoond numeriekRN’s zijn niet onderworpen aan het beroepsgeheim. Veel mensen vertrouwen op ChatGPT en vergeten dat deze tool ook gegevens logt. Uit onderzoek van cyberbeveiligingsbedrijf Cyberhaven, gepubliceerd in februari en gespot door DarkReading op 7 maart 2023, blijkt dat tienduizenden werknemers bedrijfsinformatie hebben doorgegeven aan een chatbot ontwikkeld door OpenAI.

Van de 1,6 miljoen werkstations die door het cyberbeveiligingsbedrijf worden gecontroleerd, heeft 2,6% van de gebruikers vertrouwelijke informatie aan de AI bekendgemaakt. Veel werknemers lekken gevoelige informatie over hun bedrijf en baan naar intelligente chatbots. Deze discussies worden bewaard en kunnen in toekomstige uitwisselingen worden hergebruikt.

Om ons te volgen, nodigen wij u uit om Download onze Android- en iOS-app. U kunt onze artikelen en profielen lezen en de nieuwste video’s bekijken op YouTube.