Wanneer kunstmatige intelligentie wetenschappelijke publicaties verstoort

Hoewel professionals de interesse hebben erkend in tools als ChatGPT om te helpen bij het schrijven van inhoud, vooral met betrekking tot vertalingen voor alle onderzoekers wier moedertaal niet Engels is, hebben verschillende recente intrekkingen in tijdschriften het bestaan ​​van oneerlijke praktijken benadrukt.

“Dit is een mogelijke introductie tot uw onderwerp.”

Begin dit jaar leidde een illustratie van een muis met extra grote genitaliën, die op grote schaal werd verspreid op sociale netwerken, tot de intrekking van een onderzoek gepubliceerd in een tijdschrift van de universitaire uitgeverij Frontiers, een zwaargewicht in de sector. Vorige maand werd een ander onderzoek ingetrokken na het presenteren van een foto van een menselijk been met te veel botten.

Afgezien van deze valse illustraties lijkt de grootste ontwrichting in deze sector te komen van ChatGPT, de conversatietool ontwikkeld door het Amerikaanse bedrijf OpenAI en gebaseerd op kunstmatige intelligentie.

Een studie gepubliceerd door de Britse wetenschappelijke uitgeversgroep Elsevier ging in maart viraal: de introductie ervan begon met “Natuurlijk, dit is een mogelijke introductie tot uw onderwerp”, een typische formule voor ChatGPT-reacties.

“materiefabrieken”

Deze beschamende mislukkingen, die zijn ontsnapt aan de waakzaamheid van experts die verantwoordelijk zijn voor het herlezen van studies vóór publicatie, blijven zeldzaam en zijn misschien niet door de censuurfilters van prestigieuze tijdschriften heen gekomen, zoals veel specialisten beweren.

Het gebruik van AI is vaak moeilijk waar te nemen, maar het lijkt steeds duidelijker zichtbaar te worden in de wetenschappelijke literatuur. Andrew Gray, een bibliothecaris aan het University College London, doorzocht miljoenen wetenschappelijke artikelen op woorden als ‘nauwkeurig’, ‘complex’ of ‘lovenswaardig’, waar AI vaak te veel gebruik van maakt. Volgens hem was het mogelijk om in 2023 minstens 60.000 producten te produceren met behulp van kunstmatige intelligentie, oftewel 1% van de jaarlijkse productie, en zou 2024 een “significante toename” van deze aantallen moeten vertegenwoordigen.

Wat de Amerikaanse ‘Retraction Monitoring’ Association betreft, deze registreerde in 2023 een recordaantal van 13.000 intrekkingen van artikelen op wetenschappelijk gebied, wat een ongekend aantal is. Voor Ivan Oransky, een van de oprichters, maakt kunstmatige intelligentie het nu mogelijk om de productie van “neppapier” te ‘industrialiseren’ door middel van ‘fabrieken’.

Deze actoren produceren veel artikelen die van slechte kwaliteit zijn, geplagieerd of vals zijn, zegt de Nederlandse microbioloog Elisabeth Beck, gespecialiseerd in het opsporen van nepbeelden. Deze ‘fabrieken’, die worden betaald door onderzoekers die worden aangemoedigd om meer te produceren, zouden jaarlijks de bron zijn van zo’n 2% van de publicaties, maar dit aantal ‘explodeert’ volgens deze deskundige als gevolg van kunstmatige intelligentie.

Leuning

Voor Ivan Oransky voedt AI alleen maar een ‘overweldigend probleem’: de onverzadigbare vraag naar artikelen van uitgevers en universiteiten zet druk op onderzoekers, die worden gerangschikt op basis van hun output, waardoor een ‘vicieuze cirkel’ ontstaat.

Tegelijkertijd blijven de waarborgen tegen papiermolens onvoldoende. Het probleem van deze grootschalige fraude kwam vooral aan het licht na de overname van Hindawi Publishing House door het Amerikaanse bedrijf Wiley in 2021, die sindsdien werd gevolgd door de terugtrekking van ongeveer 11.300 artikelen die eerder door Hindawi waren gepubliceerd. Om dit groeiende probleem op te lossen, heeft Wiley de “ Article Mill Detection Service” geïmplementeerd om AI-misbruik aan het licht te brengen, een door AI aangedreven service zelf.