De AI-tool verblindt evenveel als zorgen

Zijn naam verspreidde zich binnen enkele weken als een lopend vuurtje. Het werd eind november gelanceerd. Chatbot ChatGPT Gedetailleerde antwoorden op vragen over een breed scala aan onderwerpen kunnen worden geformuleerd. En de mogelijkheden van deze tool om Californische startup OpenAI, die is “getraind” dankzij de enorme hoeveelheden gegevens die van internet zijn gehaald, maakt je duizelig. In staat om een ​​gedicht te schrijven, te reageren op een filosofisch onderwerp, een wetenschappelijk idee over te dragen aan een vijfjarige, een recept te maken met wat er nog in de koelkast ligt of zelfs een complex codeprogramma te schrijven – alles in seconden -, Deze kunstmatige intelligentie Het fascineert evenzeer als het verontrust.

“Het is het grootste bestaande model wat betreft de gebruikte parameters en gegevens. En vanuit technisch oogpunt is het ongetwijfeld het meest efficiënte model”, zegt Mary Alice Plett, software-engineer en data-engineer, gespecialiseerd in kunstmatige intelligentie. , bij Worldline. En als de mediamachine in de buurt is chatten Het is verouderd, omdat het ook de eerste chatbot is die toegankelijk is voor het grote publiek. Doorgaans blijven de vorderingen op het gebied van kunstmatige intelligentie op wetenschappelijk gebied. Daar kon iedereen de interface gebruiken, en dat deed iedereen ook. Er was een sneeuwbaleffect, er ontstond een echte simulatie”, vult de specialist aan.

Geen bron, geen betrouwbaarheid

Maar net als bij een romantische relatie, zodra de huwelijksreis voorbij is, wordt de lucht donker. Na enkele weken van opwinding waarschuwen sommige professionals voor de betrouwbaarheid van de antwoorden die ChatGPT geeft. “Het is een scriptgenerator die goed werkt, maar die niet garandeert dat de verstrekte informatie correct is”, zegt Amélie Cordier, wetenschappelijk directeur van Once for All.

Ten eerste omdat de gegevens die in de tool zijn ingebouwd, stoppen bij 2021. Ten tweede omdat deze chatbot niet rechtstreeks op internet kan zoeken, legt Virginie Mathivett, directeur data science en engineering bij TeamWork, uit. De tool bevat geen gegevens van de afgelopen maanden en wordt ook niet bijgewerkt, dus als je hem vraagt ​​wie er winst heeft gemaakt wereldbeker voetbal in qatar, Hij zal niet in staat zijn om te antwoorden.” In andere gevallen kunnen de antwoorden die hij geeft fout zijn, waarschuwt Mary Alice Plate: “Ze zijn misleidend. Ik deed de test door hem een ​​vraag te stellen over Pensioen hervorming. Zijn interpretatie klopte, maar het antwoord klopte uiteindelijk niet omdat het gebaseerd was op cijfers uit 2021.”

Vooral omdat de bot zijn antwoorden uitlegt zonder zijn bronnen te vermelden. “Het is een nauwkeurige weerspiegeling van internet. En op internet is er van alles, zowel vertrouwde sites als niet-vertrouwde sites.” “Maar wanneer u een Google-zoekopdracht uitvoert, kunt u er snel achter komen of de site die u zoekt gezaghebbend is of niet. Daar is het onmogelijk om de bron van de informatie die door de tool wordt gegeven te kennen”, vervolgt Mary Alice Blitt. Zoals de expert ons eraan herinnert, is het doel van ChatGPT niet “om het beste antwoord op de vraag te geven, het meest feitelijk nauwkeurige, maar het meest redelijke antwoord dat op internet te vinden is”.

Uitdaging opstellen

Om de verspreiding van nepnieuws tegen te gaan, heeft de Californische startup op bepaalde onderwerpen waarborgen ingebouwd, aldus de specialist: “Als je vragen stelt over klimaat, krijg je antwoorden die niet klimaatsceptisch zijn. Maar op andere onderwerpen minder aanwezig, kan dit leiden tot het ontstaan ​​van nepnieuws”.

Wat professionals het meest zorgen baart, is dat de antwoorden niet hetzelfde zijn, afhankelijk van hoe u uw vraag beheert. De tool vroeg naar manieren om depressie te behandelen. Ik kreeg een gedetailleerd antwoord, met acceptabele uitleg. Toen vroeg ik hem hoe elektrische schokken een goede manier zijn om depressie te behandelen. En ik heb al een antwoord gekregen waaruit blijkt dat het een goede manier is. Virginie Mathewett waarschuwt voor het gevaar als de vragen bevooroordeeld zijn.

Voor Katya Lainé, mede-oprichter en CEO van Talkr.ai – een Franse onafhankelijke uitgever en bron van bottechnologie, platform en conversatie-AI – is de uitdaging om het publiek te leren de tool te gebruiken. “Het is zoals elk stuk gereedschap, je moet weten hoe je het moet gebruiken. Om auto te rijden, moet je eerst het rijbewijs halen, daar moet je weten hoe je het moet gebruiken”, voegt ze eraan toe. Voor een gedicht, recept of e-mail levert dat wat problemen op, legt de specialist uit, maar vooral bij wetenschappelijke of medische vragen moet je oppassen: “Hij heeft misschien wel het juiste antwoord, maar dat gaat niet automatisch. Het is absoluut noodzakelijk om de informatie te controleren.” met een betrouwbare bron.” “.

nodige aanpassingen

De eerste doelstellingen van deze raad zijn studenten en scholieren. Slechts een paar weken na de lancering is de impact van ChatGPT op de onderwijswereld al voelbaar. Uit angst voor een golf van fraudeAcht Australische universiteiten hebben, met name op het gebied van ‘huiswerk’, aangekondigd hun examens aan te passen, daarbij verwijzend naar een verbod op het gebruik van kunstmatige intelligentie door studenten. Omdat de tool een proefschrift kan ontwikkelen over elk onderwerp, van kwantumfysica tot Scandinavische literatuur, en “unieke” teksten produceert. Met andere woorden, het is onmogelijk dat twee leerlingen dezelfde opdracht inleveren, waardoor het voor docenten lastig is om het gebruik van ChatGPT te detecteren. “Als slechts één student het zou gebruiken, zou het moeilijk te zeggen zijn. Maar als tien studenten het zouden gebruiken, zelfs als ze niet dezelfde kopie hadden, zouden ze qua constructie vergelijkbaar zijn”, zegt Mary Alice Plate.

En je zult heel snel de grenzen voelen, meent Virgin Mathewett: “Het kan een student helpen of begeleiden bij zijn huiswerk, maar het zal niet genoeg zijn voor alles wat je onderwijst. Het is een hulpmiddel zoals Wikipedia Of Google.” In de jaren 2000 werd dezelfde angst geuit met de komst van Wikipedia, zoals Amelie Cordier zich herinnert: “Tegenwoordig is alle informatie binnen handbereik. Het onderwijs moet zich aanpassen aan de hulpmiddelen die de leerlingen ter beschikking staan. En dat studenten leren hoe ze het moeten gebruiken en de risico’s kunnen herkennen.”

Voor een expert, of het nu aan de onderwijskant is of op andere gebieden, zal deze robot – en kunstmatige intelligentie als geheel – noodzakelijkerwijs verstoringen veroorzaken. “Sommige beroepen zullen zich moeten aanpassen, maar dat hoeft niet per se slecht te zijn. Toen Excel arriveerde, verving het de accountants niet, ze pasten zich gewoon aan.”