The dark side of AI

Tina Vekua

Ik schrijf een korte drieregelige mail naar mijn supervisor. Ik wil tijdens mijn coschap een dagdeel meelopen op een bepaalde afdeling. Voor ik hem verstuur, haal ik de tekst toch nog even door ChatGPT.
‘Kan je dit beter maken?’, luidt mijn prompt. Binnen enkele seconden verschijnt een nieuwe versie. De mail is foutloos, vriendelijk en professioneel, maar ook twee keer zo lang, onpersoonlijk en gevuld met woorden die ik zelf nooit zou gebruiken. Ik vraag me af waarom ik dit doe. Wat was er mis met mijn eigen mail? Ik kan toch echt wel een simpele mail schrijven?

Generatieve AI brak pas echt door na de lancering van ChatGPT in november 2022. Inmiddels lijkt AI onmisbaar en is de lijst met toepassingen eindeloos. We laten AI onze mails vriendelijker maken, feedback diplomatieker formuleren en reflectieverslagen professioneler klinken.

Aanvankelijk weigerde ik het te gebruiken. Alles door een computer laten doen voelde als luiheid. Totdat ik ontdekte hoe goed AI kan helpen, mits je het goed toepast. Nu is het voor mij als geneeskundestudent onmisbaar: ik kan mechanismen op verschillende manieren laten uitleggen, eindeloos doorvragen zonder schaamte en dagen oefenen met casuïstiek. AI kan bovendien taalbarrières verkleinen en onderwijs toegankelijker maken.

Toch spookt er één vraag door mijn hoofd: zit er geen keerzijde aan deze ontwikkelingen? Naar mijn idee wel: er bestaat een ‘dark side of AI’. AI heeft namelijk één gevaarlijke eigenschap: het klinkt zeker. Het klinkt niet alsof het een antwoord probeert. Het klinkt alsof het het weet.

Tijdens mijn studie heb ik gemerkt hoe cruciaal kritisch denken voor mij als toekomstige arts is. Alles wat een patiënt zegt of een collega beweert, moet ik kunnen toetsen in plaats van zomaar aan te nemen.

Laat AI ons denken ondersteunen, in plaats van ons ervan te verlossen


In een onderzoek onder 666 deelnemers hing frequenter AI-gebruik samen met lagere scores op kritisch denken. De onderzoekers wezen op ‘cognitive offloading’: het uitbesteden van mentale inspanning aan een extern hulpmiddel. Vooral jongere deelnemers gebruikten AI vaker en scoorden gemiddeld lager. Let wel: het onderzoek toont alleen een samenhang en bewijst dus niet dat AI mensen dommer maakt.

Ik heb het grootste deel van mijn schooltijd en studie zonder generatieve AI doorlopen. Eerst moest ik zelf informatie zoeken, een tekst opbouwen en een antwoord formuleren. Pas daarna kreeg ik een hulpmiddel dat een deel daarvan kon overnemen.

Voor studenten die vanaf de middelbare school al met ChatGPT werken, is dat anders. AI maakt voor hen vanaf het begin deel uit van het leerproces. Wat doet dat met de ontwikkeling van kritisch denken? En als AI steeds eerder helpt bij het formuleren van een redenering, beoordeelt een supervisor dan nog het klinisch redeneren van de student, of enkel het vermogen om een goede prompt te schrijven?

Ik roep echt niet op om collectief geen AI meer te gebruiken. Zo dark is het nou ook weer niet, en ik profiteer er zelf heerlijk van. Maar ik maak me wel zorgen over de toekomst van ons vermogen om zelfstandig kritisch te blijven nadenken. Daarom roep ik wel op: bewaak ons kritisch denkvermogen en laat AI ons denken ondersteunen, in plaats van ons ervan te verlossen.  

Ik kijk nog eens naar mijn mail. De versie van ChatGPT klinkt beter dan de mijne. Toch stuur ik mijn eigen versie. Die hapert misschien wat, maar het zijn wel mijn eigen woorden en afwegingen. En dat is precies wat ik wil behouden: een versie waarin mijn eigen, authentieke denken zichtbaar blijft. 

En ja, ook deze column is door ChatGPT gegaan. Het hielp me mijn zinnen aan te scherpen, maar ik wilde wel dat mijn eigen denken erin bleef. Hopelijk is dat gelukt. 


Tina Vekua (24) is bezig met haar laatste jaar geneeskunde aan de Vrije Universiteit Amsterdam en doet haar promotie bij de afdeling Maag-, Darm-, en Leverziekten in het Amsterdam UMC.

Contact: tinavekua@outlook.com