Juistheid Criticasters daarentegen wijzen erop dat de chatbot weliswaar feiten kan weergeven, maar die feiten niet kan checken op hun juistheid. Nepnieuws kan daardoor makkelijk z’n weg vinden in de teksten. Ook in het geven van context is AI wellicht kwetsbaarder dan de zelf nadenkende mens. Een belangrijk bezwaar is ook het ontbreken van regels over hoe om te gaan met dit soort programma’s. De Nijmeegse hoogleraar technologie en samenleving Tamar Sharon zegt hierover in een ander artikel in NRC2: ‘Dit is AI die vooralsnog onveilig is en ethische vragen oproept. Je zou een breed maatschappelijk debat willen voeren en regulerende wetgeving ontwikkelen. In de tussentijd zou je een soort moratorium moeten afkondigen over de implementatie van dit soort AI.’ Volgens Sharon is sprake van ‘een gebeurtenis met een gigantische maatschappelijke impact, zonder dat we daar enige democratische controle op kunnen uitoefenen’.

Oldskool In het onderwijs biedt een programma als ChatGPT ongekende mogelijkheden bij het vergaren en verwerken van informatie. Het kan enorm tijdbesparend werken. Studenten schijnen er ook al volop gebruik van te maken. Het zit nu reeds ‘als een onzichtbaar monster in de banken van elk klaslokaal’, schrijft Trouw3. Dat monsterachtige is wellicht wat overdreven. In feite is ChatGPT slechts een overtreffende trap van googelen, met het verschil dat leerlingen niet zelf Wikipedia overschrijven maar dat de chatbot dat voor hen doet. Alertheid is niettemin geboden. Daarom hebben studenten van de Fontys Hogeschool in Tilburg, ter voorkoming van fraude en om het monster toch ietwat te temmen, een bedrijfje opgericht (OpenMaze) dat een ChatGPT-detector heeft ontwikkeld die een inschatting maakt of een tekst (hoofdzakelijk) door AI is gegenereerd. ‘Het gebruik van ChatGPT blijft,’ zegt Niek van Dam van Open Maze in Trouw. ‘Het is een techniek waar we simpelweg niet omheen kunnen. Wij willen docenten vooral gereedschap geven om daar op een didactische manier mee om te gaan.’ Zo gaat OpenMaze bijvoorbeeld automatisch open vragen genereren waarmee de docent het gesprek met studenten kan aangaan. Overigens heeft de maker van ChatGPT zelf ook al zo’n airbag ontwikkeld. Mij interesseert het wat een programma als ChatGPT kan betekenen voor het schrijven en adviseren in ambtelijke organisaties: gemeenten, provincies en Haagse departementen. De vraag stellen is hem beantwoorden, denk ik. ChatGPT is een onvermijdelijke ontwikkeling, net als de overstap ooit van de paardentram naar de stoomtrein en uiteindelijk de elektrische trein. Het is daarom beter om er als organisatie op voorbereid te zijn dan je te laten verrassen. De discussie zo volgend zou je aan drie concrete acties kunnen denken:

1. Voer een debat over een kader waarbinnen ambtenaren verantwoord gebruik kunnen maken van een programma als ChatGPT en stel voorwaarden aan het gebruik ervan.
2. Maak ambtenaren bekend met een programma als ChatGPT voor het schrijven van teksten en train hen hoe hiermee om te gaan, met bijzondere aandacht voor integriteitskwesties.
3. Ontwikkel goede controlesystemen tegen bijvoorbeeld fouten, ongewenste beïnvloeding en het overnemen van nepnieuws.

U denkt wellicht: het loopt zo’n vaart niet. Ik betwijfel dat. Overheden werken doorgaans al met programma’s van Microsoft en als ChatGPT binnenkort in Word wordt opgenomen staat de AI letterlijk voor de neus van elke ambtenaar. En misschien maken ambtenaren er nu al gebruik van. De tijd dat een minister een adviesnota over stikstofbeleid ontvangt die mede met behulp van ChatGPT is geschreven zou weleens dichterbij kunnen zijn dan we denken. Het zou daarom goed zijn een discussie te starten over wat zo’n programma kan bijdragen aan het (schrijf)werk van de ambtenaar.

Elektronische tiktafel Mogelijk heeft u zich al lezend afgevraagd of deze column ook echt door de notadokter zelf is geschreven en niet door ChatGPT. Dan kan ik u geruststellen/teleurstellen (*doorstrepen wat niet van toepassing is): ik heb dit artikel geheel eigenhandig geschreven. Dat gebeurde weliswaar op een elektronische tiktafel, maar wel aan de hand van door mijzelf opgeduikelde en uit de krant geknipte artikelen. Ik geef onmiddellijk toe dat dit heel oldskool is, maar misschien is het dan ook wel de laatste keer geweest dat ik het zo heb gedaan. ◼