Als het om kunstmatige intelligentie gaat, lopen overheden ontzettend achter

Huidig tempo en beleid in de weg van snelle toepassing

Tekst Jelle van der Meulen Beeld Shutterstock

Gemeenten zijn nog lang niet klaar voor de grootschalige toepassing van artificiële intelligentie (AI). Volgens Rob van den Hoven van Genderen, hoogleraar AI en Robotlaw aan de Universiteit Lapland en voorzitter van de Nederlandse Vereniging voor AI- en Robotrecht, gaat dat nog jaren duren.

‘Verschillen in beleid per gemeente creëren onrust en verzet’

Nieuwe technologie heeft een grote invloed op het lokaal bestuur. Enerzijds biedt die kansen voor een meer inclusieve democratie en voor betere controle op mobiliteit en veiligheid. Anderzijds is er behoefte aan ethische en juridische regels om misbruik door autoriteiten te voorkomen. Eind 2019 verscheen het Strategisch Actieplan voor Artificiële Intelligentie, waarin de overheid het voornemen kenbaar maakt om het gebruik van AI in Nederland te versnellen. Volgens het rapport heeft Nederland daarvoor een uitstekende uitgangspositie, omdat het hoogwaardige connectiviteit, een sterke basis voor publiek-private samenwerking en een hoog niveau van onderzoek heeft.

Vragen en ongemak Kort daarna publiceerde de Vereniging van Nederlandse Gemeenten (VNG) vijf principes voor de digitale samenleving, die moeten dienen als gemeenschappelijk kader voor alle gemeenten (zie kader). Rob van den Hoven van Genderen is blij met het rapport van VNG, omdat sterke regie nodig is voor digitalisering die veel vragen en zelfs ongemak oproept.

Het werk van gemeenten leent zich bij uitstek voor digitale en geautomatiseerde uitvoering, zegt hij. ‘Het aanvragen van documenten, het verlengen van rijbewijzen of paspoorten of de digitale identificatie van burgers kan door een min of meer intelligent geautomatiseerd systeem worden overgenomen.’ Maar hij waarschuwt voor te veel optimisme. ‘Als het om AI gaat, lopen overheden, ook gemeenten, ontzettend achter. Het Strategisch Actieplan voor Artificiële Intelligentie – dat de plannen van het kabinet op dit gebied beschrijft – geeft weliswaar aan dat allerlei projecten op basis van AI moeten gaan draaien, maar er gebeurt nog helemaal niets.’ Als voorbeeld noemt hij de rechterlijke macht. ‘Daar verloopt een groot deel van de communicatie nog per fax, een techniek uit de jaren 30 van de vorige eeuw. De hele overheid is in dat opzicht archaïsch. Voordat AI een rol gaat spelen, op de juiste manier, zijn we heel wat jaren verder.’

Een obstakel bij de toepassing van AI is volgens Van den Hoven van Genderen dat iedere gemeente een eigen aanpak heeft. ‘Wanneer er geen harmonisatie is in de toepassing en het gebruik van AI en datasets, krijg je bij vergelijkbare situaties in gemeente A een andere uitkomst dan in gemeente B,’ legt hij uit. ‘Het kan niet zo zijn dat je, bijvoorbeeld op het gebied van uitkeringen of subsidies voor kinderopvang, in verschillende gemeenten verschillende uitkomsten hebt. Verschillen in beleid per gemeente creëren onrust en verzet.’

Met het toepassen van AI, dat draait op vaak ingewikkelde systemen, is het raadzaam samen te werken aan een helder beleid, omdat dat begrip en acceptatie door de bevolking vergroot, zegt Van den Hoven van Genderen. Een tweede obstakel voor de invoering van AI bij gemeenten is het onbegrip en gebrek aan opleiding onder personeel. ‘Dat zorgt voor onrust over de toepassingen en mogelijkheden van AI,’ legt Van den Hoven van Genderen uit. ‘Goede voorlichting over de voordelen – efficiëntie, snelheid en minder fouten – is daarom essentieel.’

Vijf principes VNG voor de digitale samenleving:

  • Digitale initiatieven staan zo veel mogelijk ten dienste van het maatschappelijk belang.
  • Data zijn open, inzichtelijk en gedeeld, tenzij wet- en regelgeving, veiligheidsrechten of beschikkingsrechten op de data dit beperken.
  • De digitale infrastructuur voor dataverzameling en gebruik is voor iedereen goed beschikbaar en toegankelijk.
  • Marktpartijen, instellingen, overheden en inwoners werken samen waar dat nodig of wenselijk is.
  • Alle partijen zijn zo veel mogelijk transparant over apparatuur en technologie in de openbare ruimte.

Onbevooroordeelde systemen Van den Hoven van Genderen begrijpt dat AI voor overheden een lastig onderwerp is. De recente poging van de rijksoverheid om een corona-app te ontwikkelen laat zien hoe ingewikkeld het is om kunstmatige intelligentie toe te passen. ‘Je moet zo’n app goed beveiligen en door kundige mensen laten ontwikkelen. Maar je kunt niet in een week een veilig product maken. Er zijn heel veel belangen, veel deelnemers. Ook het eigenaarschap is een belangrijke kwestie om bij stil te staan. AI-toepassingen worden vaak opgezet in een publiek-privaat partnerschap. Je vraagt je dan toch af wat er met alle kennis en data gebeurt die zo’n app oplevert.’

Het opnieuw aangewakkerde debat over (institutioneel) racisme benadrukt volgens hem bovendien het belang van een systeem zonder vooroordelen en discriminatie. ‘Als je er rommel indoet, komt er rommel uit,’ zegt hij. ‘AI is niet per definitie bevooroordeeld; dat komt door data, door mensenwerk. Hoewel we het vaak ontkennen, bestaat vooringenomenheid natuurlijk wel. Inclusiviteit is daarom iets dat in het algoritme zelf moet worden opgenomen op het moment dat het algoritme ontwikkeld wordt. Gezichtsherkenning in de Verenigde Staten werkte eerst niet bij mensen van kleur; dat komt puur door de bouw van het algoritme.’

Menselijke controle is dan ook verre van heilig, meent Van den Hoven van Genderen. Veel belangrijker is het om goede, onbevooroordeelde systemen te bouwen. ‘Een goed ontworpen systeem dat werkt met kunstmatige intelligentie kan beter op bepaalde zaken letten dan een ambtenaar. AI kan dus heel veel toegevoegde waarde hebben, maar met het huidige tempo en beleid is het niet te verwachten dat het snel toepasbaar is bij gemeenten.’ ◼

‘Menselijke controle is verre van heilig’

Deel dit artikel