Amsterdamse ombudsman Munish Ramlal waarschuwt voor digitale drama’s

Pleidooi voor dieper denkwerk

Tekst Chantal Richter Beeld Jitske Schols/Lumen

Een vrouw zoekt hulp bij de politie omdat ze lastig is gevallen. De agenten zien in hun computersysteem dat de vrouw te boek staat als “psychisch niet in orde”. In het echt is ze mentaal gezond. Het blijkt dat haar broer daar verantwoordelijk voor is. Uit rancune na een ruzie over een familie-erfenis, heeft haar broer – een psycholoog met een BIG-registratie – haar als ontoerekeningsvatbaar geregistreerd. Als zo’n vrouw aangifte komt doen, wie geloof je dan als agent? Hoor je echt haar verhaal? Of vertrouw je op je computerscherm? En belangrijker, wie beschermt je tegen een onterechte registratie in een systeem, waardoor anderen ineens heel anders naar je gaan kijken?

Munish Ramlal vergelijkt digitalisering met professioneel vuurwerk: zonder verstand van zaken loop je grote kans dat het ontploft in je gezicht

‘Een groot risico is dat je blind wordt voor het menselijke verhaal’

Munish Ramlal waarschuwt voor de risico’s van nieuwe technologieën. In zijn rol als ombudsman van de Metropool Amsterdam ontmoet hij veel mensen die hun kafkaëske verhalen met de Neder­landse bureaucratie delen. Die verhalen krijgen steeds meer ook digitale randjes, omdat alle overheidsinstanties nu eenmaal in rap tempo digitaliseren. ‘Het is een kwalijke zaak als medewerkers van overheidsorganisaties meer vertrouwen hebben in digitale systemen dan in de mensen zelf die hun verhaal doen.’ Ramlal legt uit dat hij als ombudsman de overheid een spiegel kan voorhouden. ‘Op die manier bescherm je mensen tegen de overheid die hen als een nummer behandelt. Soms praat je omgekeerd met burgers om ze erop te wijzen dat ambtenaren ook mensen zijn.’ De oproep van de Amsterdamse ombudsman is dat we moeten oppassen voor een digitale overheidsramp à la het toeslagen­schandaal.

Ontmenselijking Ramlal geeft een voorbeeld. ‘Ik ontmoette Mohammed Madi, een actieve Amster­dammer. In Nieuw-West brengt hij mensen samen, die elkaar op een andere plek misschien zouden mijden. Mohammeds naamgenoot staat in Duitsland op een terroristenlijst. Een bizar toeval: deze persoon heeft ook nog eens dezelfde geboortedatum. Zodra Mohammed een stap op Schiphol Airport zet, snellen veiligheidsdiensten naar hem toe om hem staande te houden. Voor hemzelf en zijn kinderen is dit bij herhaling een nare ervaring. Je kunt je niet tegen een systeem verweren en dat is zorgelijk. Want zo kun je als burger vogelvrij worden.’ Ramlal nam contact op met de Koninklijke Marechaussee. Die zijn met wat knappe koppen om tafel gaan zitten. Wat eerder echt onmogelijk leek, was nu toch mogelijk: er kwam wijziging in zijn RFID-chip in het paspoort. Hierdoor verdween de smet van zijn digitale identiteit. ‘Dit voorbeeld laat zien hoe digitalisering ingrijpt in mensenlevens. Overheids­organisaties knopen data aan elkaar en vervolgens kom je niet meer van een label af. Dat is het gevaar van framing en profiling: je wordt dat label.’ Het is niet alleen de overheid die zich daaraan schuldig maakt. ‘Ook banken discrimi­neren. Hun lijstjes ontmense­lijken. Je wordt een object in een dataset.’

Screen level bureaucrats Ogenschijnlijk kleine dingen hebben grote gevolgen. Ramlal legt uit wat hij daarmee bedoelt: ‘Tegenwoordig wordt informatie van de politie betrokken in de afweging om een verklaring omtrent het gedrag (vog) te verlenen. Hierdoor kan een relatief onschuldige schoolpleinruzie tot gevolg hebben dat er geen vog wordt verstrekt. Jongeren hebben daardoor bijvoorbeeld geen toegang tot een stageplek, en dat kan grote gevolgen hebben voor hun toekomst.’ Hij waarschuwt: ‘Dat is een groot risico van digitalisering: dat je blind wordt voor het menselijke verhaal, dat je alleen maar vertrouwt op het systeem. Uitvoerend ambtenaren die in direct contact staan met de burgers die zij dienen – ook wel street level bureaucrats genoemd – veran­deren in screen level bureaucrats. Het computerscherm wordt leidend. Ik geloof niet dat men bewust wil discrimineren. Alleen vergroot de digitalisering als het ware je eigen denkbeelden. Daarin schuilt het gevaar, want dan treedt gemakkelijk selffulfilling prophecy op van algoritmes. De data bevestigen zichzelf.’

Onduidelijke formulieren Ramlal benadrukt dat digitalisering ongekend veel voordelen met zich mee kan brengen. ‘Het brengt gemak. Je kunt veel administratieve zaken vanuit huis regelen. Maar mensen die problemen ervaren en vastlopen in het leven, hebben het nodig om hun verhaal te kunnen doen aan een mens van vlees en bloed.’ Hij vindt het echter van groot belang om ook te luisteren naar onderbuikgevoelens van mensen in de uitvoering. ‘Stel dat je bijvoorbeeld een veelgemaakte fout ziet. Is die ene vraag over het inkomen op het formulier wel zo duidelijk? Onderzoek dat eerst eens, voordat je naar een fraudeaanpak overschakelt.’ Wat is er nodig? ‘Allereerst gaat het om bewustzijn van risico’s. Wat problematisch is, moet je tijdig zien. Dat vergt ten eerste kennis van digitale zaken en mensen­kennis; want zonder kennis ga je het niet zien en begrijpen. Een eerste maatregel die je kunt treffen is “kijk- en luistertijd” inbouwen, zodat mensen hun verhaal kunnen doen. Alleen met goede wil kom je er niet. Ten tweede: geef mensen die verstand van zaken hebben het mandaat om data te veranderen. Er zijn altijd technologische oplossingen te vinden. Zoals dat ook lukte in het voorbeeld van de Koninklijke Marechaussee.’

‘Als je geen rechts- gevoel hebt, is technologie gevaarlijk spul’
‘Denk niet naïef dat het allemaal wel goedkomt’

Intelligente aanpak of geen aanpak ‘Als je de kennis niet in huis hebt, dan moet je eigenlijk niet eens willen beginnen aan digitaliseren,’ zegt Ramlal stellig. ‘Want als risico’s werkelijkheid worden, hebben ze heftige gevolgen in mensenlevens. Denk niet naïef dat het allemaal wel goedkomt. Ga alleen voor een intelligente aanpak.’ Hij vergelijkt digitalisering met profes­sioneel vuurwerk. ‘Daar gelden ook bepaalde vereisten. Als je zonder verstand van zaken gaat digitaliseren, loop je grote kans dat het ontploft in je gezicht. Dat brengt niet alleen financiële kosten, maar ook groot bureaucratisch leed. De metafoor doortrekkend: Je bent een rund als je met digitalisering stunt.’

Computerdokter Een andere schaduwkant van digitali­sering is ongelijke toegang tot digitale technologie. ‘Bij ons is een voorbeeld bekend van een oudere mevrouw die niet uit de voeten kon met de DigiD-app. Voor haar belastingaangifte schakelde zij hulp van haar kinderen in. Een benarde situatie: de kinderen waren verbaasd over de grote som aan spaargeld waarover moeder bleek te beschikken. Door het gebrek aan inclusieve dienstverlening kon haar persoonlijke informatie zomaar in andere handen terechtkomen.’ Ramlal pleit voor een computerdokter in de stad. ‘De Cybersoek in Amsterdam is zo’n plek waar mensen gratis digitale hulp kunnen krijgen. Geef dat soort organisaties de wind in de zeilen, ze verdienen steun van gemeenten.’

Wereldconferentie ‘Technologie lijkt neutraal, maar in de handen van mensen zonder empathie en rechtsgevoel, is het gevaarlijk spul.’ Dat is wat Ramlal zei tijdens een lecture van de Digital Rights House in april. De ombudsman verleent bijstand aan deze stichting die zich bezighoudt met de bescherming van mensen tegen de risico’s van nieuwe technologie. ‘Dit zetten zij goed op de agenda, ik voed ze met voorbeelden en ideeën.’ Ramlal vindt dat de ombudsmannen wereldwijd in samenwerking met de Raad van Europa aan de slag moeten om richtlijnen voor digitale bescherming te ontwikkelen. Die oproep deed hij tijdens de wereldconferentie van ombuds­mannen. Die vond 13 september plaats in de Italiaanse stad Cassino. Waarom zoekt hij internationale samenwerking? ‘Digitalisering houdt geen rekening met landsgrenzen. Ombuds­mannen worden volledig in beslag genomen door lokale vraagstukken in het hier en nu, waardoor je achter de feiten aanloopt als je het vraagstuk van digitale rechtsbescherming nu laat liggen. Als relatief jonge ombuds­man onder mijn collega’s maak ik me sterk voor het diepere denkwerk op de risico’s van digitalisering.’

Noodnummer Als het aan Ramlal ligt, komt er een noodnummer dat bewoners kunnen bellen als ze digitaal vastlopen en de uitgang uit de digitale kooi niet kunnen vinden. Het Digital Rights House is al drukdoende om uit te zoeken wat hiervoor nodig is. Hij pleit voor het recht op een menselijk gezicht als bewoners vastlopen in de gemeentelijke dienstverlening. Ramlal: ‘Het gaat erom dat we ons vandaag bewust zijn wat er gaande is op het terrein van digitalisering, voordat er geen houden meer aan is. Als we internet direct vanaf het begin beter hadden gereguleerd, zouden we nu niet zo’n afhankelijkheid hebben van Google, Meta en Facebook. AI schrijft al boeken en maakt schilder­werken. Als dit de MS-DOS- versie is, dan staat ons nog heel wat te wachten. Als we dat goed reguleren, dan kan technologie ons een hoop moois bieden. Doen we dat niet, dan kun je wachten op crises en digitale drama’s.’ ◼

Deel dit artikel