Onveilige en discriminerende algoritmes: ‘Blijven experimenteren om AI te kunnen reguleren’
De ontwikkelingen op het gebied van AI, data en algoritmen gaan razendsnel. Wet- en regelgeving loopt eigenlijk altijd achter. Toch zijn die wetten en regels hard nodig, kijk maar naar de toeslagenaffaire. ‘Ga op een verantwoordelijke manier experimenteren om te reguleren.’
Dat bepleit Anne Fleur van Veenstra in haar oratie op 20 maart. Van Veenstra is hoogleraar Governance van data en algoritmen voor stedelijk beleid, een leerstoel die is ingesteld door TNO in samenwerking met het Leiden-Delft-Erasmus Centre for BOLD Cities.
Van Veenstra is naast hoogleraar wetenschappelijk directeur van TNO Vector en doet al jaren onderzoek naar de maatschappelijke impact van digitalisering. ‘Tot de toeslagenaffaire werd mijn vakgebied als saai en abstract gezien. Nu snapt iedereen het belang, want de ontwikkelingen gaan heel snel. Om sturing te geven aan deze ontwikkeling, moeten we blijven experimenteren. Zelfs als je met de meest briljante mensen in een hokje gaat zitten om regels te maken, ben je al te laat en loop je achter de feiten aan.’
Behoefte aan helderheid over regels voor AI
Dat vindt ook de Autoriteit Persoonsgegevens (AP) die er vorige week op aandrong dat het nieuwe kabinet haast moet maken met de uitvoering en regelgeving voor AI en het toezicht daarop. Volgens de toezichthouder hebben organisaties die AI willen inzetten dringend behoefte aan helderheid over de regels voor AI. De Autoriteit waarschuwt voor grote risico’s op onveilige en discriminerende algoritmes, waartegen nu niet handhavend kan worden opgetreden.
Voor Van Veenstra is het al jaren een fascinerend vakgebied: hoe beïnvloedt technologie de overheid. En of het nu gaat om de kansen te benutten of de risico’s door gebruik van AI te verkleinen: er is sturing nodig. Ze beschrijft in haar oratie drie perspectieven die deze besturing vormgeven: het innovatieperspectief, het waardenperspectief en het transitieperspectief.
Botsende dilemma’s
‘Het is niet vanzelfsprekend om deze drie doelen tegelijk te behalen, dat is de ideale wereld. Nu roept het vooral dilemma’s op’, legt Van Veenstra uit. Innovatieperspectief gaat over experimenteren. ‘Er wordt gekeken of een algoritmisch of AI-systeem van nut is voor een specifieke toepassing met als doel betere overheidsprocessen en diensten.’
Het waardenperspectief gaat ervan uit dat voor AI-systemen vooraf wordt bepaald wat het risico ervan is, zoals op privacyschending, discriminatie of uitsluiting. Als systemen hier niet aan voldoen, kunnen ze verboden worden. En in het transitieperspectief streven organisaties, bedrijven en overheden naar digitale soevereiniteit en autonomie. ‘In plaats van afhankelijk te zijn van big tech.’
‘Als je bijvoorbeeld kijkt naar de AI-verordening dan zie je dat die nog niet is ingevoerd en bedrijven vinden het al te ingewikkeld. De verordening is ingericht volgens het waardenperspectief, doordacht door beleidsmakers, maar volgens het innovatieperspectief moet het simpeler. In die driehoek van perspectieven wordt regulering heen en weer geslingerd.’
Maar hoe moet het dan wel? Volgens de hoogleraar moeten we op een verantwoordelijke manier experimenteren. ‘Ga het maar aan en leer ervan. Verbieden en vrijlaten kan allebei niet. Dus zet AI-gerelateerde experimenten op en bedenk wat we daadwerkelijk in overheidsprocessen gebruiken en wat daar de impact van is. Als je weet waar die AI-experimenten voor gebruikt worden, weet je welke risico’s eraan zitten en kan je al die praktijkervaring meenemen. Uiteindelijk is ons onderzoek interessant voor elke organisatie die AI op een verantwoorde manier wil inzetten.’
De livestream van de oratie op 20 maart is hier te vinden.
Stof voor gesprek
Bijschrift: Het kunstwerk ‘Stof voor Gesprek’ belichaamt het project ‘Leefbarometer’. Het kunstwerk verbeeldt ook een algoritme. Dit algoritme werd door de gemeente Rotterdam gebruikt als voorspeller voor de leefbaarheid in de stad. Alle vakjes op dit wandkleed, meer dan honderd in totaal, corresponderen met een datapunt. De samenhang tussen deze datapunten wordt bepaald door een algoritme dat op basis van al deze data een uitkomst genereert: een voorspeller voor leefbaarheid.