Pleidooi voor betrouwbare en eerlijke AI in de publieke ruimte

Overheden zetten steeds vaker artificial intelligence (AI) in om bijvoorbeeld het verkeer beter te regelen of om complexe maatschappelijke opgaven zoals energietransitie of klimaatverandering aan te pakken. Door grote hoeveelheden data te analyseren komt informatie beschikbaar waarop beleidsmatige beslissingen kunnen worden gebaseerd. Dat biedt mogelijkheden, maar er zijn ook risico’s. Het CBS is actief betrokken bij de ontwikkelingen rond AI, zowel nationaal als internationaal.

Transparantie
AI is overal. In de publieke sfeer is AI steeds bepalender voor het tempo en de kwaliteit van nieuwe ontwikkelingen. Met AI kunnen processen versneld en verbeterd worden. Ook kan het ingezet worden om patronen in data te ontdekken, die tot meer inzicht in complexe vraagstukken kunnen leiden. Maar er is ook een keerzijde. Barteld Braaksma, innovatiemanager bij het CBS, legt uit hoe delicaat digitale processen kunnen zijn. "Het is bij AI cruciaal dat de data kloppen, dat de trainingsset – het ‘lespakket’ van het algoritme – transparant en neutraal wordt opgezet, en dat de uitkomsten worden gecontroleerd op eventuele fouten. Als het om grote hoeveelheden data gaat, en ergens sluipt een klein foutje in het leerproces van het algoritme, dan kan dat grote gevolgen hebben voor het resultaat. Waar het om gaat is dat de uitlegbaarheid en transparantie van het systeem gewaarborgd is. Daarnaast moeten de trainingsdata representatief zijn om een eerlijk algoritme te krijgen."

Neutrale en eerlijke algoritmes
De ontwikkeling van het wereldwijde internet is lange tijd het domein geweest van private ondernemers. Sinds een aantal jaren groeit het besef dat de digitale technosfeer ook een publieke ruimte is, waarin behoefte is aan regulering door middel van wet- en regelgeving. Daar is vanuit de overheid steeds meer aandacht en ook geld voor. Zo wordt vanuit het Groeifonds geïnvesteerd in de Nederlandse AI Coalitie om kansen en mogelijkheden van AI gericht te benutten voor de Nederlandse samenleving en economie. Braaksma: "We werken in de Nederlandse AI Coalitie met onder andere de Universiteit van Amsterdam, Utrecht Data School, TU Delft en de VNG aan een digitale gereedschapskist om neutrale en eerlijke algoritmes te maken. Daarnaast werkt het CBS internationaal samen met een groot aantal Europese partners in diverse netwerken en consortia zoals TAILOR."

Het TAILOR netwerk
TAILOR is een Europees samenwerkingsverband van overheden, kennisinstituten en bedrijven met 55 partners uit heel Europa. Met een gezamenlijk onderzoek- en ontwikkelingsprogramma wil TAILOR een nieuwe standaard creëren voor betrouwbare en eerlijke AI, waarbij menselijke waarden het vertrekpunt zijn en blijven. Europa wil daarmee een mondiale voortrekkersrol spelen in de ontwikkeling van verantwoorde, humane digitale technologie. Ook TNO is partner in het TAILOR-consortium. Freek Bomhof van TNO legt uit: "De ontwikkelingen in AI-technologie volgen elkaar in hoog tempo op, en op dat technologische vlak doet Europa mee, maar loopt niet voorop. Wel in onderzoek en initiatieven die gaan over ethische toepassing van AI. De behoefte aan wettelijke kaders die de gebruikers beschermen heeft hier meer politieke prioriteit. Dat resulteerde eerder in de GDPR (General Data Protection Regulation, in Nederland geïmplementeerd met de AVG, redactie). De AI-act, waaraan de Europese Commissie nu werkt is ook zo’n stap voorwaarts." Maar het gaat niet alleen over wet- en regelgeving. 

Verantwoord AI
Bewustwording en enige basiskennis over AI bij het grote publiek is ook essentieel voor een ethisch kader. "Daarvoor hoeven we echt niet iedereen op te leiden tot programmeur," zegt Bomhof. En ook voor dystopische scenario’s waarin mensen het tegen de technologie afleggen is hij niet bang. "Vergelijk het met het wegverkeer. Toen New York door de enorme hoeveelheden paard en wagens onder de uitwerpselen van paarden dreigde te verdwijnen, verscheen een technische innovatie die dat probleem voorkwam: de auto. De nadelen die aan dit vervoermiddel kleefden – zoals luchtvervuiling – waren toen nog niet bekend. Die basiskennis is er nu wel, en dat is belangrijk om keuzes te maken die bijvoorbeeld gaan over het milieu en klimaat. Op dezelfde manier is het van belang dat gebruikers van AI – en dat zijn we allemaal – enig begrip hebben van de werking van AI om de gevolgen van het gebruik te overzien. Bij de Toeslagenaffaire ging het ook niet louter om het algoritme. Er zaten ook steeds mensen aan de knoppen. Het gaat dus om de technologie, maar ook om de bedrijfsprocessen zelf."

Betrouwbare digitale publieke ruimte
Eind 2021 organiseerde TAILOR samen met onderzoeksplatform CLAIRE en het project VISION een workshop over de inzet van AI in de publieke sector. Doel was een breed gesprek te organiseren, met ruimte voor alle verschillende invalshoeken. In die opzet is het initiatief geslaagd, vinden Braaksma en Bomhof. "Werken aan een transparant en betrouwbaar AI is ook een kwestie van demystificatie," zegt Bomhof. "Met een algoritmeregister, met een open infrastructuur voor het MKB in alle Europese lidstaten, bouwen we langzaam maar zeker aan een betrouwbare digitale publieke ruimte. In dat proces zie je de Europese signatuur van AI in het publieke domein sterk terug: de diversiteit en complexiteit van het continent, met meer nadruk op menselijke waarden. Het belang van het individu staat daarin centraal. Dat zijn de waarden waarmee we de ‘roadmap trustworthy AI’ uittekenen. Het is niet altijd de makkelijkste weg, maar levert uiteindelijk wel het meeste op voor de samenleving."