Bedenkingen bij concepttekst AI-Act

Ondanks openlijke twijfel bij Duitsland en Frankrijk, hebben de ambassadeurs van de verschillende EU-lidstaten afgelopen vrijdag ingestemd met de Europese Wet op Kunstmatige Intelligentie, de AI-Act.

Vooral de eisen aan de zogeheten foundation models, waar bijvoorbeeld ChatGPT op draait, leidden tot bedenkingen bij onder andere Frankrijk en Duitsland. Ook was er lang nog onduidelijkheid over de definitie van AI.

Brede definitie
Door de brede definitie van AI dreigt de AI-Act van toepassing te worden op heel veel verzekeraars, zo vreest ook het Verbond van Verzekeraars. Dit kan verstrekkende gevolgen hebben voor de concurrentiekracht van de Europese modellen en bedrijven. Nu de ambassadeurs groen licht hebben gegeven, is het aan de Raad van de Europese Unie, waarin alle lidstaten vertegenwoordigd zijn, en het Europees Parlement om over het voorstel te stemmen. Als ook zij akkoord gaan, is de wet definitief en verschijnt deze in het officiële publicatieblad van de EU.  

Meer aandacht voor sectorspecifieke regelgeving
Een Duitse minister wees erop dat er in de wetgeving onvoldoende rekening wordt gehouden met de huidige sectorspecifieke regelgeving. Denk aan het toezicht op de door verzekeraars gebruikte premiemodellen. Hierdoor voldoen Nederlandse verzekeraars al aan hoge eisen. Het Verbond juicht daarom de optie in de wet toe waarmee bedrijven en sectoren zelf gedragscodes kunnen bedenken die de Commissie algemeen bindend kan verklaren. Wellicht kan huidige ethisch kader worden doorontwikkeld in deze richting. “Zelfregulering biedt flexibiliteit, ruimte voor concrete initiatieven en leidt tot een sectorspecifieke aanpak: maatwerk dus. Daar heeft iedereen baat bij,” aldus het Verbond.

Wat is 'hoog risico'?
Kort samengevat gaat het om toepassingen die impact kunnen hebben op de rechten die je als mens hebt. De wet somt in bijlage drie verschillende producten en diensten op, die nu als hoog risico worden bestempeld. Het gaat om systemen die leven- en zorg verzekeraars kunnen gebruiken om te bepalen welke klanten een aanbod krijgen en tegen welke premie. Al dat soort systemen worden onderwerpen aan strenge eisen. Ze mogen bijvoorbeeld niet discrimineren, ze moeten transparant zijn over wat er gebeurt en toezichthouders moeten kunnen zien hoe verzekeraars de systemen toepassen. Een risicoanalyse wordt verplicht.

Mogelijke vertraging
De twijfel van Frankrijk en Duitsland kan leiden tot vertraging van de wet die volgens de planning dit voorjaar af moet zijn (daarna volgt een implementatietermijn van naar verwachting twee jaar). Het Verbond houdt de ontwikkelingen nauwgezet in de gaten.