Nieuwe risicobeheer vereisten voor hoog-risico AI

FERMA heeft een beleidsnotitie gepubliceerd over de EU-wetgeving op het gebied van Kunstmatige Intelligentie (AI), die richtlijnen biedt over hoe bedrijven hiermee om moeten gaan en welke gevolgen dit kan hebben voor verzekeringen.

Foto: Typhaine Beaupérin CEO van FERMA

De EU AI Act, die in juli is gepubliceerd, gaat van kracht in alle 27 EU-lidstaten, en bedrijven moeten zich aan de regels houden vanaf februari 2025. Het doel van deze wet is om de gezondheid, veiligheid en fundamentele rechten van mensen te beschermen tegen de mogelijke negatieve effecten van AI-systemen. De wet classificeert AI-systemen op basis van het risico dat ze met zich meebrengen, variërend van laag tot zeer hoog risico, waarbij de meeste regels van toepassing zijn op hoog-risico systemen.

Volgens deze wet moeten hoog-risico systemen geregistreerd worden in een EU-database en voldoen aan specifieke verplichtingen, zoals databeheer, transparantie en risicobeheer.

“De AI Act is een van de belangrijkste regelgeving die de EU recent heeft ingevoerd, omdat AI onze levens op zoveel manieren beïnvloedt,” zegt Philippe Cotelle, bestuurslid van FERMA en voorzitter van het Digitale Comité. “Deze wet vraagt risicomanagers om beter na te denken over AI en hoe dit samenhangt met zaken zoals aansprakelijkheid en innovatie.”

De Beleidsnotitie stelt drie belangrijke pijlers voor die risicomanagers kunnen helpen bij het omgaan met de nieuwe vereisten:

1. Ontwikkeling van een AI-strategie die in een goed governancekader past. Dit kan worden aangetoond met een beleidsdocument en de uitvoering van duidelijke processen.

2. Implementatie van de juiste technologie en investering in de training van medewerkers en partners, evenals het aanbieden van documentatie en richtlijnen voor klanten.

3. Zorg voor governance en technologie die klaar zijn voor toekomstige audits. Het is aan te raden om een formele certificering na te streven, hoewel dit niet specifiek wettelijk verplicht is.

In dit verband adviseert FERMA risicomanagers om een internationaal erkende ethische standaard te volgen, duidelijk te zijn over beleidsomvang en verantwoordelijkheden, en te kijken naar de omgeving waarin hun AI-systeem opereert.

De Beleidsnotitie roept bedrijven op om te investeren in veilige technologie en training. FERMA moedigt risicomanagers aan om benchmarks op te stellen om de prestaties van AI-systemen te meten en ervoor te zorgen dat gebruikers getraind zijn om risico's te verminderen, zoals misbruik, onethische resultaten, vooringenomenheid, onnauwkeurigheid en datalekken. Alle toepassingen van het systeem moeten in overeenstemming zijn met het AI-beleid.

"Onderzoek van FERMA toont aan dat de meeste risicomanagers zich richten op AI-gerelateerde risico's," zegt Typhaine Beaupérin, CEO van FERMA. “Belangrijke taken zijn onder andere het volgen van regelgevingsontwikkelingen en het opstellen van interne beleidsregels voor het gebruik van AI in bedrijfsactiviteiten. Het is essentieel om duidelijke richtlijnen te hebben over hoe veranderingen in de wetgeving bedrijven beïnvloeden, om professionals te ondersteunen bij het beheren van deze snel veranderende risico's."

Vanuit verzekeringsperspectief kijkt FERMA ook naar hoe AI de verzekeraars kan beïnvloeden en hoe dat doorwerkt naar risicomanagers in bedrijven.

Verder adviseert de Beleidsnotitie risicomanagers om te kijken naar ‘Stille AI’ – de onbekende of niet-gekwantificeerde risico's van AI die invloed kunnen hebben op andere verzekeringspolissen. Ook stelt het voor dat risicomanagers moeten onderzoeken of ze nieuwe producten nodig hebben die passen bij hoe hun bedrijf AI gebruikmaakt, rekening houdend met hun risicobereidheid en geschatte risico's.

In de eerste helft van 2024 heeft FERMA een reeks webinars gehouden over AI met sprekers van verschillende belangrijke bedrijven en instituten. Het FERMA Forum in Madrid op 20-22 oktober zal ook een leersessie bevatten over de gevolgen van de EU AI Act voor risicomanagers, evenals workshops over de risico-implicaties van AI.