Overheid en AI-risico’s

De Nederlandse overheid maakt gebruik van minstens 120 AI-systemen, waarbij de risico’s vaak onduidelijk blijven.

AI-systemen, privacy, discriminatie, risicoanalyse, EU-wetgeving, UWV, politie

De Algemene Rekenkamer meldt dat overheidsorganisaties in Nederland minstens 120 AI-systemen gebruiken. Echter, bijna de helft van deze organisaties heeft geen duidelijke risicoanalyse uitgevoerd. Dit gebrek aan inzicht kan leiden tot problemen zoals privacyschendingen en discriminatie.

De AI-systemen zijn niet handmatig geprogrammeerd, maar hebben geleerd door middel van data-analyse. Organisaties zoals het UWV en de politie zijn grote gebruikers, met respectievelijk 10 en 23 systemen. Deze systemen worden onder meer ingezet om te voorspellen welke burgers na een uitkering geen inkomen hebben, zodat er tijdig ondersteuning kan worden geboden.

“Je kunt de risico’s alleen beheersen als je ze kent”, aldus Ewout Irrgang, collegelid van de Rekenkamer.

Hoewel sommige organisaties de risico’s als minimaal inschatten, blijft er een kans op privacyschendingen bestaan. Daarnaast blijft het nut van 42 van de 120 systemen onduidelijk. De overige systemen voldoen meestal aan de verwachtingen.

Met de nieuwe EU-wetgeving die vanaf februari 2025 van kracht wordt, kunnen bepaalde AI-systemen verboden worden. Het betreft onder andere systemen die gezichtsherkenning gebruiken of mensen sociale scores toekennen. Staatssecretaris Zsolt Szabó benadrukt het belang van het identificeren en verwijderen van dergelijke systemen.

Waarom is dit interessant?

De nieuwe EU-regelgeving rondom AI raakt zowel gebruikers als ontwikkelaars van AI-technologieën.
Het rapport geeft inzicht in het gebruik en de risico’s van AI binnen de overheid, wat relevant is voor AI-professionals.
Het onderzoek toont aan dat er nog veel onduidelijkheden en verbeterpunten zijn in het huidige gebruik van AI.
Het benadrukt de noodzaak van een goede risicoanalyse bij het implementeren van AI-systemen.

Relevantie 7/10

Dit artikel is relevant omdat het inzicht biedt in hoe de overheid AI-systemen gebruikt en de daarbij behorende risico’s. Het behandelt ook de impact van toekomstige EU-regelgeving, wat direct aansluit bij de interesses van gebruikers en ontwikkelaars van AI-technologieën. Hoewel het artikel zich niet specifiek richt op nieuwe AI-modellen of tools, is de bespreking van regelgeving en risicoanalyse belangrijk voor iedereen die met AI werkt.