Wat de Europese AI-verordening van overheden vraagt, per fase en per risicoklasse.
De AI-verordening is de Europese wet voor kunstmatige intelligentie. Hoe groter de risico’s van een toepassing, hoe zwaarder de eisen. Overheden zijn vaak gebruiksverantwoordelijke: zij zetten AI in die een ander heeft ontwikkeld.
Voor overheden is vooral de categorie hoog-risico belangrijk. Denk aan AI bij uitkeringen, handhaving, onderwijs en migratie. Daarvoor gelden eisen voor menselijk toezicht, logging en registratie. Overheden moeten daarnaast een grondrechteneffectbeoordeling doen.
In dit dossier vindt u de tijdlijn, de belangrijkste besluiten en praktische handreikingen.
Sinds augustus zijn de eisen voor hoog-risicosystemen uit bijlage III van toepassing, al ligt er een Europees voorstel om een deel ervan uit te stellen. Wij zetten op een rij wat vaststaat, wat nog kan schuiven en wat u als gebruiksverantwoordelijke nu al moet regelen.
Wat betekent dit voor u als beleidsmedewerker
Inventariseer welke algoritmes onder bijlage III vallen (uitkeringen, handhaving, onderwijs) en plan voor elk een grondrechteneffectbeoordeling (FRIA). Die geldt specifiek voor overheden.
Wat betekent dit voor u als bestuurder
U bent eindverantwoordelijk voor menselijk toezicht en registratie. Vraag uw organisatie vóór het eind van het jaar om een overzicht van hoog-risicotoepassingen en de status van elke toepassing.
Wat betekent dit voor u als CIO
Zorg dat logging, menselijk toezicht en registratie in de EU-databank technisch geborgd zijn. Leg in contracten vast dat leveranciers de technische documentatie aanleveren.
De plicht om te zorgen voor voldoende AI-kennis bij medewerkers geldt al sinds februari 2025. Veel organisaties hebben nog geen aantoonbaar plan. Een nieuw raamwerk onderscheidt kennisniveaus per functiegroep.
Wat betekent dit voor u als beleidsmedewerker
Koppel het raamwerk aan de functiegroepen in uw organisatie. Beleidsmedewerkers die AI inzetten in analyses vallen in de middelste categorie.
Wat betekent dit voor u als bestuurder
Ook bestuurders vallen onder de plicht. Plan een sessie voor het bestuur of college en leg vast dat die heeft plaatsgevonden.
Wat betekent dit voor u als CIO
Registreer gevolgde trainingen in uw leeromgeving, zodat u bij een audit kunt laten zien wie welk niveau heeft.
Met drone-beelden en beeldherkenning sporen waterschappen sneller schade aan dijken op. Het is een voorbeeld van AI met een minimaal risico onder de AI-verordening.
Wat betekent dit voor u als beleidsmedewerker
Laat zien dat niet alle AI zwaar gereguleerd is. Gebruik de casus om collega's uit te leggen hoe risicoklassen werken.
Wat betekent dit voor u als bestuurder
Een zichtbare opbrengst voor waterveiligheid, met weinig juridische risico's. Goed voorbeeld voor een bestuurlijke presentatie.
Wat betekent dit voor u als CIO
Let op opslag en beheer van grote hoeveelheden beeldmateriaal. De kosten zitten vooral in data, niet in het model.
Drone-beelden van dijken worden automatisch gescreend op scheuren, verzakkingen en begroeiing. Inspecteurs krijgen een lijst met plekken om te controleren.
