Beeld: Pexels
Bent u een organisatie met een publieke taak en houdt u zich bezig met besluitvorming die direct invloed heeft op burgers? Maakt u gebruik van algoritmen? Dan kunt u deze niet zomaar inzetten. U bent wettelijk verplicht ervoor te zorgen dat de grondrechten van burgers worden beschermd.
Recente uitspraken benadrukken het belang van transparantie. Een tussenvonnis van de rechtbank Den Haag betrof het ministerie van Buitenlandse Zaken (BZ) en het algoritme Informatie Ondersteunend Beslissen (IOB) bij visumaanvragen (ECLI:NL:RBDHA:2025:14544). Het systeem kent aanvragers een risicoscore toe op basis van zeven factoren, waaronder nationaliteit. In deze zaak werd de aanvraag van een Marokkaanse vrouw afgewezen mede op basis van IOB. Omdat zij niet wist hoe het algoritme was toegepast, kon zij zich niet goed verdedigen. Dit leidde tot een ongelijk speelveld en mogelijk schending van grondrechten door gebrek aan transparantie. Burgers hebben recht te weten welke middelen de overheid gebruikt om besluiten te nemen. Zonder die kennis kan iemand niet effectief bezwaar maken. BZ had het gebruik van IOB moeten melden en uitleggen.
Rapporten van onder andere Amnesty International wijzen bovendien op risico van discriminatie en etnisch profileren. De rechtbank verzocht de minister te melden of een Impact Assessment Mensenrechten en Algoritmes (IAMA) is uitgevoerd, door wie en met welke conclusies. De einduitspraak volgt nog.
Met de komst van de AI-verordening worden de regels strenger. Algoritmen zoals IOB zullen waarschijnlijk als hoogrisicosystemen worden aangemerkt. Vanaf 2 augustus 2026 moeten overheidsorganisaties bij de inzet van zulke systemen transparant zijn over het gebruik van AI, vooraf een grondrechteneffectbeoordeling uitvoeren, het systeem registreren bij de EU-databank en zorgen voor AI-geletterdheid bij medewerkers (verplicht vanaf 2 februari 2025).
Voor systemen die voor 2 augustus 2026 zijn ingevoerd, geldt naleving tot uiterlijk 2 augustus 2030. Maar ook nu al gelden regels vanuit de AVG en de Awb. Burgers moeten worden geïnformeerd over geautomatiseerde besluitvorming en gebruikte gegevens. Volledig geautomatiseerde besluiten zijn in principe verboden. De zaak tegen BZ laat zien dat rechters nu al streng toetsen.
*Dit artikel verscheen in Od 47: Dubbel duurzaam. Meer lezen? Meld je dan hier aan voor een abonnement of vraag een gratis presentexemplaar op.
