6 oktober 2022

Grip op AI bij de overheid

image for Grip op AI bij de overheid image

Algoritmes en artificiële intelligentie (AI) spelen tegenwoordig een grote rol bij veel overheidsbesluitvorming. Om de Eerste Kamer te ondersteunen om wetgeving hierover beter te toetsen, heeft het Rathenau Instituut een handreiking gepubliceerd.

In 2020 startte een werkgroep van de Eerste Kamer een verdiepingstraject over artificiële intelligentie (AI) en overheidsbesluitvorming. De vraag van de werkgroep was wat de Eerste Kamer kan doen om wetgeving over algoritmische besluitvorming van de overheid beter te toetsen op rechtmatigheid, uitvoerbaarheid en handhaafbaarheid.

In Algoritmische overheidsbesluitvorming. Handreiking aan de Eerste Kamer heeft het Rathenau enkele opties gepubliceerd waarmee de Eerste Kamer AI beter kan hanteren. De Eerste Kamer kan bijvoorbeeld een verbod instellen om bepaalde AI-besluiten te nemen zonder menselijke tussenkomst. Daarnaast is het een optie om wettelijk vast te leggen aan welke eisen algoritmes moeten voldoen, zodat de beslissingen van een AI-systeem voldoende uitlegbaar zijn.

De Tweede Kamer kent sinds 2021 een vaste commissie voor Digitale Zaken. Deskundigen geven de Eerste Kamer ter overweging mee om in navolging van de Tweede Kamer een vaste commissie Digitale Zaken op te zetten. Zo kan de Eerste Kamer de toetsing van wetgeving over AI bij de overheid versterken.