18 mei 2022

Aandacht voor mensenrechten is nodig bij inzet algoritmes

image for Aandacht voor mensenrechten is nodig bij inzet algoritmes image

Iedere uitvoeringsorganisatie die zogenoemde profilerende algoritmes inzet, moet voldoende maatregelen nemen om mensenrechten te beschermen. Dat concludeert het Rathenau Instituut in het rapport Algoritmes afwegen. Bij het beschermen van mensenrechten kunnen uitvoeringsorganisaties gebruik maken van burgerpanels, ethische commissies en een normenkader.

Profilerende algoritmes proberen het gedrag van mensen te voorspellen door hen in te delen in groepen. Dat kan helpen om snel een bepaalde doelgroep in beeld te krijgen, maar het risico bestaat dat mensen behandeld worden op basis van vooroordelen of discriminatie.

Het rapport van het Rathenau Instituut laat manieren zien waarop uitvoeringsorganisaties die profilering (willen) gebruiken de bescherming van mensenrechten kunnen versterken. Zo kunnen ze in een normenkader precies vastleggen wie ervoor verantwoordelijk is dat bepaalde rechten niet worden geschonden. Door het aanstellen van ethische commissies en adviseurs kunnen ze onder hun medewerkers de kennis van, en het gevoel voor, ethische vraagstukken vergroten. Belangrijk is ook dat organisaties burgers goed informeren over de algoritmes die ze gebruiken. Door het instellen van burgerpanels kunnen ze nagaan of die informatie nuttig en begrijpelijk is en of ze alle risico’s hebben meegewogen.

Maatregelen voor het beschermen van mensenrechten bij het inzetten van profilerende algoritmes, zijn niet alleen een verantwoordelijkheid voor de uitvoeringsorganisaties, aldus het Rathenau Instituut. Ook de wetgever dient stappen te zetten, bijvoorbeeld door de eisen aan de uitlegbaarheid van profilerende systemen te verhelderen. Op die manier is beter na te gaan waarom een algoritme bepaalde burgers selecteert.