Het lijkt of informatiesystemen steeds meer invloed krijgen op onze maatschappij, helemaal met de opmars van artificial intelligence (AI). Moeten we ons zorgen maken over het beoordelingsvermogen van deze systemen?
Zolang er informatiesystemen zijn, oordelen deze systemen. Sterker nog, de belangrijkste reden van het bestaan van deze systemen is juist om een oordeel te vellen. Zo bepaalt een verzekeringsmaatschappij bij een auto-ongeval de hoogte van de schade op basis van parameters, zoals restwaarde van de auto. Hiermee geeft de verzekeraar een oordeel over het ongeval en daarmee de hoogte van het uit te keren bedrag. Zolang er mensen zijn, zijn er vooroordelen. Zij zijn zich soms bewust van hun vooroordeel. Zo wordt er bijvoorbeeld vaak gezegd dat vrouwen niet kunnen autorijden. Het bijzondere is dat er net zoveel onderzoek te vinden is dat deze stelling onderbouwt als onderzoek dat dit tegenspreekt.
*Dit is het eerste deel van een column uit Od 33: Od Kwaliteitsawards. Lees hier verder
Beeld: Tara Winstead
