In oktober 2018 kwam in het nieuws dat het personeelsselectie-algoritme van Amazon bleek te discrimineren. Op dat moment groot nieuws, het is echter de vraag of een dergelijke fout echt uit de lucht kwam vallen. Onderzoekers Barocas en Selbst (2011) hadden namelijk in hun artikel ‘Big data’s disparate impact’ al uitgelicht dat het gebruik van data mining en algoritmes in werving- en selectieprocessen op meerdere vlakken een risico vormt voor discriminatie. Zij kwamen daarbij tot de belangrijke constatering dat algoritmes niet alleen verkeerd afgesteld kunnen zijn, maar dat vooral de data die als input voor algoritmes gebruikt worden een probleem kunnen vormen.

Lees verder

Regelmatig updates ontvangen? Meld je aan voor de nieuwsbrief!