Marlies van Eck: 'Algoritmes altijd koppelen aan menselijke deskundigheid'
Veel overheidsorganisaties maken gebruik van algoritmes, maar het beleid daarvoor schiet volgens de organisaties vaak tekort. Dat blijkt uit een inventarisatie van het CBS onder bijna zeventig ministeries, gemeenten en andere overheden.
Algoritmes zijn reeksen instructies die helpen bij het ordenen van grote hoeveelheden gegevens. Ze worden gebruikt om risico's te signaleren. Zo kunnen gemeenten bijvoorbeeld het aantal schoolverlaters in kaart brengen, schrijft de NOS.
Er kleven risico's aan dit gebruik van algoritmes, zegt Marlies van Eck, universitair docent bij het Centrum voor Recht en Digitale Technologie van de Universiteit Leiden. 'Algoritmes helpen bij het maken van slimmere keuzes, maar de uitkomsten moeten wel altijd worden gekoppeld aan menselijke deskundigheid.' Uit een inventarisatie van het Centraal Bureau voor de Statistiek (CBS) blijkt dat de instanties de uitkomsten van algoritmes altijd laten bekijken en onderzoeken door een medewerker, maar dat de organisaties wel behoefte hebben aan afspraken over de manier waarop de algoritmes worden ingezet.
Ook Van Eck vindt dat er duidelijkere afspraken moeten komen. 'Een groot nadeel van algoritmes is dat ze altijd vanuit het verleden redeneren. De systemen maken immers analyses op basis van gegevens uit het verleden. Dit kan tunnelvisie in de hand werken en vooroordelen bevestigen.' Van Eck vindt ook dat de algoritmes die overheidsorganisaties gebruiken door externe deskundigen moeten worden gecontroleerd.