‘Ethiek is niet te vertalen in enen en nullen’
Computersystemen bepalen tegenwoordig wat we zien, mogen en doen. Echter, computersystemen kunnen net zo bevooroordeeld zijn als mensen. Hoe vertel je een computer wat ethiek is? Ethiek is niet te vertalen in enen en nullen.'
Francien Dechesne is als onderzoeker verbonden aan het Centrum voor Recht en Digitale Technologie en heeft een achtergrond in zowel filosofie als informatica. Ze deed onderzoek naar computerbeveiliging. In een artikel in trouw zegt ze het volgende: ‘Ik begon me daar zorgen te maken. Ik zag hoe informatici voor de computationeel meest efficiënte formulering kiezen, dat is hun werk. Maar we verliezen zo de connectie met de werkelijke betekenis.’
Zouden eerlijke algoritmes de wereld ook rechtvaardiger kunnen maken? Dechesne is hier sceptisch over: ‘Wel kunnen wiskundige modellen ons helpen zoeken naar oorzaken van onrechtvaardigheid. De grote kracht van data-wetenschap is dat we patronen aan het licht kunnen brengen. Niet om dan te zeggen: 'Zo zit de wereld nu eenmaal in elkaar', maar: 'Verrek, kennelijk is het in bepaalde delen van de stad nog steeds moeilijk voor mensen om hun sociale positie te verbeteren'. Met die kennis kunnen we zoeken naar oplossingen.’