Universiteit Leiden

nl en

Ethische eisen aan data science

Computers worden zo slim, dat ze op termijn wellicht de rol van de rechter overnemen. Tot die tijd buigen Leidse experts zich over de vraag, aan welke normen verantwoordelijke data science moet voldoen.

Het moment dat de computer de rechter vervangt, komt met de snelle ontwikkelingen op het gebied van data science elke dag een stapje dichterbij. ‘Een computer kan in de toekomst uit duizenden vergelijkbare casussen elementen halen, met elkaar verbinden en op grond daarvan de beste beslissing nemen’, zegt Jaap van den Herik, hoogleraar Juridische Informatica van de Universiteit Leiden. ‘Ik denk dat over ongeveer 15 jaar computers al eenvoudige vonnissen schrijven. En in 2080 zijn computers beter in het nemen van ethische beslissingen dan rechters.’

De sleutel tot die toekomst is deep learning, waarbij een computerprogramma zelf patronen ontdekt in grote hoeveelheden casussen. Met die technologie leerde een computer ook al de menselijke wereldkampioen te verslaan met het spel Go. Toch moet er nog veel gebeuren, voordat rechters hun hamers verliezen aan een computer, vertelt Van den Herik.

Meer informatie nodig

‘Het aantal mogelijkheden bij Go is erg groot, maar wel eindig. Bij de rechtspraak is het aantal mogelijkheden oneindig.’ Over de uitslag van het spel valt bovendien niet te twisten. Ook dat is bij de rechtspraak wel anders. Culturele verschillen leiden namelijk tot verschillen in rechtspraak. ‘Om goed onderbouwde beslissingen te leren nemen, moet de computer beschikken over een grote diversiteit in data betreffende de context van eerdere casussen’, zegt de hoogleraar. ’Vaak spelen data die niet opgeslagen mogen worden, zoals ras, godsdienst en seksuele voorkeur een rol. Het ontbreken van die context maakt het voor een computerprogramma lastig casussen goed te analyseren.’ Een ander probleem is dat er soms weinig beschikbare eerdere casussen zijn. Hoe meer data het computerprogramma heeft om van te leren, des te beter worden de vonnissen.

Verantwoordelijke data science

Terwijl computers een steeds grotere rol in de samenleving zijn gaan spelen, blijkt het maatschappelijk vertrouwen in computers gedaald. Zorgen op het gebied van veiligheid en privacy zijn hieraan onder meer debet. Om dit tij te keren, is volgens Van den Herik meer onderzoek nodig naar de voorwaarden voor verantwoordelijke data science.

‘De data die je hiervoor gebruikt moeten toegankelijk zijn en verwerkbaar door een computer. Ze moeten goed versleuteld zijn en de privacy van mensen waarborgen. Hier in Leiden zetten we met het FAIR-principe op dit gebied de standaard voor onderzoeksdata.’ (zie ook ‘Leiden: Silicon Valley van FAIR data‘)

Studenten die zich bezighouden met data science, moeten volgens de hoogleraar al vroeg leren om ethische overwegingen mee te nemen in hun werkwijze. Met zijn eigen onderzoeksgroep buigt hij zich onder meer over de vraag, hoe verantwoordelijke data science zich verhoudt tot de juridische praktijk. ‘Hoe meet je al die voorwaarden op dit moment? En hoe doe je dat over 10 jaar? Het is zeker dat het dan niet meer gaat over verantwoordelijkheid maar ook over aansprakelijkheid. Nu computers steeds slimmer worden, wordt het de hoogste tijd om deze discussies serieus te gaan voeren.’

The International Data Responsibility Group (IDRG)

Deze website maakt gebruik van cookies. Meer informatie