Handvaten voor transparanter gebruik van profileringsalgoritmen door overheden
beeld: Joshua Sortino via Unsplash
Overheden informeren burgers niet, te weinig of juist te laat over het gebruik van risicoprofileringsalgoritmes bij bestuurlijke besluitvormingsprocedures. Dat blijkt uit een onderzoeksproject van Anne Meuwese en Fatma Çapkurt dat zich richt op het juridisch en praktisch verantwoord inzetten van profileringsalgoritmes.
Aanleiding voor het onderzoek zijn situaties zoals bij DUO, waar sprake was van indirecte discriminatie bij de controles op de uitwonendenbeurs voor studenten. Dit onderzoeksproject wil dit soort misstanden helpen voorkomen door overheden beter toe te rusten op het herkennen, toepassen en uitleggen van algoritmisch profilering. Er zijn drie concrete producten ontwikkeld die die overheden helpen om transparanter, zorgvuldiger en juridisch verantwoord om te gaan met algoritmische profilering.
Het eerste product is een wetenschappelijk artikel in het Nederlands Juristenblad, waarin diepgaand wordt geanalyseerd hoe artikel 22 van de Algemene Verordening Gegevensbescherming (AVG) moet worden toegepast. Het artikel bespreekt onder meer het Schufa-arrest van het Europees Hof van Justitie en bekritiseert het huidige overheidsbeleid dat profileringspraktijken onvoldoende reguleert. Over dit artikel zijn inmiddels Kamervragen gesteld aan drie bewindspersonen.
Daarnaast is er een praktische Roadmap ontwikkeld, die op visuele en toegankelijke wijze uitlegt hoe overheidsorganisaties algoritmes kunnen inzetten binnen de kaders van de AVG. De Roadmap biedt heldere stappen en aandachtspunten voor verschillende functies binnen de overheid, van juristen tot communicatieadviseurs, en maakt duidelijk dat ook begrijpelijke communicatie over algoritmes een wettelijke verplichting is.
Tot slot is een publieksdocument opgesteld dat burgers informeert over hun rechten bij profilering. Het legt in begrijpelijke taal uit hoe zij inzage kunnen vragen in hun gegevens en welke signalen kunnen wijzen op het gebruik van algoritmes in besluitvorming. Dit versterkt niet alleen hun rechtspositie, maar moedigt overheden ook aan om verantwoording af te leggen over hun digitale processen.
Meer informatie over het onderzoeksproject treft u hier aan.