Sociale Zaken: De surveillancemaatschappij
Wie zijn dystopische klassiekers kent, zal het concept van de surveillancemaatschappij onvermijdelijk associëren met de alwetende onderdrukkende macht die in George Orwells roman 1984 wordt gekarakteriseerd als Big Brother. Surveillance beïnvloedt onze samenleving echter in veel subtielere opzichten dan onze ergste angsten over spionagevaartuigen en alziende despoten of regeringen. Wie bepaalt waar het evenwicht ligt tussen privacy en controle? Hoe zorgen we er als samenleving voor dat deze bevoegdheden niet worden misbruikt? Onze sociale wetenschappers geven hun standpunt.
Technologie en privacy: vertrouwen of wantrouwen?
- Elise Swart, Pedagogische Wetenschappen
De toenemende mogelijkheden en toegankelijkheid van technologische toepassingen en digitale media hebben een nieuwe dimensie gegeven aan opvoeding en onderwijs. Maar wat nu als technologie gebruikt wordt als een manier om (een gevoel van) controle te hebben over de fysieke wereld?
Veel smartphones beschikken over apps om de locatie van anderen real-time te volgen, er zijn speciale smartwatches voor kinderen met ingebouwde GPS-functie en zelfs GPS-trackers die je in de schooltas van je kind kan bevestigen. Uit recent onderzoek blijkt dat 1 op de 5 ouders in Nederland gebruikmaakt van de mogelijkheid om de locatie van hun kind te tracken en 1 op de 4 ouders overweegt daarnaast om dit soort tools te gaan gebruiken. Ook systemen waarin ouders schoolprestaties van hun kinderen kunnen monitoren geven steeds vaker informatie over aan- en afwezigheid van het kind. Hoewel ouders aangeven locatie-tracking te gebruiken om de bewegingsvrijheid van kinderen te vergroten of vanwege het gevoel van veiligheid, kleven volgens wetenschappers ook nadelen aan deze surveillancemethoden (los van de potentiële technische privacybeschermingsproblemen, zoals aangetoond door de Noorse consumentenbond). Empirisch onderzoek naar de mogelijke keerzijden van deze nieuwe technologieën staat nog in de kinderschoenen, maar wetenschappers wijzen er vanuit pedagogisch, moreel en ethisch oogpunt op dat het veelvuldig of aanhoudend monitoren van de locatie van een kind het recht op privacy kan schenden en van invloed kan zijn op de ontwikkeling van vertrouwen tussen ouder en kind, de ontwikkeling van verantwoordelijkheidsgevoel en autonomie van een kind en het leren omgaan met risico’s.
Zoals bij alle nieuwe (digitale) mogelijkheden in opvoeding en onderwijs, zouden we ons als ouders, onderwijzers en wetenschappers regelmatig moeten afvragen, maakt het feit dat iets kan ook dat je het moet willen?
De oproep komt van binnenshuis!
- John Boy, Culturele Antropologie en Ontwikkelingssociologie
Screening Surveillance is een serie korte films geproduceerd door Sava Saheli Singh. Tijdens een filmavond georganiseerd door ons onderzoekscluster, hebben we twee films gekeken die speculeren over een nabije toekomst waarin 'slimme steden' en volledig geïntegreerde gezondheidsgegevenssystemen de dagelijkse routines omhullen. In de daaropvolgende discussie ging het echter vooral om zaken die dichter bij huis afspelen. Onze faculteit had op dat moment net het geautomatiseerde surveillancesysteem Proctorio aangenomen, dat door het merendeel van de deelnemers wordt gezien als een onaanvaardbare druk die op onze studenten wordt gelegd. Daarnaast beschouwen ze het als een volgende ongelukkige stap van onze eigen instelling om mee te doen met het surveillance kapitalisme: Proctorio verwerkt het gedrag van onze studenten tot gegevens die financieel interessant zijn. Dergelijke gegevensverzameling leidt tot een proces van "accumulatie door toezicht". Naar verwachting zal alleen al met online surveilleren volgend jaar 20 miljard euro worden verdient, en de omzet van de totale onderwijstechnologiesector wordt geschat op bijna 100 miljard euro.
Dat zou geen enkel probleem zijn als deze industrie ten dienste stond van de kerntaak van onze instelling: namelijk onderwijzen en leren. In het geval van Proctorio lijkt het anders te liggen. Het bedrijf heeft herhaaldelijk geprobeerd academici het zwijgen op te leggen die kritisch waren over hun product en algoritmisch examineren in het algemeen. Het bedrijf heeft zelfs geprobeerd een peer-review tijdschrift, Hybrid Pedagogy, onder druk te zetten om een kritisch artikel over proctoringssoftware in te trekken. Ondertussen is er steeds meer bewijs dat Proctorio en aanverwante systemen discriminerend en ongeschikt zijn. Ik vond het dan ook hartverwarmend om te zien dat studenten over de hele wereld, waaronder studenten van onze eigen faculteit, proctoring weigeren.
Bij het uitwerken van een post-pandemische universitaire toekomst moet de relatie van onze instellingen met dit soort schadelijke systemen een centraal thema zijn. Zijn we in staat om er van af te komen? Of worden ze ingeburgerd, zoals Turnitin is ingeburgerd? Recente bevindingen stemmen mij pessimistisch. Ik adviseer een groep studenten die onderzoek doet naar StudyStream, een online leerruimte die tijdens de pandemie is opgezet. De kern van StudyStream bestaat uit Zoom-kamers en een Discord server waar studenten van over de hele wereld samenkomen om vrijwillig toezicht te houden op elkaar. Dit is geen niche-ding; honderdduizenden studenten melden zich aan om mee te doen. En hoewel StudyStream het gebruik momenteel niet commercieel exploiteert en misschien wel een bedrijfsmodel vindt dat niet vereist dat zij gebruikersgegevens uitbuiten, valt het mij op hoe snel intensief toezicht een vanzelfsprekend onderdeel is geworden van de leeromgeving van studenten. Op dit moment is het voor ons als docenten noodzakelijker dan ooit om het onderwijs als "de praktijk van de vrijheid" te beschermen.
#CameraGate of: Waarom we moeten uitkijken met het toelaten van invasieve technologie tot de publieke ruimte
- Hilde van Meegdenburg, Politieke Wetenschap
Op 17 november 2021 berichtte Mare over de installatie van slimme camera’s in de gebouwen van de Universiteit Leiden: “Opeens hangen er overal slimme camera’s”. Deze camera’s kunnen veel: ze registreren hoeveel mensen er gebruik maken van een bepaalde ruimte en kunnen bewegingen door gebouwen in kaart brengen. Ze kunnen ook de sekse en lengte van een voorbijganger vaststellen. Daarnaast pocht de producent dat de sensoren zijn uitgerust met verschillende “artificial intelligence extensions” die continue in ontwikkeling zijn. De Universiteit noemt ze personentellers—een veel onschuldiger term—en benadrukt dat de privacygevoelige instellingen nooit zullen worden gebruikt, nu niet en in de toekomst niet. Waarom maak ik mij dan toch zorgen? Daarvoor heb ik twee redenen:
Function creep - Beloften en intenties bieden, helaas, geen garanties voor de toekomst. Ik geloof het College van Bestuur als het zegt “totaal geen belangstelling” te hebben in het verzamelen van aanvullende gegevens over bezoekers. Maar belangen veranderen, en het huidige College kan niet voorkomen dat toekomstige bestuurders anders zullen beslissen. Zoals Marc Schuilenburg (hoogleraar Digital Surveillance aan de Erasmus Universiteit) wordt aangehaald in de Volkskrant: “tien jaar later worden surveillancesystemen nooit gebruikt met de intenties waarmee ze waren aangekondigd”. Nu de camera’s er eenmaal hangen, en de lijnen naar de producent kort zijn, zijn we altijd slechts een muisklik verwijderd van meer invasief gebruik. En met de mogelijkheden binnen handbereik, en daarbij de “sunk cost” drogreden optellend, zal de verleiding om de privacy instellingen terug te schroeven groot blijken—maar altijd “slechts tijdelijk” en “alleen zo lang als de situatie voortduurt”. We weten ook dat dergelijke maatregelen de noodzaak vaak overleven.
Technology can stifle - Zelfs als bepaalde functies op dit moment niet zijn ingeschakeld zit het potentieel in de hardware ingebakken. Daarmee kan het systeem repressief werken. Overal, en te allen tijde, hebben studentenbewegingen en -protesten getoond kritische stemmen te zijn tegen oorlog, onderdrukking, racisme, sexisme en onverdraagzaamheid in het algemeen. Universiteiten zijn vaak, en zouden dit altijd moeten blijven, plaatsen waar kritische sociale bewegingen ontstaan. Wanneer elke gang en elke collegezaal is uitgerust met een kleine dubbelogige spion, een spion die kan zie hoe lang je stil staat en kijkt naar een bepaalde poster, dan draagt dat niet bij aan het gevoel van vrijheid en vertrouwen. En wat als deze camera’s worden uitgerust met gezichtsherkenningssoftware? Wat als ze straks niet alleen sekse maar ook huidskleur kunnen registreren? Of wij iets te verbergen hebben, hangt niet alleen af van ons eigen gedrag, maar ook van welke vormen van gedrag worden getolereerd door de machthebbers. En de heersende ideeën aangaande ‘gepast gedrag’ veranderen. Nogmaals, ten goede of ten kwade, hedendaagse beloften en intenties bieden geen garanties voor de toekomst.
Mochten bovenstaande scenario’s onwaarschijnlijk overkomen, neem dan dit laatste punt in overweging. Waarom zouden we technologie aanschaffen die we niet beogen te gebruiken—nu niet, en nooit niet. Gezien de garanties die moeten worden afgegeven, waarom is er geen eenvoudiger systeem aangeschaft? De Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie stelt ook dat minder privacy-gevoelige technologie de voorkeur verdient. Invasieve technologie zou alleen moeten worden ingezet als er geen andere middelen voorhanden zijn en als de inzet in verhouding is met de mogelijke privacy-overtreding.
Uiteindelijk is de beste garantie tegen privacyschendingen, nu en in de toekomst, om géén apparatuur te installeren die zulke schendingen mogelijk maakt. Om te kiezen voor privacy by design. Dat is mijn suggestie voor onze Universiteit: ondanks de al gemaakte kosten en ondanks dat andere manieren om het ruimtegebruik te meten mogelijk omslachtiger of minder nauwkeurig zijn, vervang de surveillancecamera’s door technologie die, by design, niet meer vermag dan waarvoor het is aangeschaft.
Kom op, we houden niet zo veel van onze privacy...
- Roy de Kleijn, Psychologie
We zijn allemaal erg bezorgd over onze privacy. Zozeer zelfs dat we bereid zijn ons Facebook-account te verwijderen (maar niet WhatsApp of Instagram!) en over te schakelen op DuckDuckGo of andere privacygerichte zoekmachines (maar we gebruiken nog steeds Google als dat nodig is).
Velen vinden het een goed idee dat toezichthouders onze privacy beschermen, maar wie vindt de door de EU opgelegde cookiewaarschuwingen eigenlijk leuk (laat staan dat hij ze leest) als je een nieuwe website bezoekt, en wie leest de algemene voorwaarden door als je je ergens voor aanmeldt? Met andere woorden, het gaat erom een evenwicht te vinden tussen privacy en gemak.
Natuurlijk zullen sommige bezorgde mensen u vertellen dat privacy een fundamenteel mensenrecht is en koste wat het kost moet worden beschermd. Maar uit onderzoek blijkt dat mensen die hun bezorgdheid uiten, daar vaak niet naar handelen en dat mensen in feite bereid zijn persoonlijke informatie prijs te geven voor een relatief kleine beloning, een verschijnsel dat bekend staat als de privacy paradox.
Bijvoorbeeld, Facebook verdient zijn geld met de verkoop van gerichte reclame op basis van de verzamelde gegevens van zijn gebruikers, en verdient daarmee ongeveer 9 dollar per maand per gebruiker. Zijn gebruikers bereid om 9 dollar per maand te betalen om Facebook ervan te weerhouden hun gegevens te verzamelen? U raadt het al... slechts ongeveer 8% van de gebruikers is hiertoe bereid.
Het lijkt mij dat de meeste mensen niet zo bezorgd zijn over privacy, in ieder geval niet genoeg om het actief te beschermen of er hinder van te ondervinden.
Sociale Zaken – Sociale wetenschappers op de zeepkist
Sociale Zaken is een online variant van de Londense Speakers' corner. Hierin reageren de wetenschappers van onze verschillende disciplines binnen de Faculteit der Sociale Wetenschappen op het nieuws. Via deze digitale zeepkist geven de sociale wetenschappers van de faculteit zo elk hun visie op de actualiteit vanuit het eigen vakgebied.