De groeiende dreiging van ongecontroleerde AI-macht
In de media beeld: Immo Wegmann via Unsplash
Reijer Passchier, universitair docent staatsrecht en hoogleraar digitalisering en de democratische rechtsstaat aan de OU, waarschuwt in HP/De Tijd hoe weinig controle we werkelijk hebben over kunstmatige intelligentie, terwijl machtige bedrijven steeds meer invloed krijgen op onze democratische samenleving.
Recent onderzoek van ILO laat zien dat generatieve AI wereldwijd een kwart van de banen zal beïnvloeden. Passchier betoogt dat we vaak denken dat we als mensheid de controle behouden over AI-systemen, terwijl die gedachte een illusie is. De systemen worden steeds complexer, beslissingsprocessen weinig inzichtelijk, en we verliezen grip. Hij waarschuwt dat het niet de technologie per se is die het grootste gevaar vormt, maar de mensen achter de technologie: degenen die beslissingen nemen over ontwerp, gebruik, data, algoritmische prioriteiten, en wie toegang heeft tot de systemen. Onzorgvuldigheid, belangen, machtsposities kunnen leiden tot misbruik of schade.
Daarnaast stoort het Passchier, ‘dat deze bedrijven nauwelijks publieke verantwoording hoeven af te leggen.’ Al helemaal niet in de Verenigde Staten, terwijl Europa nog zijn best probeert te doen. Een andere grote zorg vormt volgens Passchier de verschuiving van arbeid naar kapitaal. Passchier stelt dat we de afgelopen tweehonderd jaar een blind vertrouwen in technologie hebben ontwikkeld – bijna als in een nieuwe religie.‘Techniek is echter nooit neutraal er zijn altijd winnaars en verliezers.’ Het probleem is dat we ons telkens weer laten meeslepen door de nieuwste snufjes en de nadelige gevolgen voor lief nemen. 'In die zin zie ik technologie als een soort faustiaans pact: voor een beetje sensatie en een paar aantrekkelijke gadgets zijn we steeds opnieuw bereid onze ziel aan de duivel te verkopen.’