Is de massale inzet van AI-chatbots door bedrijven wenselijk?
In de media beeld: Mariia Shalabaieva via Unsplash+
AI-chatbots die klantenservice overnemen zijn in opmars bij bedrijven. Toch heeft dat niet alleen voordelen. Bart Custers, hoogleraar Law and Data Science, sprak hierover met het Financieele Dagblad: ‘Ze denken dat een AI-chatbot een goedkope oplossing is.’
Steeds meer organisaties zetten AI-chatbots in voor hun klantenservice. Deze populariteit is niet zonder risico. Kan AI de vragen van klanten altijd goed afhandelen en weet de klant überhaupt dat ze met een chatbot praten? Volgens Custers wordt er door de Europese Unie hard gewerkt aan wetgeving over de inzet van AI: ‘De belangrijkste is de AI-verordening, die geldt in alle lidstaten en is bindend voor alle bedrijven en burgers.’ Deze verordening stelt eisen op basis van verschillende risicoklassen. Klantcontact wordt gerekend onder ‘beperkt’ risico. Voor bedrijven is het daarom alleen verplicht om transparant te zijn dat consumenten contact hebben met een chatbot.
De Europese Commissie komt eind deze maand ook met nieuwe regelgeving: de Digital Fairness Act (DFA). De DFA moet zorgen dat consumenten online net als offline goed beschermd zijn. Met de groeiende populariteit van chatbots bij bedrijven is deze regelgeving hard nodig: ‘Ze denken nu dat een AI-chatbot een goedkope oplossing is, maar het brengt wel financiële risico’s met zich mee.’ In Canada werd een luchtvaartmaatschappij bijvoorbeeld verantwoordelijk gehouden voor de foute informatie van een chatbot. In Nederland zijn er vooralsnog geen soortgelijke rechtszaken geweest, stelt Custers.