‘Te simpel om te stellen dat AI de kcc-medewerker vervangt’
De razendsnelle opmars van AI-chatbots in de klantenservice belooft efficiëntie en kostenbesparing. Maar volgens Bart Custers, hoogleraar Law and Data Science, is het te simpel om te denken dat kunstmatige intelligentie de menselijke klantcontactmedewerker zomaar kan vervangen. “Ze denken dat een AI-chatbot een goedkope oplossing is”, zegt Custers in een interview met het Financieele Dagblad.
Discussie over verantwoordelijkheid is volop gaande
Bedrijven zetten steeds vaker chatbots in om klantvragen af te handelen, maar dat gaat niet zonder risico’s. Custers wijst erop dat AI-systemen fouten kunnen maken, met soms grote financiële gevolgen. Zo werd in Canada een luchtvaartmaatschappij aansprakelijk gesteld voor foutieve informatie die haar chatbot had verstrekt. In Nederland zijn zulke rechtszaken er nog niet, maar de discussie over verantwoordelijkheid is volop gaande.
Nieuwe regels op komst
De Europese Unie werkt ondertussen hard aan wetgeving om de inzet van AI in goede banen te leiden. Volgens Custers is de zogeheten AI-verordening het belangrijkste instrument: “De belangrijkste is de AI-verordening, die geldt in alle lidstaten en is bindend voor alle bedrijven en burgers,’ aldus Custers tegen fd.nl. Deze verordening deelt toepassingen in naar risicoklasse. Klantcontact valt onder de categorie ‘beperkt risico”, wat betekent dat bedrijven verplicht zijn transparant te zijn: klanten moeten weten dat ze met een chatbot praten.
Daarnaast presenteert de Europese Commissie eind oktober de Digital Fairness Act (DFA), bedoeld om consumenten online net zo goed te beschermen als offline. Dat is geen overbodige luxe, gezien het tempo waarin bedrijven AI inzetten voor klantinteractie.
