EU AI Act legt blinde vlek in CX bloot: te weinig inzicht in AI-beslissingen
Veel organisaties zetten AI inmiddels breed in binnen customer experience. Van gepersonaliseerde interacties tot chatbots en AI-ondersteunde content en besluitvorming. De aandacht ligt daarbij vaak op efficiëntie, schaalbaarheid en personalisatie. Maar in een recent artikel op het Frankwatching platform stelt CX-expert Tim Thijsse dat de volgende fase van de Europese AI Act een belangrijke blinde vlek blootlegt: organisaties hebben vaak onvoldoende inzicht in hoe AI tot beslissingen komt die de klantbeleving beïnvloeden.
Volgens hem gaat de discussie te veel over wat AI kan, en te weinig over hoe AI klantperceptie en besluitvorming daadwerkelijk stuurt.
Van inzicht in gedrag naar inzicht in beslissingen
Optimalisaties geven organisaties steeds beter inzicht in wat werkt binnen de klantreis. Tegelijk blijft een cruciaal aspect vaak buiten beeld: waar beslissingen daadwerkelijk worden genomen. Organisaties zien wel waar klanten afhaken of converteren, maar minder goed waarom systemen klanten verschillend behandelen. De onderliggende logica blijft daardoor vaak een black box.
Welke data wordt gebruikt? Welke systemen en modellen spelen mee? Wie neemt die beslissing? En wie is verantwoordelijk als het misgaat? Dit soort vragen zijn lang onderbelicht gebleven, maar worden steeds urgenter.
De volgende fase van de EU AI Act maakt deze verschuiving explicieter. Want zodra AI invloed heeft op klantinteracties, gaat CX niet alleen over het ontwerpen van ervaringen, maar ook over het ontwerpen, beheren en verantwoorden van keuzes en beslissingen. Het gaat dus niet alleen meer om hoe je een betere ervaring ontwerpt, maar ook naar hoe je beslissingen zo inricht dat ze uitlegbaar, controleerbaar en verantwoord zijn.
Transparantie wordt een CX-vereiste
Vanaf augustus 2026 gelden binnen de AI Act aanvullende regels rond transparantie en governance van AI-systemen. Organisaties moeten in bepaalde gevallen kunnen uitleggen wanneer AI wordt ingezet en hoe dit bijdraagt aan uitkomsten.
Daarmee wordt transparantie niet alleen een compliance-eis, maar onderdeel van de customer experience zelf. Uitlegbaarheid beïnvloedt direct vertrouwen en merkperceptie. Klantgerichtheid wordt pas serieus als een organisatie kan uitleggen waarom een klant krijgt wat hij krijgt.
CX als ontwerp van beslissingen
Volgens CX-expert Tim Thijsse is het daarom niet langer voldoende om alleen klantreizen te ontwerpen. Organisaties moeten ook inzicht hebben in de besluit-lagen die die journeys sturen. Welke data wordt gebruikt, welke beslissingen worden genomen, welke regels horen daarbij, welke rol speelt AI en waar is menselijk toezicht nodig?
Veel organisaties hebben hun journeys scherp in beeld, maar missen zicht op deze besluit-lagen. Daar zat de blinde vlek. Er volgt daarom nu een verschuiving van journey mapping naar decision mapping: zichtbaar maken en uitleggen hoe beslissingen tot stand komen.
Meer dan technologie of compliance
Organisaties die niet alleen investeren in AI-gedreven personalisatie, maar ook in transparante en verantwoorde besluitvorming, verbeteren de ervaring van klanten, maar versterken ook het vertrouwen in een merk.
Bron: Frankwatching – ‘AI Act legt blinde vlek in CX bloot’.
