Emotieherkenning op de werkvloer: dit betekent de AI Act voor klantcontact
Wat betekent het als je contactcentertechnologie geen emoties meer mag meten van medewerkers? Een van de bepalingen in de AI Act raakt aan de praktijk van klantcontact: het verbod op emotieherkenning op de werkplek.
Deze maatregel, vastgelegd in artikel 5 lid 1 sub f van de AI Act, heeft directe gevolgen voor organisaties die AI gebruiken om bijvoorbeeld klanttevredenheid, werkstress of vriendelijkheid van medewerkers via gezichtsuitdrukkingen of stemgebruik te analyseren of om te monitoren of werknemers de juiste houding aannemen bij klantcontact. “Werkgevers experimenteren hier al mee”, schrijft jurist Gust Depla van Holla Legal & Tax in een blog op hun website. “Amazon gebruikt bijvoorbeeld een systeem dat monitort of medewerkers wel vriendelijk genoeg klinken tegen klanten.”
Waarom emotieherkenning niet langer is toegestaan
AI-systemen die emoties afleiden uit biometrische gegevens – zoals gezichtsuitdrukkingen, stemintonatie of lichaamshouding – zijn sinds februari 2025 verboden in werkomgevingen en onderwijsinstellingen. De Europese wetgever ziet hierin een te groot risico op discriminatie, machtsmisbruik en een ernstige aantasting van de persoonlijke levenssfeer van werknemers of studenten.
Voor klantcontactprofessionals betekent dit dat er een duidelijke grens is getrokken: AI die probeert te ‘lezen’ of medewerkers blij, boos of gestrest zijn, op basis van hoe ze klinken of kijken, is niet meer toegestaan. Systemen mogen nog wél sentimentanalyse toepassen op bijvoorbeeld klantreviews of feedback, mits dit niet op biometrische data is gebaseerd.
“Onder emoties worden onder meer verstaan: geluk, droefheid, woede, verrassing, verlegenheid, tevredenheid of plezier”, aldus Depla in de blogreeks over de AI Act. “Ook fronsen, glimlachen of hoofdbewegingen kunnen daaronder vallen.”
Wat mag nog wel?
Het verbod geldt uitsluitend voor AI die actief emoties detecteert van werknemers of studenten. Technologie die de emoties van klanten of patiënten probeert te analyseren, valt (vooralsnog) buiten dit verbod, maar staat wel op de radar. Volgens de AI Act vallen dit soort toepassingen waarschijnlijk onder zogeheten hoog-risico AI, waarvoor vanaf augustus 2026 extra regels gaan gelden.
Ook AI die fysieke toestanden zoals vermoeidheid of pijn detecteert, bijvoorbeeld voor medische of veiligheidsdoeleinden (denk aan chauffeurs of piloten), is uitgezonderd van het verbod.
Wat betekent dit voor klantcontactorganisaties?
Organisaties die actief zijn in klantcontact en AI inzetten om prestaties van medewerkers te monitoren, zullen hun systemen kritisch moeten herzien. Gebruik je software die op basis van stemanalyse emotionele intelligentie meet of die automatisch gesprekken evalueert op tone of voice? Dan is het zaak om te controleren of dit binnen de grenzen van de wet blijft.
Belangrijk: wie toch verboden AI gebruikt, riskeert hoge boetes tot 35 miljoen euro of 7 procent van de jaaromzet. En hoewel er nog geen toezichthouder is aangewezen, kunnen medewerkers of derden nu al een juridische procedure starten wegens schending van de AI Act. “Het feit dat er op dit moment nog geen toezichthouder is, betekent niet dat er niets tegen verboden AI-praktijken kan worden gedaan”, aldus Holla Legal & Tax.
