EU AI Act: ook de tandarts moet transparant zijn over inzet virtuele AI-assistent aan de receptie
Organisaties die kunstmatige intelligentie inzetten in klantcontact, moeten daar vanaf nu direct duidelijk over zijn. Dat is het gevolg van een nieuwe fase van de Europese AI-verordening (AI Act) die afgelopen weekend van kracht is geworden en die strengere transparantie-eisen stelt aan het gebruik van AI-systemen. Of het nu gaat om een chatbot, AI-gegenereerde beelden of een AI-telefonist: gebruikers moeten meteen weten dat zij met een AI-systeem communiceren.
De Europese AI Act trad twee jaar geleden in werking als eerste uitgebreide AI-wetgeving ter wereld en wordt stapsgewijs ingevoerd. Een van de onderdelen die nu van kracht is geworden, verplicht organisaties om transparant te zijn over de inzet van AI. Daarmee wil de Europese Unie voorkomen dat mensen onbewust denken met een mens te communiceren.
AI-receptionist in de tandartspraktijk
NOS schreef een artikel over het praktijkvoorbeeld van Fraai Tandartsen in Rotterdam. Daar krijgen patiënten sinds vorig jaar zomer bij een telefoongesprek eerst ‘Eva’ aan de lijn, een virtuele AI-assistent. Volgens tandarts-implantoloog Stefan Peulen was de stap vooral ingegeven door de krapte op de arbeidsmarkt.
“Ik had eerst wel mijn bedenkingen”, zegt Peulen. “maar ik had geen keuze vanwege een personeelstekort aan met name balie-assistenten.” Samen met Anwar Sahraoui van Voicelabs ontwikkelde hij een bestaande AI-assistent verder door voor de tandartsenmarkt.
Volgens Peulen is de virtuele assistent inmiddels uitgegroeid tot een volwaardige ondersteuning van de receptie. “Inmiddels doet de AI-assistente alles wat een ‘normale’ assistent ook doet, maar dan 24 uur per dag, 7 dagen in de week, zonder vakantie en altijd aanwezig.” Daarnaast zorgt de AI ervoor dat de agenda efficiënter wordt ingepland, waardoor meer patiënten kunnen worden behandeld.
Patiënten moeten soms wennen
Niet iedere patiënt reageert direct enthousiast. “In het begin wist ik niet goed wat mij overkwam”, vertelt een patiënt in de wachtkamer. “Maar ik sta versteld van haar beleefdheid en dat ze het allemaal snapt. Ik ben er wel blij mee, maar vind het wel jammer dat ik geen persoon meer spreek.”
Peulen herkent die reactie bij een kleine groep patiënten, maar benadrukt dat het altijd mogelijk blijft om met een medewerker te worden doorverbonden.
Afbeelding is gemaakt met behulp van AI
Ook Anwar Sahraoui, ziet dat gebruikers moeten wennen aan AI in het klantcontact. “Uiteindelijk moeten bedrijven zelf bepalen of ze efficiëntie nodig hebben, of juist gezelligheid.” En met een knipoog voegt hij daaraan toe: “een AI-assistent kan ook gezellig zijn”.
Transparantie en keuzevrijheid
Volgens Sahraoui zullen AI-assistenten de komende jaren in steeds meer sectoren worden ingezet, vooral op plekken waar veel routinematige klantvragen binnenkomen. Hij ondersteunt daarom de nieuwe transparantieverplichting uit de AI Act. “Uiteindelijk moet de AI-assistent zijn plek ook verdienen, je wil niet je klanten in de maling nemen.”
Tegelijkertijd begrijpen sommige mensen dat een AI-telefonist als een extra drempel kan voelen om een medewerker te spreken. Sahraoui ziet dat anders. “Voorheen belden patiënten en moesten in de wachtrij staan of kregen een voicemail, nu wordt de telefoon direct opgenomen.” Om die reden is het binnen Voicelabs verplicht dat organisaties een telefoonnummer instellen waarnaar gesprekken kunnen worden doorverbonden, zodat een menselijke medewerker bereikbaar blijft.
Voor bestaande AI-systemen geldt een overgangsperiode tot 2 december om aan de nieuwe transparantie-eisen te voldoen. Nieuwe AI-toepassingen moeten vanaf volgende maand direct aan de aangescherpte regels voldoen.
Bron: NOS – Geen twijfel: AI-telefonist moet zich voortaan direct prijsgeven
