2 mei 2024

Hoe herken je door AI gegenereerde taal van chatbots?

Klanten communiceren steeds vaker, zonder dat ze het doorhebben, met generatieve AI via een chatbot. Hoe kun je door AI gegeneerde taal van chatbots eigenlijk herkennen? In dit artikel geven we antwoord op die vraag aan de hand van de maximes van Paul Grice, een taalfilosoof van Engelse komaf.

Klanten communiceren steeds vaker, zonder dat ze het doorhebben, met generatieve AI via chatbots. Hoe krijg je dat in de gaten?

Intent-based vs. Gen AI

Voordat we beginnen, is het zaak om het onderscheid tussen intent-based en generatieve AI chatbots te verduidelijken. Bij intent-based bots wordt de vraagherkenning afgehandeld door AI, maar zijn de antwoorden die de bot geeft, door mensen geschreven. Dat is een groot verschil met generatieve AI zoals ChatGPT, daarmee wordt het antwoord door de bot zelf gegenereerd op basis van aanwezige data.

Marieke Groenewege, conversation designer van chatbots voor klantenservicedoeleinden, zegt in een artikel op Tweakers: ‘Een chatbot moet altijd als zodanig herkenbaar zijn en daar mag geen twijfel over bestaan. Ik heb meermaals gezien dat mensen al snel vergeten dat ze met een chatbot praten en dan in goed vertrouwen informatie delen die ze niet zomaar zouden moeten delen, bijvoorbeeld pincodes of andere persoonsgegevens. Soms is het belangrijk dat een mens iets afhandelt. Een machine heeft geen empathisch vermogen. Als er een gevoelige situatie ontstaat waarbij een beetje empathie belangrijk is, zou een bot daarom direct moeten doorverwijzen naar een menselijke medewerker.’

AI-taal herkennen

In generatieve chatbots, zoals ChatGPT, Gemini en Bing, is geen sprake van iemand die de gesprekken ontwerpt. Het onderliggende large language model (LLM) genereert de antwoorden automatisch. Hoewel ze op het eerste gezicht prima met je mee kletsen, worden we toch regelmatig verrast door onverwachte zijsprongen. De oorzaak waardoor generatieve chatbots de plank soms net misslaan, wordt goed geïllustreerd met de zogenoemde maximes van Paul Grice.

Grice heeft deze vrij abstracte definitie verwerkt in vier maximes: kwantiteit, kwaliteit, stijl en relevantie. ‘Chatbots met generatieve AI lappen deze conversatieregels steevast aan de laars’, aldus Groenewege. Ze legt bij ieder van de principes uit hoe dat in de praktijk gebeurt.

Maxime van kwantiteit: zeg niet meer en niet minder dan nodig is voor de conversatie. ‘Generatieve chatbots geven vaak te weinig informatie; je moet veelal doorvragen. Eigenlijk moet je zelf het goede antwoord al weten om de juiste vraag te stellen. Op sommige kleine vragen wordt dan weer een veel te uitgebreid antwoord gegeven.’

Maxime van kwaliteit: zeg niets waarvan je denkt dat het onwaar is of waarvoor je geen bewijs hebt. ‘We weten ondertussen dat generatieve AI nogal eens kan hallucineren. Je kunt er niet van uitgaan dat statements van chatbots waar zijn.’

Maxime van stijl: wees niet obscuur of ambigu, maar wees bondig en ordelijk. ‘Generatieve chatbots geven vaak ellenlange antwoorden met een lage informatiedichtheid.’

Maxime van relevantie: wees relevant, zorg dat wat je zegt, ertoe doet. ‘AI schrijft heel erg relevant, soms zelfs te relevant. Bots blijven dusdanig on topic dat eventuele relevante informatie achterwege blijft, tenzij je ernaar vraagt. Mensen dwalen juist af en wisselen zo andere, ook relevante informatie uit.’

Wil je meer lezen over chatbots? Lees dan eens een van de onderstaande artikelen!