EU jaagt op X’s AI-chatbot Grok. Wie kleurt nog meer buiten de lijntjes?
Elon Musk doet weer eens iets waar veel mensen vraagtekens bij zetten. Dit keer duikt de EU AI-waakhond erbovenop. Musks AI-model Grok wordt namelijk getraind met berichten van X-gebruikers. Zonder dat ze daar zelf toestemming voor geven en vaak zonder dat zij dat doorhebben. En dat mag binnen de EU niet.
Wat is er aan de hand met Grok?
Musk werkt aan een AI-model dat volgens Musk de krachtigste AI ter wereld wordt. Daarvoor gebruikt X dus onder meer de berichten van gebruikers van het socialmediaplatform. Om het hemzelf en X wat makkelijker te maken, zette Musk alvast voor elke gebruiker het juiste vinkje aan. Daar hadden de gebruikers zelf vaak geen weet van. Het vinkje zit namelijk diep verstopt in de instellingen, en is alleen op desktop te vinden – niet op mobiel.
De EU AI-waakhond wil opheldering. Volgens de General Data Protection Regulation Rules van de EU moeten bedrijven eerst uitdrukkelijk toestemming vragen aan gebruikers voordat ze iets doen. Consumenten moeten zelf de toestemming geven; bedrijven mogen niet op eigen houtje vinkjes aanzetten of andere methoden gebruiken voor toestemming.
‘Aanvulling op bestaande controle’
“Alle X-gebruikers hebben de mogelijkheid om te bepalen of hun openbare berichten kunnen worden gebruikt om Grok te trainen”, citeert Financial Times X. “Deze optie is een aanvulling op de bestaande controle over of iemand interacties, input en resultaten met betrekking tot Grok kunnen worden gebruikt. Deze instelling is beschikbaar op het webplatform en wordt binnenkort uitgerold op mobiel.”
Meta flikte hetzelfde kunstje als X ook al voor het trainen van haar AI-model. Na een gesprek met de EU stopte Meta ermee.
Hoe doen customer service organisaties het?
Elon Musk zal bewust buiten de lijntjes kleuren, maar het roept de vraag op: hoeveel customer service organisaties die bezig zijn hun AI-model te trainen, doen dat AVG-proof? Met gegevens die ze ook daadwerkelijk mogen gebruiken. Organisaties die in allerijl ‘iets met artificial intelligence willen’ en hun AI-model carte blanche geven en trainen met klantgegevens en -gesprekken, kunnen zomaar eens de privacy van hun klanten schenden.
