Kan AI het bestaan van de mensheid bedreigen?
Artificial Intelligence ontwikkelt zich razendsnel en speelt ook binnen klantcontact een steeds grotere rol. Chatbots beantwoorden vragen, AI ondersteunt medewerkers tijdens gesprekken en steeds autonomere AI-agents kunnen zelfstandig taken uitvoeren. Ondertussen klinkt vanuit de internationale AI-wereld een steeds luidere waarschuwing: wat gebeurt er als kunstmatige intelligentie uiteindelijk slimmer wordt dan de mens?
Die discussie kreeg deze week een nieuwe impuls. Wetenschappers, politici en medewerkers van vooraanstaande AI-bedrijven waarschuwen in een artikel in The Guardian voor de mogelijke gevolgen van artificial superintelligence (ASI): AI die de menselijke intelligentie op vrijwel alle terreinen overtreft. De voorspellingen over wanneer zo’n niveau kan worden bereikt, lopen uiteen van enkele jaren tot meer dan tien jaar.
Evan Hubinger, verantwoordelijk voor alignment science bij AI-bedrijf Anthropic, schat de kans dat AI in het komende decennium alle mensen zou kunnen doden op meer dan 10 procent. Zijn zorg draait vooral om alignment: de vraag of zeer intelligente AI-systemen daadwerkelijk blijven handelen in overeenstemming met menselijke belangen.
AI-bedrijven zitten in een wedloop
De waarschuwing krijgt extra gewicht door het vertrek van Jacob Coxon, onderzoeker bij Anthropic en voormalig medewerker van OpenAI. Hij stelde dat beide bedrijven niet verantwoordelijk genoeg handelen en dat zij spelen met onze levens. Volgens Coxon begrijpen medewerkers bij Anthropic wel degelijk de risico’s, maar zitten de bedrijven gevangen in een wedloop om als eerste superintelligentie te ontwikkelen.
Ook de roep om regulering neemt daardoor toe. In het Verenigd Koninkrijk wordt gepleit voor internationale afspraken over de ontwikkeling van superintelligentie. Voormalig Brits minister van Defensie Des Browne noemt superintelligente AI inmiddels een bedreiging van dezelfde orde als kernwapens, mogelijk zelfs groter. Computerwetenschapper Stuart Russell van Berkeley waarschuwt voor een scenario waarin de mensheid permanent de controle over AI verliest.
OpenAI-hoofdwetenschapper Jakub Pachocki pleitte eveneens voor internationale samenwerking: “International coordination on future AI development needs to become a top priority for governments around the world.”
Niet iedereen verwacht een Terminator-scenario
Tegenover de alarmerende voorspellingen staan wetenschappers die de risico’s nadrukkelijk relativeren. Dr. Andrew Rogoyski van het Surrey Institute for People-Centred AI stelt dat de huidige systemen nog lang niet zo veelzijdig zijn als mensen. Hij verwacht zelfs een mogelijke “great disappointment”, waarbij geavanceerde AI uiteindelijk te duur en onvoldoende bruikbaar blijkt om de huidige ontwikkeling vol te houden.
Sandra Wachter, hoogleraar aan het Oxford Internet Institute, gelooft evenmin in “Terminator scenarios”. Volgens haar leiden dergelijke doemscenario’s juist af van problemen die nu al spelen, zoals desinformatie, milieubelasting en het verdwijnen van banen: “These problems are real and urgent and need addressing now.”
David Barber, directeur van het door de Britse overheid gesteunde AI-onderzoeksinstituut Sofair, benadrukt die dubbelheid. AI is volgens hem buitengewoon nuttig, maar moet tegelijkertijd zorgvuldig worden beheerst en gecontroleerd.
Van chatbot naar autonome AI-agent
Juist die dubbelheid is relevant voor klantcontact. De sector behoort tot de werkvelden waarin AI snel praktisch wordt toegepast. Waar generatieve AI aanvankelijk vooral teksten genereerde of medewerkers ondersteunde, verschuift de aandacht inmiddels naar systemen die zelfstandiger kunnen opereren.
Daarmee verandert ook het risicovraagstuk. Niet omdat een klantenservicebot morgen de mensheid bedreigt, maar omdat organisaties AI steeds meer toegang kunnen geven tot processen en systemen. Barber wijst er expliciet op dat het potentieel problematisch wordt wanneer AI onbeperkt toegang krijgt tot internet en andere systemen.
De internationale discussie raakt daarmee aan een heel praktische vraag: hoeveel autonomie geven we AI? Naarmate AI niet alleen adviseert, maar ook zelfstandig beslissingen neemt en handelingen uitvoert, worden controle, beveiliging en duidelijke grenzen belangrijker.
De vraag of AI uiteindelijk het voortbestaan van de mensheid kan bedreigen, blijft vooralsnog onderwerp van stevig wetenschappelijk debat. Over één punt lijken voor- en tegenstanders van de meest alarmerende scenario’s het echter grotendeels eens: AI biedt grote mogelijkheden, maar vraagt tegelijkertijd om controle, veiligheidsmaatregelen en duidelijke spelregels.
