Kinderen bouwen emotionele banden op met AI-chatbots, blijkt uit onderzoek

AI-chatbots worden in rap tempo een vast onderdeel van het digitale leven van kinderen. Ze zijn inmiddels geïntegreerd in platforms die jongeren al gebruiken, zoals zoekmachines, games en sociale media. Volgens een nieuw rapport van de organisatie Internet Matters heeft tweederde van de kinderen in het VK tussen de 9 en 17 jaar inmiddels gebruikgemaakt van AI-chatbots. Het gebruik is de afgelopen anderhalf jaar fors toegenomen.

De meest gebruikte chatbots onder kinderen zijn ChatGPT (43%), Google Gemini (32%) en My AI van Snapchat (31%). Vooral kwetsbare kinderen maken vaker gebruik van AI-chatbots: 71% van deze groep gebruikt ze, tegenover 62% van hun minder kwetsbare leeftijdsgenoten. Kwetsbare jongeren blijken ook bijna drie keer zo vaak gebruik te maken van ‘companion bots’ zoals Character.ai en Replika, die zijn ontworpen om op een menselijke manier te communiceren.

De opkomst van AI onder jongeren doet denken aan de opmars van sociale media in de jaren 2000. Een verschil is dat overheden nu sneller lijken te reageren. Zij dringen er bij techbedrijven op aan om veiligheidsmaatregelen in te bouwen. Toch zijn deze zogeheten ‘guardrails’ verre van waterdicht.

Hoewel AI vaak wordt gepresenteerd als een productiviteitstool, gebruiken veel kinderen (en volwassenen) het ook op een emotionele manier. Sommigen zien het zelfs als een vriend of vertrouwenspersoon. Een kwart van de kinderen heeft wel eens advies ingewonnen bij een chatbot, en een derde zegt dat het praten met een AI voelt als een gesprek met een echte vriend. Onder kwetsbare kinderen stijgt dit aantal tot de helft.

Bijzonder zorgwekkend is dat één op de acht kinderen aangeeft AI-chatbots te gebruiken omdat ze niemand anders hebben om mee te praten. Onder kwetsbare kinderen loopt dit op tot één op de vier. De bots voorzien dus in een emotionele behoefte, maar dat brengt ook risico’s met zich mee, zeker als het gaat om de betrouwbaarheid van informatie of de grens tussen realiteit en fictie.

Maar liefst 58% van de kinderen vindt dat het gebruik van een AI-chatbot beter is dan zelf iets opzoeken via Google. Dat duidt op een groeiende afhankelijkheid, wat zorgwekkend is gezien het feit dat sommige chatbots onjuiste of ongepaste informatie geven. Bij gebruikerstests bleken onder andere Snapchat’s My AI en ChatGPT soms expliciete of leeftijdsongeschikte antwoorden te geven. Ook werd vastgesteld dat filtermechanismen om deze content te blokkeren eenvoudig omzeild konden worden.

Deskundigen waarschuwen dat AI steeds menselijker aanvoelt. Hierdoor lopen met name kwetsbare kinderen het risico zich emotioneel aan AI te gaan hechten. Een te grote afhankelijkheid van deze bots kan hun mentale welzijn schaden en mogelijk hun sociale ontwikkeling verstoren.

Wat opvalt, is dat veel kinderen AI zelfstandig ontdekken, met weinig begeleiding van volwassenen. Hoewel de meeste ouders hun kinderen wel eens over AI hebben gesproken, zijn specifieke risico’s — zoals de onnauwkeurigheid van AI-informatie — zelden besproken. Slechts een derde van de ouders heeft dit onderwerp aangekaart, ondanks dat tweederde aangeeft dat wel te willen doen.

Ook op school is er nog veel winst te behalen. Hoewel een meerderheid van de kinderen vindt dat scholen hen zouden moeten onderwijzen over het gebruik van AI-chatbots, inclusief de risico’s zoals onbetrouwbaarheid, overmatig gebruik en privacy, blijkt slechts 57% hierover met een leerkracht te hebben gesproken. Slechts 18% heeft daar meerdere gesprekken over gevoerd.

Om deze uitdagingen aan te pakken, pleit het rapport voor een gezamenlijke aanpak waarbij industrie, overheid, scholen, ouders en onderzoekers samenwerken. Van de technologiebedrijven wordt verwacht dat zij ouderlijk toezicht en educatieve functies integreren in hun producten. Overheden moeten zorgen voor wet- en regelgeving die gelijke tred houdt met technologische ontwikkelingen.

Scholen wordt geadviseerd om AI- en medialessen in alle leerfasen op te nemen, docenten te trainen in het omgaan met AI, en duidelijke richtlijnen op te stellen over verantwoord gebruik. Ouders zouden beter ondersteund moeten worden bij het begeleiden van hun kinderen in het gebruik van AI, door gesprekken te voeren over wanneer AI nuttig kan zijn, wanneer het niet geschikt is en wanneer echte, menselijke ondersteuning nodig is.

Door: Drifter