ChatGPT voor tieners: strengere veiligheidsmaatregelen voor minderjarigen

OpenAI introduceert een speciale ChatGPT-ervaring voor tieners van 13 tot en met 17 jaar. Deze zogenoemde tienermodus is ontwikkeld om jongeren op een veiligere en meer leeftijdsgerichte manier met AI te laten werken. De basis van ChatGPT blijft hetzelfde, maar voor minderjarige gebruikers gelden aanvullende veiligheidsmaatregelen en beperkingen.

Volgens OpenAI is de tienerversie bedoeld om jongeren te helpen leren, kritisch na te denken, hun kennis te verdiepen en op een verantwoorde manier met kunstmatige intelligentie om te gaan. Daarbij wordt extra rekening gehouden met het feit dat tieners nog volop in ontwikkeling zijn en mogelijk anders omgaan met AI dan volwassenen.

Automatische herkenning van tienergebruikers

Wanneer een ChatGPT-gebruiker aangeeft tussen de 13 en 17 jaar oud te zijn, wordt de tienerervaring ingeschakeld. Daarnaast kan OpenAI systemen gebruiken om in te schatten of een gebruiker waarschijnlijk jonger dan 18 jaar is. Als daar aanleiding voor is, kunnen de strengere instellingen automatisch worden toegepast.

Het doel daarvan is om niet uitsluitend afhankelijk te zijn van wat een gebruiker zelf over zijn of haar leeftijd opgeeft. De precieze manier waarop leeftijd wordt vastgesteld of ingeschat, kan daarbij verschillen.

De tienermodus wordt geleidelijk beschikbaar gemaakt. Daardoor kan het voorkomen dat de functie niet onmiddellijk voor iedere gebruiker of in ieder land beschikbaar is.

Strengere veiligheidsregels

Het belangrijkste verschil met de reguliere ChatGPT-ervaring is dat voor tieners strengere veiligheidsmaatregelen gelden.

ChatGPT moet daardoor terughoudender omgaan met onderwerpen die voor minderjarige gebruikers bijzonder gevoelig of schadelijk kunnen zijn. Dit geldt onder meer voor gesprekken over:

• zelfbeschadiging en zelfdoding;
• seksueel materiaal en seksuele situaties;
• extreem of gewelddadig gedrag;
• andere inhoud die voor een minderjarige ongepast of potentieel schadelijk kan zijn.

Het gaat niet simpelweg om het volledig vermijden van moeilijke onderwerpen. Tieners kunnen nog steeds vragen stellen over gevoelige thema's, bijvoorbeeld voor school, algemene kennis of om een probleem beter te begrijpen. Het verschil is dat ChatGPT dergelijke onderwerpen voor minderjarigen op een veiligere, terughoudendere en leeftijdsgeschiktere manier moet behandelen.

Bij situaties waarin sprake is van mogelijk ernstig gevaar, zoals aanwijzingen voor zelfbeschadiging, ligt de nadruk sterker op veiligheid en het aanmoedigen van contact met mensen die daadwerkelijk kunnen helpen.

ChatGPT moet minder als een persoon overkomen

Een ander belangrijk onderdeel van de tienerervaring is de manier waarop ChatGPT zich presenteert.

OpenAI wil voorkomen dat jonge gebruikers de indruk krijgen dat ChatGPT daadwerkelijk gevoelens, bewustzijn of menselijke behoeften heeft. Daarom moet de AI zich minder gedragen alsof zij een menselijke vriend of vertrouwenspersoon is.

Dat betekent bijvoorbeeld dat ChatGPT terughoudender moet zijn met taal die een sterke emotionele band kan suggereren. Het systeem moet duidelijker laten merken dat het om kunstmatige intelligentie gaat en niet om een mens met eigen gevoelens of persoonlijke behoeften.

Dit is bedoeld om het risico te verkleinen dat jongeren een ongezonde emotionele afhankelijkheid van de chatbot ontwikkelen of vergeten dat de antwoorden afkomstig zijn van een AI-systeem.

Extra aandacht voor gezond AI-gebruik

De tienermodus richt zich niet alleen op het blokkeren van schadelijke inhoud. OpenAI wil jongeren ook helpen om op een gezonde en verstandige manier met AI om te gaan.

Daarbij hoort onder meer dat ChatGPT jongeren kan stimuleren om zelf na te denken, informatie kritisch te beoordelen en AI niet automatisch als autoriteit te beschouwen.

Dat is vooral belangrijk bij schoolwerk. Een chatbot kan overtuigend klinkende antwoorden geven die toch onjuist, onvolledig of misleidend zijn. Jongeren moeten daarom leren om AI-antwoorden te controleren en zelf na te denken over de informatie die zij krijgen.

Studiemodus

Binnen de ChatGPT-ervaring is daarnaast een studiemodus beschikbaar die gericht is op leren.

In plaats van een leerling onmiddellijk het eindantwoord te geven, kan ChatGPT proberen de gebruiker stap voor stap naar het antwoord te begeleiden. De AI kan bijvoorbeeld:

1. uitleggen wat de vraag precies vraagt;
2. het probleem opdelen in kleinere onderdelen;
3. vragen stellen om de leerling zelf te laten nadenken;
4. uitleg geven wanneer iets niet duidelijk is;
5. samen met de leerling een oplossing opbouwen;
6. controleren of de leerling de stof daadwerkelijk begrijpt.

Hierdoor wordt ChatGPT meer als een digitale leerhulp gebruikt en minder als een systeem dat simpelweg antwoorden voor een leerling produceert.

De studiemodus kan daarnaast worden gebruikt om te oefenen voor toetsen, lesstof te herhalen of een leerling te overhoren. Ook kunnen er momenten worden ingesteld waarop de gebruiker zich specifiek op studeren richt.

Het uitgangspunt is dat AI het leerproces ondersteunt, in plaats van het denkwerk volledig van de leerling over te nemen.

Ouders krijgen meer mogelijkheden

Ouders kunnen bovendien bepaalde instellingen voor het ChatGPT-account van hun kind beheren wanneer hun account aan dat van hun kind is gekoppeld.

Daarmee kunnen ouders invloed uitoefenen op hoe ChatGPT door hun minderjarige kind wordt gebruikt. Het gaat bijvoorbeeld om instellingen die bedoeld zijn om het gebruik veiliger en meer afgestemd op jongeren te maken.

De tienermodus staat daarmee niet volledig los van bestaande mogelijkheden voor ouderlijk toezicht. Ouderlijke instellingen vormen een aanvullende laag bovenop de veiligheidsmaatregelen die ChatGPT zelf toepast.

Wat verandert er voor tieners?

Voor een tienergebruiker kan ChatGPT daardoor op verschillende manieren anders functioneren dan voor een volwassene.

De belangrijkste verschillen zijn:

• strengere veiligheidsfilters voor gevoelige en potentieel schadelijke inhoud;
• meer terughoudendheid bij seksuele, gewelddadige en zelfbeschadiging-gerelateerde onderwerpen;
• minder menselijk of emotioneel taalgebruik, zodat duidelijk blijft dat ChatGPT een AI is;
• meer aandacht voor gezond en verantwoord AI-gebruik;
• ondersteuning bij leren en studeren, onder andere via de studiemodus;
• mogelijkheden voor ouderlijk toezicht wanneer ouders en kinderen hun accounts koppelen.

Waarom kiest OpenAI hiervoor?

De ontwikkeling van een aparte tienerervaring hangt samen met de groeiende rol van AI in het dagelijks leven van jongeren. ChatGPT wordt niet alleen gebruikt voor entertainment en algemene vragen, maar ook voor huiswerk, onderzoek, schrijven, leren en persoonlijke gesprekken.

Jongeren bevinden zich echter nog in een belangrijke ontwikkelingsfase. Daardoor kunnen zij kwetsbaarder zijn voor bepaalde soorten inhoud en kunnen zij een chatbot gemakkelijker als een sociale of emotionele gesprekspartner gaan zien.

OpenAI probeert daarom een onderscheid te maken tussen de manier waarop volwassenen en minderjarigen met ChatGPT kunnen omgaan. Voor tieners moet de AI niet alleen nuttig zijn, maar ook duidelijk begrensd, leeftijdsgeschikt en gericht op veilig gebruik.

Geen volledige garantie

De tienermodus betekent overigens niet dat ChatGPT volledig risicoloos wordt. Geen enkel automatisch veiligheidssysteem kan garanderen dat iedere ongepaste, onjuiste of schadelijke reactie wordt voorkomen.

AI-systemen kunnen fouten maken, informatie verkeerd interpreteren of antwoorden geven die niet optimaal aansluiten bij de situatie van een gebruiker. Daarom blijven toezicht, begeleiding en een kritische houding belangrijk, zeker bij jongere gebruikers.

De tienermodus moet vooral worden gezien als een extra veiligheidslaag bovenop de bestaande maatregelen en ouderlijke instellingen.

Door: Drifter