OpenAI publiceert het Teen Safety Policy Pack met tools voor het ontwikkelen van veiligere apps

OpenAI heeft een nieuwe stap gezet in het verbeteren van de online veiligheid voor jongeren door het publiceren van het zogeheten Teen Safety Policy Pack op GitHub. Dit pakket is specifiek ontworpen om ontwikkelaars te helpen AI-toepassingen beter af te stemmen op de behoeften en kwetsbaarheden van tieners. In plaats van algemene, abstracte richtlijnen biedt het een concrete en direct toepasbare set aan beleidsregels en voorbeeldprompts die ontwikkelaars kunnen integreren in hun systemen.

De aanleiding voor dit initiatief ligt in de snel groeiende rol van generatieve AI in het dagelijks leven van jongeren. Tieners gebruiken AI steeds vaker voor schoolwerk, sociale interactie en entertainment. Tegelijkertijd nemen de zorgen toe over de mogelijke negatieve effecten, zoals blootstelling aan schadelijke content, beïnvloeding van zelfbeeld en het risico op interacties die psychologisch of fysiek gevaarlijk kunnen zijn. OpenAI probeert met dit policy pack een praktische oplossing te bieden voor deze uitdagingen.

Het Teen Safety Policy Pack onderscheidt zich doordat het niet blijft hangen in theoretische principes, maar juist inzet op bruikbaarheid. De richtlijnen zijn opgebouwd in de vorm van prompts—kant-en-klare instructies die direct in AI-modellen kunnen worden ingevoerd. Deze prompts helpen systemen om gevoelige of risicovolle situaties te herkennen en daar consistent en verantwoord op te reageren. Denk hierbij aan onderwerpen zoals geweld, seksuele inhoud, eetstoornissen en schadelijke schoonheidsidealen, maar ook aan gevaarlijke online trends of challenges die jongeren kunnen aanzetten tot risicovol gedrag.

Een belangrijk aspect van het pakket is dat het open source beschikbaar is. Dit betekent dat ontwikkelaars niet alleen toegang hebben tot de inhoud, maar deze ook kunnen aanpassen, uitbreiden en optimaliseren voor hun eigen toepassingen. Hierdoor ontstaat transparantie in hoe veiligheidsmaatregelen worden vormgegeven, en wordt samenwerking binnen de sector gestimuleerd. OpenAI positioneert het pakket dan ook als een soort basisniveau of minimale standaard voor AI-veiligheid gericht op jongeren, die door de industrie verder kan worden verfijnd.

De ontwikkeling van het policy pack gebeurde in samenwerking met organisaties die gespecialiseerd zijn in digitale veiligheid en jongerenbescherming, zoals Common Sense Media en everyone.ai. Deze samenwerking onderstreept dat het initiatief niet alleen technologisch gedreven is, maar ook gebaseerd op pedagogische en maatschappelijke inzichten. Het doel is om een brug te slaan tussen technische mogelijkheden en verantwoord gebruik.

Volgens OpenAI lopen veel ontwikkelaars tegen hetzelfde probleem aan: het vertalen van brede veiligheidsdoelen naar concrete, werkbare regels. Dit leidt in de praktijk vaak tot inconsistente moderatie of juist te strenge filtering, waardoor systemen minder bruikbaar worden. Door kant-en-klare prompts aan te bieden, verlaagt OpenAI deze drempel en maakt het eenvoudiger om snel een degelijk veiligheidsniveau te implementeren.

Het Teen Safety Policy Pack maakt deel uit van een bredere strategie van OpenAI om AI-gebruik door jongeren veiliger te maken. Eerdere initiatieven omvatten onder meer ouderlijk toezicht (parental controls), technieken voor leeftijdsinschatting en aanpassingen in de Model Spec specifiek voor gebruikers onder de achttien jaar. Deze maatregelen laten zien dat het bedrijf probeert om veiligheid structureel te integreren in zowel de technologie als het gebruik ervan.

Tegelijkertijd erkent OpenAI dat dit soort tools geen volledige oplossing bieden. De maatschappelijke en juridische druk rondom AI neemt toe, mede door incidenten waarbij chatbotgebruik mogelijk een rol heeft gespeeld in ernstige situaties, waaronder gevallen van zelfdoding. Dit benadrukt dat technologische maatregelen slechts één onderdeel zijn van een breder vraagstuk dat ook toezicht, regelgeving en bewustwording vereist.

Met de introductie van het Teen Safety Policy Pack positioneert OpenAI zich nadrukkelijk als een partij die wil bijdragen aan het standaardiseren van veiligheidspraktijken binnen de AI-sector. Of dit initiatief daadwerkelijk brede impact zal hebben, hangt echter af van de mate waarin ontwikkelaars en bedrijven bereid zijn om deze richtlijnen over te nemen en actief toe te passen in hun eigen systemen.

Door: Drifter