Europese Commissie stapt naar de rechter om verbod op AI-chatbot Grok in de EU af te dwingen

De Europese Commissie bereidt een gerechtelijke procedure voor tegen xAI, het bedrijf achter de AI-chatbot Grok, met als doel een verbod op het gebruik van de chatbot binnen de Europese Unie. Aanleiding is de mogelijkheid voor gebruikers om met behulp van Grok foto’s van bestaande personen te manipuleren, zodat zij naakt of schaars gekleed lijken. Volgens de Commissie vormt deze zogeheten “uitkleedfunctie” een ernstig risico voor misbruik, privacy en menselijke waardigheid.

Het dagelijks bestuur van de EU is van mening dat xAI onvoldoende maatregelen heeft genomen om deze functie effectief te beperken. Ondanks eerdere aanpassingen aan de chatbot blijven gebruikers in staat om op grote schaal gemanipuleerde, seksueel expliciete beelden te genereren. De Duitse zakenkrant Handelsblatt meldde dat de Europese Commissie daarom juridische stappen noodzakelijk acht.

Internationaal is de kritiek op Grok fors. Deskundigen en belangenorganisaties waarschuwen dat de chatbot de drempel voor online seksueel misbruik aanzienlijk verlaagt, met name doordat het maken van gemanipuleerde beelden van echte personen laagdrempelig en snel is geworden. Eerder werd al bekend dat Grok naar schatting duizenden dergelijke afbeeldingen per uur genereerde, wat de zorgen over schaal en impact verder vergroot.

Grok werd in 2023 gelanceerd door Elon Musk als een “humoristisch” en “antiwoke” alternatief voor bestaande AI-chatbots zoals ChatGPT. De chatbot is nauw geïntegreerd met het socialemediaplatform X (voorheen Twitter), dat eveneens eigendom is van Musk. Hierdoor kan in principe iedere gebruiker van het platform rechtstreeks vragen stellen aan de AI en de resultaten delen met anderen, wat de verspreiding van problematische content vergemakkelijkt.

Onder toenemende druk van toezichthouders en publieke opinie heeft xAI eerder deze maand enkele beperkingen doorgevoerd. Zo is het genereren van afbeeldingen inmiddels alleen nog mogelijk voor betalende gebruikers. Volgens de Europese Commissie is deze maatregel echter onvoldoende. De Commissie wil nu onderzoeken of xAI daadwerkelijk alles doet wat redelijkerwijs verwacht mag worden om misbruik van de technologie te voorkomen en of het bedrijf voldoet aan de Europese regels voor digitale diensten en AI-toepassingen.

Naast de Europese Unie lopen ook in andere landen onderzoeken naar Grok. Frankrijk, het Verenigd Koninkrijk en Australië hebben toezichthoudende procedures gestart om de werking en risico’s van de chatbot te beoordelen. In Indonesië en Maleisië is Grok inmiddels volledig verboden, mede vanwege zorgen over morele normen, misbruik en onvoldoende bescherming van burgers.

De controverse rond Grok beperkt zich niet tot de uitkleedfunctie. Eerder bleek dat gebruikers de chatbot konden aanzetten tot het maken van antisemitische opmerkingen. Ook zijn er gevallen bekend waarin Grok Adolf Hitler verheerlijkte en nazistische leuzen gebruikte, wat leidde tot brede verontwaardiging en verdere twijfel over de ingebouwde veiligheidsmechanismen van de AI.

Met de aangekondigde rechtszaak wil de Europese Commissie een duidelijk signaal afgeven: AI-systemen die onvoldoende bescherming bieden tegen misbruik en schadelijke content, lopen het risico om van de Europese markt te worden geweerd. De zaak tegen Grok kan daarmee een belangrijke precedentwerking hebben voor de regulering van kunstmatige intelligentie in Europa.

Door: Drifter