OpenAI opnieuw aangeklaagd na zelfdoding van ChatGPT-gebruiker

OpenAI en ceo Sam Altman zijn in de Verenigde Staten opnieuw onderwerp van een rechtszaak naar aanleiding van de zelfdoding van een ChatGPT-gebruiker. De aanklacht is ingediend door de Canadese Kristie Carrier, die stelt dat haar 24-jarige dochter Alice onvoldoende werd beschermd door de veiligheidsmaatregelen van het AI-bedrijf.

Volgens Carrier maakte haar dochter in de weken voorafgaand aan haar overlijden in juli vorig jaar intensief gebruik van ChatGPT. Alice zou de chatbot hebben gebruikt als een vertrouwenspersoon om haar emoties, persoonlijke problemen en relatiekwesties te bespreken. Haar moeder verklaart dat de gesprekken voor haar dochter een belangrijke rol speelden in haar dagelijks leven. Soms ervoer Alice de chatbot als een vriend, terwijl de antwoorden op andere momenten volgens haar moeder de indruk wekten van therapeutisch advies over relaties en persoonlijke omstandigheden.

In de rechtszaak wordt gesteld dat de bestaande veiligheidssystemen van OpenAI tekortschoten. Volgens de aanklacht werden de gesprekken niet stopgezet en werden ze ook niet aangemerkt als potentieel risicovol voor verdere beoordeling. De familie beweert dat de reacties van ChatGPT de negatieve gevoelens van Alice in bepaalde gevallen juist versterkten. Daarnaast zou de chatbot hebben aangegeven dat hulplijnen voor mensen in crisis niet altijd effectief zijn, hoewel ChatGPT op eerdere momenten wel had voorgesteld om contact op te nemen met een dergelijke hulpdienst.

Een belangrijk onderdeel van de aanklacht heeft betrekking op problemen binnen de relatie van Alice. Zij zou berichten tussen zichzelf en haar partner met ChatGPT hebben gedeeld om meer inzicht te krijgen in de situatie en beter te begrijpen hoe beide partijen zich voelden. Volgens haar moeder gaf de chatbot daarbij voornamelijk bevestiging aan de gevoelens van Alice, zonder voldoende aandacht te besteden aan mogelijke alternatieve verklaringen voor het gedrag van haar partner. Zo zou er volgens de familie weinig nuance zijn geweest en ontbraken suggesties dat haar vriendin bijvoorbeeld behoefte kon hebben aan ruimte of zelf moeilijke omstandigheden doormaakte.

OpenAI heeft in een reactie laten weten de situatie als buitengewoon tragisch te beschouwen. Een woordvoerder van het bedrijf verklaarde dat de juridische documenten momenteel worden bestudeerd. Daarbij werd opgemerkt dat de betreffende gesprekken zouden hebben plaatsgevonden met een oudere versie van ChatGPT die inmiddels niet meer beschikbaar is. Volgens OpenAI zijn sindsdien verschillende aanpassingen doorgevoerd in de manier waarop de chatbot reageert op gevoelige en mogelijk risicovolle situaties.

Het is niet de eerste keer dat OpenAI met juridische stappen wordt geconfronteerd na een zelfdoding van een gebruiker. Eerder werd het bedrijf al aangeklaagd door de ouders van een zestienjarige jongen die eveneens intensief gebruik zou hebben gemaakt van ChatGPT in de periode voorafgaand aan zijn overlijden. Na die zaak kondigde OpenAI aanvullende veiligheidsmaatregelen en functies voor ouderlijk toezicht aan.

De nieuwe rechtszaak kan opnieuw leiden tot discussies over de verantwoordelijkheden van ontwikkelaars van kunstmatige intelligentie, de grenzen van AI-ondersteuning bij emotionele problemen en de vraag in hoeverre chatbots voldoende bescherming moeten bieden aan kwetsbare gebruikers.

Door: Drifter