AI die emoties meet is volgens toezichthouder vaak onbetrouwbaar en risicovol

Steeds meer organisaties zetten AI in om menselijke emoties te herkennen, maar dat brengt grote risico’s met zich mee

Organisaties maken in toenemende mate gebruik van artificiële intelligentie (AI) om emoties bij mensen te herkennen. Denk aan technologie die uit je stem, gezicht of lichaamssignalen probeert af te leiden hoe je je voelt. Maar zulke toepassingen zijn gebaseerd op twijfelachtige aannames over wat emoties zijn en hoe betrouwbaar die gemeten kunnen worden. Dat stelt de Autoriteit Persoonsgegevens (AP) in de nieuwste editie van de Rapportage AI & Algoritmes Nederland (RAN). De AP waarschuwt dat emotieherkenning met AI risico’s met zich meebrengt voor de privacy, autonomie en waardigheid van mensen.

Van klantenservice tot gezondheidszorg
De technologie wordt al op diverse plekken ingezet: een stemanalyse tijdens een telefoongesprek met een klantenservice, een smartwatch die stresssignalen registreert, of een chatbot die zogenaamd 'empathisch' reageert op basis van jouw tekst. Bedrijven en instellingen zien in deze toepassingen kansen om hun producten of diensten te verbeteren, onder meer in marketing, klantcontact, de zorg en zelfs in de openbare ruimte.

Onzekerheid over werking en transparantie
De AP onderzocht toepassingen van emotieherkenning via spraak, via draagbare technologie (zoals smartwatches) en binnen taalmodellen. Daarbij bleek dat vaak onduidelijk is hoe de systemen precies te werk gaan. Veel gebruikers weten niet eens dát emotieherkenning plaatsvindt – laat staan welke gegevens daarbij worden verzameld, hoe deze worden geïnterpreteerd en met welk doel.

De betrouwbaarheid van de uitkomsten staat bovendien ter discussie. AI-systemen geven schijnzekerheid: alsof een systeem objectief kan bepalen of iemand boos, verdrietig of gestrest is. In werkelijkheid is dat lang niet altijd zo, en wordt er vaak gegeneraliseerd op basis van beperkte of culturele specifieke datasets.

‘Zeer terughoudend zijn met inzet emotieherkenning’
Volgens de AP moeten organisaties daarom zeer terughoudend zijn met het inzetten van deze technologie. De risico’s zijn aanzienlijk: mensen kunnen onterecht worden beoordeeld, gediscrimineerd of zelfs gemanipuleerd op basis van vermeende emoties.

“Emoties raken aan de kern van wie we zijn,” zegt Aleid Wolfsen, voorzitter van de AP. “Als je probeert die te analyseren met technologie, moet dat uiterst zorgvuldig en alleen met betrouwbare systemen gebeuren. En die betrouwbaarheid ontbreekt nu vaak.”

Emoties zijn complex en niet universeel
Een fundamenteel probleem is dat emoties per individu en per cultuur sterk kunnen verschillen. Toch gaan veel AI-systemen ervan uit dat emoties universeel zijn en één-op-één te meten via biometrische signalen zoals gezichtsuitdrukking, stemgebruik of hartslag.

Maar zulke signalen kunnen op verschillende manieren geïnterpreteerd worden. Een verhoogde hartslag kan duiden op angst, maar ook op opwinding of fysieke inspanning. Een frons betekent niet per definitie boosheid. Bovendien ervaren en uiten mensen emoties verschillend, afhankelijk van leeftijd, achtergrond en persoonlijke kenmerken.

Juridische en ethische grenzen
Verschillende vormen van emotieherkenning vallen binnenkort onder de Europese AI-verordening en moeten nu al voldoen aan de eisen van de Algemene verordening gegevensbescherming (AVG). In bepaalde contexten, zoals onderwijs en werk, is het gebruik van emotieherkenning door AI al expliciet verboden.

De vraag blijft of deze technologie überhaupt wenselijk is. “Dit is bij uitstek een ethisch en maatschappelijk vraagstuk,” aldus Wolfsen. “Willen we dat systemen bepalen wat wij voelen? Dat vraagt om een democratisch debat. Alleen dan kunnen we bepalen of, en zo ja hoe, we zulke technologie een plek geven in onze samenleving.”

Door: Drifter