Hoe gaan we met elkaar om als AI onze emoties kan lezen?
Filosoof Alexandra Prégent onderzocht hoe technologie voor emotieherkenning de manier waarop we met elkaar omgaan kan veranderen. In haar proefschrift betoogt ze dat het beschermen van onze emotionele privacy essentieel is voor een goed functionerende samenleving.
AI-systemen worden steeds vaker ontwikkeld om emoties te herkennen aan de hand van gezichtsuitdrukkingen, stem, lichaamstaal en andere lichamelijke signalen. Hoewel de wetenschappelijke onderbouwing van veel van deze systemen nog ter discussie staat, worden ze al getest in de zorg en de veiligheidssector.
Promovendus Prégent richt zich niet zozeer op de huidige tekortkomingen van de technologie, maar stelt een andere vraag: wat als deze systemen precies werken zoals bedoeld? ‘Bedrijven laten vooral zien wat deze technologieën allemaal kunnen opleveren’, zegt ze. ‘Het is onze taak als filosofen en wetenschappers om de vlag te hijsen en te laten zien wat er op het spel kan staan als deze technologie betrouwbaar wordt.’
Wanneer technologie beslissingen gaat nemen
Om de mogelijke gevolgen van volledig functionerende technologie voor emotieherkenning (emotion recognition technology, ERT) te onderzoeken, ontwikkelde Prégent verschillende toekomstscenario’s. In een daarvan komt een chirurg aan in het ziekenhuis om een operatie uit te voeren. Voordat ze de operatiekamer binnengaat, geeft een ERT-systeem aan dat ze emotioneel instabiel is. Haar werkgever neemt haar apart en verbiedt haar de operatie uit te voeren.
‘De technologie dwingt haar iets bloot te geven dat tot haar privéleven behoort’
De chirurg houdt vol dat ze prima in staat is om de operatie uit te voeren. De waarschuwing heeft niets te maken met haar professionele vaardigheden. Ze ligt in scheiding en maakt zich zorgen over een van haar kinderen. Hoewel ze die zorgen bewust thuis heeft gelaten, interpreteert de technologie haar emotionele toestand als een reden om te twijfelen aan haar geschiktheid voor het werk.
‘De technologie dwingt haar iets bloot te geven dat tot haar privéleven behoort’, zegt Prégent. ‘Ze moet uitleggen wat er thuis speelt en verantwoorden waarom zij vindt dat ze de operatie toch kan uitvoeren. Maar het systeem heeft haar emotionele toestand al beoordeeld en er is al een beslissing genomen.’
Voor Prégent laat dit voorbeeld een breder maatschappelijk risico zien. Mensen vervullen in hun leven verschillende sociale rollen: ze zijn chirurg, maar ook ouder, partner, vriend of buur. Meestal bepalen ze zelf welke aspecten van die verschillende rollen ze in een bepaalde situatie laten zien.
De spelregels van sociale interactie veranderen
ERT kan die grenzen volgens Prégent doen vervagen. Als mensen hun innerlijke emoties niet langer voor zichzelf kunnen houden, dreigt het onderscheid tussen hun privé- en professionele leven te verdwijnen. In plaats van zelf te bepalen wat ze prijsgeven, kunnen mensen geconfronteerd worden met technologie die delen van hun emotionele leven blootlegt en hen vervolgens dwingt die te verklaren of te verdedigen.
Prégent ziet vergelijkbare spanningen buiten de interne werkomgeving. Zo stelt ze zich een overheidsvertegenwoordiger voor die na een dodelijk incident een publieke verontschuldiging uitspreekt. ERT geeft echter aan dat de persoon geen oprechte droefheid of spijt voelt. In plaats van naar de verontschuldiging te luisteren, richt het publiek zich vervolgens op het verschil tussen de emoties die de spreker uit en de emoties die de technologie zegt te herkennen.
‘Publieke excuses zijn noodzakelijk, maar kunnen niet altijd gepaard gaan met oprechte emoties, al was het maar ter bescherming van jezelf’, zegt ze. ‘Denk aan politieagenten, artsen of politici die regelmatig met traumatische gebeurtenissen te maken hebben. Zij kunnen die emoties niet telkens opnieuw beleven wanneer ze het publiek toespreken.’ Dat maakt een verontschuldiging volgens haar niet betekenisloos. Een publiek excuus is ook een sociaal ritueel: het erkent wat er is gebeurd, drukt verantwoordelijkheid uit en legt uit wat er vervolgens gaat gebeuren.
Volgens Prégent kan ERT de manier waarop we elkaar interpreteren fundamenteel veranderen. ‘In plaats van af te gaan op wat mensen zeggen en doen, kunnen we steeds meer gaan vertrouwen op wat technologie ons vertelt over wat zij voelen.’
Voorbereiden op de toekomst
De Europese AI-verordening, de AI Act, stelt al beperkingen aan sommige toepassingen van emotieherkenningstechnologie. Dat gebeurt grotendeels omdat de huidige systemen nog onbetrouwbaar zijn. Prégents onderzoek kijkt verder vooruit. Als de technologie veel nauwkeuriger wordt, heeft de samenleving sterkere ethische argumenten nodig om te bepalen wanneer deze wel en niet mag worden ingezet.
‘Emotionele privacy beschermen gaat niet alleen over het beschermen van informatie’
Prégent benadrukt dat ERT niet per definitie negatief is. De technologie zou kunnen helpen bij het vroegtijdig signaleren van neurologische aandoeningen of sommige mensen kunnen helpen emoties beter te herkennen. Maar mogelijke voordelen mogen ons er niet van weerhouden ook na te denken over de bredere gevolgen. ‘Emotionele privacy beschermen gaat niet alleen over het beschermen van informatie’, zegt ze. ‘Het gaat om het beschermen van de sociale ruimte waarin mensen zelf kunnen bepalen wie ze zijn, hoe ze zich presenteren en hoe ze zich tot anderen verhouden.’
Of ERT zijn volledige potentieel ooit zal bereiken, is onzeker. Maar volgens Prégent is het nu al tijd om na te denken over de samenleving waarin we willen leven, voordat de technologie en de bedrijven achter deze technologie die keuzes voor ons maken.
Promoties van onderzoekers van de Universiteit Leiden zijn live online te volgen. Woensdag 2 september − van 11.30 tot 12.30 uur − verdedigt Alexandra Prégent haar proefschrift getiteld Emotional Privacy: A Philosophical Investigation of Emotion Recognition Technology.