Le agenti AI donne vengono pagate il 10% in meno di quelli maschi: l’esperimento sul gender gap

Un agente AI che si è presentato come uomo è stato pagato circa il 10% in più rispetto a un agente AI che si è presentato come donna, nonostante i due utilizzassero la stessa tecnologia e svolgessero gli stessi compiti. È il risultato di un curioso studio, dal titolo Human-like and male? How AI assistant design relates to trust and monetary reward at work in VR condotto dall'Università di Limerick, in Irlanda, che mostra come i pregiudizi di genere possano influenzare anche il modo in cui interagiamo con l'AI.

Per arrivare a questa conclusione, i ricercatori hanno coinvolto 189 persone all'interno di un ufficio ricreato in realtà virtuale, nel quale i partecipanti potevano svolgere attività simulando una situazione lavorativa. A ciascuno di questi partecipanti, sia uomini che donne, è stato chiesto di collaborare con diversi assistenti AI e, al termine dei compiti, di utilizzare denaro reale per stabilire quanto pagare il lavoro svolto dagli assistenti. Analizziamo più nel dettaglio com’è stato condotto lo studio e i risultati ottenuti.

Sia i partecipanti uomini che donne hanno pagato di più l’agente AI maschile Johan

Tra le diverse possibilità offerte ai 189 partecipanti allo studio c'erano un chatbot testuale, un robot da scrivania e due agenti progettati per avere un aspetto più simile a quello umano. Questi ultimi si chiamavano Johan e Johanna e si sono presentati rispettivamente come uomo e donna.

Fatto interessante, a parte i nomi con cui sono stati presentati ai partecipanti, i due agenti erano esattamente identici: utilizzavano le stesse funzionalità di base e lo stesso modello di intelligenza artificiale, GPT-4-1106-preview sviluppato da OpenAI. Questo significa che gli agenti Johan e Johanna erano in grado di svolgere gli stessi compiti e avevano la stessa tecnologia alle loro spalle. Nessuno dei due era migliore dell’altro in nessun compito.

E anche se i partecipanti hanno valutato in modo simile il lavoro di entrambi gli agenti, quando è arrivato il momento di assegnare un compenso economico ai due, Johanna ha ricevuto circa il 10% in meno di compenso rispetto a Johan. Cosa ancora più interessante, sia gli uomini che le donne hanno pagato l’agente AI presentato come donna con un compenso inferiore rispetto all’agente AI uomo. Johan è stato inoltre percepito come più simile a un essere umano rispetto alla sua “collega” Johanna.

Questo risultato contrasta con ciò che molti partecipanti avevano dichiarato durante le interviste condotte prima di iniziare l’esperimento. La maggior parte di loro sosteneva di non avere alcun tipo di interesse nel genere dell'assistente, dicendo che non ci sarebbero state differenze di trattamento influenzate dal genere con cui le AI si sarebbero presentate. Nei comportamenti osservati durante il test, però, questa neutralità non si è manifestata del tutto, come abbiamo appena commentato.

Tendiamo a trasferire sulle intelligenze artificiali i nostri pregiudizi: l’esperimento

Come ha spiegato Mary Hausfeld, coautrice dello studio, l’esperimento rende evidente un fatto: tendiamo a considerare l'intelligenza artificiale come qualcosa di neutrale, ma quando progettiamo un sistema attribuendogli caratteristiche umane possiamo finire per trasferire su di esso gli stessi presupposti e pregiudizi che utilizziamo nelle relazioni con le altre persone. Queste le parole della ricercatrice:

Ciò che colpisce dei nostri risultati è che la tecnologia alla base di questi agenti di intelligenza artificiale era esattamente la stessa, ma le persone non li trattavano allo stesso modo. Spesso pensiamo all'intelligenza artificiale come a qualcosa di neutrale, ma il modo in cui progettiamo e presentiamo questi sistemi può attivare gli stessi presupposti e pregiudizi che esistono nelle nostre interazioni con le altre persone.

Il rischio, secondo i ricercatori, è quindi che vecchie disuguaglianze vengano semplicemente riprodotte all'interno di un nuovo ambiente, quello virtuale.

non perderti questo articolo

L’intelligenza artificiale non è neutrale: può imparare i pregiudizi della nostra società