Riconoscimento facciale: quanto è accurato (e imparziale) il sistema che ti identifica?

Un’analisi critica

Il riconoscimento facciale è una tecnologia in rapida espansione, utilizzata in svariati settori, dalla sicurezza alla pubblicità personalizzata. Tuttavia, negli ultimi anni, sono emerse crescenti preoccupazioni riguardo ai bias* intrinseci a questi sistemi, in particolare per quanto concerne il *genere* e l’*etnia*. Questi *bias possono portare a risultati inaccurati, con conseguenze potenzialmente gravi, soprattutto in ambiti delicati come la giustizia penale* e la *sicurezza*. Uno dei sistemi più scrutinati in questo senso è *Amazon Rekognition*, un servizio di *riconoscimento facciale offerto da Amazon Web Services (AWS). L’attenzione si è concentrata sulla sua accuratezza variabile a seconda delle caratteristiche demografiche degli individui analizzati, sollevando interrogativi sull’equità e l’imparzialità di questa tecnologia. Diversi studi indipendenti hanno messo in luce queste disparità, mettendo in discussione l’affidabilità del sistema in contesti reali. Le implicazioni di tali bias non sono solamente teoriche; possono influenzare la vita di persone appartenenti a gruppi minoritari, portando a discriminazioni e violazioni dei diritti civili. Nel 2015*, un’applicazione *Google* ha identificato persone di colore come gorilla.

L’importanza di affrontare questi *bias è cruciale per garantire che le tecnologie di intelligenza artificiale (IA)* siano utilizzate in modo etico e responsabile. La discussione attorno a *Rekognition è quindi emblematica di una sfida più ampia che riguarda l’intero settore dell’IA, ovvero la necessità di sviluppare algoritmi che siano equi, trasparenti e privi di discriminazioni. Il dibattito è aperto e coinvolge ricercatori, esperti legali, aziende tecnologiche e rappresentanti dei gruppi marginalizzati, tutti impegnati nella ricerca di soluzioni che possano garantire un futuro in cui l’IA sia uno strumento al servizio di tutti, senza lasciare indietro nessuno. Il progresso tecnologico, infatti, non può prescindere da una profonda riflessione etica e sociale, al fine di evitare che le nuove tecnologie amplifichino le disuguaglianze esistenti.

Test indipendenti: l’evidenza delle disparità

Diversi test indipendenti hanno confermato le preoccupazioni riguardanti i bias* di *Amazon Rekognition*. Uno studio particolarmente significativo, condotto dal *MIT Media Lab, ha analizzato le prestazioni del sistema nell’identificazione del genere di persone con diverse tonalità della pelle. I risultati sono stati allarmanti: mentre il sistema si è dimostrato quasi perfetto nell’identificare il genere di uomini con pelle chiara, ha commesso errori significativi con le donne e con le persone dalla pelle più scura. In particolare, ha confuso le donne con gli uomini nel 19%* dei casi e le donne dalla pelle più scura addirittura nel *31%* dei casi. Questi dati evidenziano un chiaro *bias* razziale e di *genere, suggerendo che l’algoritmo è stato addestrato su un set di dati non sufficientemente diversificato. La ricercatrice Joy Buolamwini*, a capo dello studio, ha sottolineato come questi risultati dimostrino che i sistemi di *riconoscimento facciale non sono infallibili e possono perpetuare la discriminazione* se non sviluppati e testati con la dovuta attenzione.

Un ulteriore test, condotto dall’*American Civil Liberties Union (ACLU), ha rivelato che Rekognition* ha falsamente identificato *28* membri del *Congresso statunitense, associandoli a foto segnaletiche. Anche in questo caso, un numero sproporzionato di individui erroneamente identificati apparteneva a minoranze etniche. L’ACLU* ha utilizzato l’impostazione di “soglia di confidenza” predefinita del *80%* per *Rekognition, un livello che, secondo l’organizzazione, è troppo basso per garantire un’identificazione accurata. Jacob Snow*, avvocato per le libertà civili dell’*ACLU, ha affermato che questi risultati dimostrano la necessità di una moratoria sull’uso della sorveglianza facciale da parte delle forze dell’ordine, a causa del rischio di violazioni dei diritti civili. Questi test indipendenti, pur con metodologie diverse, convergono nel mettere in luce le criticità di Amazon Rekognition, sollevando dubbi sulla sua idoneità per applicazioni che richiedono un’elevata accuratezza e imparzialità. Il limite dell’80% crea gravi errori di identificazione.

Implicazioni per la giustizia penale e la sicurezza

I bias* presenti negli algoritmi di *riconoscimento facciale* hanno implicazioni particolarmente preoccupanti nel contesto della *giustizia penale e della sicurezza*. L’utilizzo di questi sistemi da parte delle forze dell’ordine può portare a *errori di identificazione*, *arresti ingiusti* e altre violazioni dei diritti civili, colpendo in modo sproporzionato le comunità marginalizzate. Se le autorità si affidano a tecnologie imperfette, il rischio di *discriminazione aumenta notevolmente. Un falso positivo* in un sistema di *riconoscimento facciale può avere conseguenze devastanti per un individuo, portando a un’indagine penale, un arresto e persino una condanna ingiusta. Il problema è ancora più grave se si considera che i sistemi di riconoscimento facciale sono spesso utilizzati in combinazione con altre tecnologie di sorveglianza, come le telecamere a circuito chiuso e i database di polizia, creando un sistema di controllo pervasivo che può minare la libertà e la privacy dei cittadini.
È fondamentale che le forze dell’ordine siano consapevoli dei bias* presenti negli algoritmi di *riconoscimento facciale e che adottino misure per mitigare i rischi. Ciò include l’utilizzo di questi sistemi solo in combinazione con altre prove e l’implementazione di protocolli rigorosi per verificare l’accuratezza delle identificazioni. Inoltre, è necessario garantire che i dati utilizzati per addestrare gli algoritmi siano rappresentativi della diversità della popolazione e che siano sottoposti a un controllo accurato per eliminare eventuali bias*. Infine, è essenziale che vi sia una supervisione indipendente sull’uso dei sistemi di *riconoscimento facciale da parte delle forze dell’ordine, al fine di garantire che siano utilizzati in modo responsabile ed etico. Nel maggio 2018*, *34* gruppi per i diritti civili hanno inviato una lettera a *Bezos contestando l’uso del riconoscimento facciale.

La risposta di amazon e le contromisure adottate

Di fronte alle crescenti critiche, Amazon* ha risposto sostenendo che i test condotti da terzi non sono stati realizzati con le versioni più aggiornate di *Rekognition e che le impostazioni utilizzate potrebbero non essere adatte per applicazioni di sicurezza. L’azienda raccomanda di utilizzare una soglia di confidenza del 95%* o superiore per l’identificazione in ambito legale, al fine di ridurre il rischio di *falsi positivi. Tuttavia, i critici contestano che l’impostazione predefinita del sistema dovrebbe essere più elevata, al fine di evitare che utenti meno esperti utilizzino impostazioni che possono portare a errori. Inoltre, Amazon* afferma di essere impegnata a mitigare i *bias nei suoi algoritmi attraverso un processo di sviluppo iterativo. Ciò include la creazione di set di dati che acquisiscono una vasta gamma di caratteristiche facciali umane e tonalità della pelle, test regolari su diversi casi d’uso e l’adozione di misure per aumentare i tassi di corrispondenza effettiva e/o i tassi di mancata corrispondenza effettiva per i gruppi in cui Rekognition* ha ottenuto risultati meno buoni.
*Amazon* sottolinea che i risultati delle prestazioni dipendono da una serie di fattori, tra cui Rekognition*, il flusso di lavoro del cliente e il set di dati di valutazione, e consiglia ai clienti di eseguire ulteriori test utilizzando i propri contenuti. L’azienda ha anche introdotto strumenti e risorse per aiutare i clienti a comprendere e mitigare i bias* nei loro sistemi di *riconoscimento facciale. Tuttavia, molti esperti ritengono che siano necessari ulteriori sforzi per affrontare il problema in modo efficace. Alcune possibili soluzioni includono l’utilizzo di set di dati di addestramento più diversificati, lo sviluppo di metriche di valutazione più eque e una maggiore trasparenza nel funzionamento degli algoritmi. La trasparenza nel funzionamento è fondamentale per dare fiducia al pubblico. L’azienda iBeta*, valutando le performance di Rekognition, ha evidenziato un tasso di errore dello *0.03%.

Verso un’intelligenza artificiale più etica e inclusiva

La questione dei bias* di *genere* e razziali nelle *API* di *riconoscimento facciale* di *Amazon Rekognition rappresenta una sfida cruciale per l’equità e la giustizia nell’era dell’intelligenza artificiale*. È imperativo che i produttori di tecnologie di *riconoscimento facciale, i legislatori e la società nel suo complesso collaborino per affrontare queste problematiche e garantire che queste tecnologie siano utilizzate in modo responsabile ed equo. Il percorso verso un’IA* etica richiede un impegno costante per l’identificazione e la correzione dei *bias algoritmici, oltre a una profonda riflessione sulle implicazioni sociali di queste tecnologie. L’obiettivo è creare un ecosistema digitale in cui l’IA* sia uno strumento al servizio di tutti, senza discriminazioni o pregiudizi.

Un concetto fondamentale dell’*intelligenza artificiale* è il machine learning, ovvero la capacità di un sistema di apprendere dai dati senza essere esplicitamente programmato. Nel caso del *riconoscimento facciale, gli algoritmi vengono addestrati su vasti set di dati di immagini di volti, imparando a identificare e classificare le diverse caratteristiche. Tuttavia, se i dati di addestramento non sono rappresentativi della diversità della popolazione, il sistema può sviluppare bias* che si traducono in prestazioni inferiori per alcuni gruppi demografici.
Un concetto più avanzato è quello della *fairness* nell’*IA, ovvero la ricerca di algoritmi che siano equi e imparziali per tutti gli utenti. Esistono diverse definizioni di fairness, e la scelta della definizione più appropriata dipende dal contesto specifico e dai valori etici che si desidera promuovere. Alcune definizioni si concentrano sull’uguaglianza delle opportunità, mentre altre mirano a minimizzare gli errori per i gruppi più vulnerabili.

Di fronte a queste sfide, è fondamentale che ognuno di noi sviluppi una consapevolezza critica nei confronti delle tecnologie di intelligenza artificiale e si interroghi sulle loro implicazioni etiche e sociali. Non possiamo delegare la responsabilità di un futuro equo e inclusivo alle sole aziende tecnologiche o ai legislatori; è necessario un impegno collettivo per garantire che l’IA sia uno strumento al servizio dell’umanità, senza lasciare indietro nessuno. È importante che i cittadini si informino, partecipino al dibattito pubblico e chiedano conto ai responsabili delle decisioni che riguardano il futuro dell’intelligenza artificiale. Solo così potremo costruire un mondo in cui la tecnologia sia una forza positiva per il progresso e il benessere di tutti.