L’Eco Algoritmico: Distorsioni e Riflessi nell’Intelligenza Artificiale

L’avvento dell’intelligenza artificiale ha inaugurato una nuova era di
possibilità, promettendo trasformazioni radicali in settori cruciali come la
sanità, la finanza e l’istruzione. Tuttavia, dietro questa facciata di
progresso si cela una sfida insidiosa: la riproduzione e l’amplificazione di
pregiudizi sociali attraverso gli algoritmi. Questo fenomeno, noto come “eco
algoritmico”, solleva interrogativi profondi sull’equità, l’imparzialità e
l’etica dell’IA. Il problema si manifesta quando i modelli di apprendimento automatico, alimentati da vaste quantità di dati, interiorizzano e
perpetuano distorsioni preesistenti, generando risultati discriminatori che
possono avere conseguenze significative sulla vita delle persone.

Fonti di Distorsione nei Dati di Addestramento

È cruciale comprendere come la qualità e la composizione dei dati per il training dei sistemi di intelligenza artificiale siano determinanti per una corretta equità nell’applicazione delle tecnologie emergenti. Purtroppo però, dati provenienti dalla realtà quotidiana presentano spesso influssi negativi derivanti da pregiudizi e stereotipi radicati nella nostra società. I bias si annidano nel processo di apprendimento della IA tramite molteplici canali; uno fra questi è:

• Dati storici: I record che testimoniano pratiche discriminatorie risalenti al passato—come quelli connessi ai prestiti bancari dove le minoranze etniche non trovano adeguata rappresentanza—rischiano di condurre i modelli AI a riprodurre queste stesse ingiustizie sociali. Pensiamo ad esempio a situazioni in cui un modello apprende dai risultati occupazionali precedenti: se nelle assunzioni passate ci fosse stata una netta mancanza di donne ai vertici aziendali, ciò porterebbe l’intelligenza artificiale a interpretare tale situazione come normale o desiderabile; finendo così col sostenere una disparità già presente nella storia.

Identificare ed affrontare i bias prima della loro incidenza negativa sui sistemi d’IA è la vera sfida contemporanea. Ciò impone una strategia multidisciplinare, necessitando della collaborazione tra professionisti provenienti da diverse aree: analisti dati, esperti in etica, sociologi nonché portavoce delle comunità emarginate. È fondamentale elaborare metodi solidi capaci di giudicare l’equità sia nei dataset sia negli algoritmi impiegati; ulteriormente vitale risulta l’applicazione tecnica contro i bias affinché si ottengano esiti più giusti ed equilibrati.

Una questione inquietante riguarda soprattutto i bias politici insiti nelle architetture linguistiche degli algoritmi attuali. Studi recenti evidenziano come strumenti quali ChatGPT insieme a GPT-4 sviluppati da OpenAI manifestino una propensione al libertarismo left-wing; contrariamente, LLaMA realizzato da Meta mostra inclinazioni verso forme autoritarie tipiche dell’ala destra del pensiero politico. Queste inclinazioni possono dar forma alle reazioni generate dai suddetti modelli quando sollecitati con interrogativi delicati; rischiano così di perpetuare visioni unidimensionali rispetto alla realtà complessa e marginalizzante altre narrazioni.

È fondamentale che le aziende sviluppatrici di IA siano consapevoli di questi
bias e adottino misure per mitigarli, garantendo che i loro modelli siano
equi e imparziali nei confronti di diverse prospettive politiche.

È ormai evidente che anche l’addestramento con dati politicizzati può
accentuare ulteriormente i bias esistenti, polarizzando i modelli e
rendendoli più sensibili all’incitamento all’odio nei confronti di
determinati gruppi sociali. La rimozione di contenuti di parte dai set di
dati o il loro filtraggio non sono sufficienti per eliminare completamente i
bias, poiché i modelli di IA possono comunque evidenziare distorsioni di basso
livello presenti nei dati.

Le aziende devono essere consapevoli di come tali bias influenzino il
comportamento dei loro modelli al fine di renderli più equi, poiché “non c’è
equità senza consapevolezza”.

Le microdistorsioni, spesso invisibili, possono tradursi in nuove forme di
discriminazione automatizzata, specialmente in contesti delicati come il reclutamento del personale e la gestione delle risorse umane.

Il Sistema delle Caste nell’Ia: un Caso di Discriminazione Algoritmica

Uno degli esempi più eclatanti di come i bias nei modelli di IA possano avere
conseguenze concrete è emerso in India, dove ChatGPT è stato accusato di
riprodurre il sistema delle caste. Un’inchiesta del Massachusetts Institute of Technology (MIT) ha rivelato che GPT-5 e Sora presentano forme di bias di casta.

La notizia ha destato scalpore e sollevato un’ondata di critiche nei confronti
di OpenAI, accusata di non aver sufficientemente vigilato sulla qualità e
l’imparzialità dei dati utilizzati per addestrare i suoi modelli. La
vicenda ha messo in luce il pericolo che i sistemi di IA, se non adeguatamente
controllati, possano perpetuare e amplificare discriminazioni storiche e culturali.

L’episodio ha avuto un forte impatto emotivo sulla vittima, che ha rinunciato
a un colloquio di lavoro a causa del senso di “fuori posto” che ha provato.

L’inchiesta del MIT ha rivelato che ChatGPT ha cambiato automaticamente il
cognome di un candidato post-doc dalit (intoccabile) da Singha a Sharma, un
cognome associato alle caste privilegiate. In aggiunta, *quando è stato richiesto di rappresentare un “comportamento dalit”, Sora ha prodotto immagini di animali, svelando una correlazione dannosa implicita nei suoi dati di addestramento. Questi risultati dimostrano come i modelli di IA, se addestrati su dati che
riflettono pregiudizi e stereotipi sociali, possano interiorizzare e riprodurre tali distorsioni, generando risultati discriminatori che possono avere un impatto reale sulla vita delle persone.

Questi algoritmi, soprattutto nelle fasi di selezione del personale e di gestione delle risorse umane, rischiano di perpetuare disparità difficilmente rilevabili. La causa primaria di questo fenomeno risiede nella formazione degli LLM su vasti insiemi di dati web non sottoposti a filtraggio, dove le discriminazioni storiche vengono riprodotte senza interventi correttivi.

Anche modelli open-source come Llama 2 mostrano forti bias, soprattutto in
India, dove sono ampiamente utilizzati.

Il testo evidenzia come i pregiudizi culturali non occidentali siano globalmente sottostimati, in particolare nei modelli che vengono addestrati con dati prevalentemente anglocentrici. Attualmente non si registrano standard globali vincolanti finalizzati alla valutazione dei pregiudizi associati alla casta, contrariamente a quanto avviene per le categorie di genere, razza o disabilità.

TOREPLACE = Create an iconographic image inspired by naturalistic and
impressionistic art, using a warm and desaturated color palette.

L’immagine deve risultare sintetica e coerente, di facile comprensione e priva di qualsiasi forma di testo. Essa deve includere: una rappresentazione stilizzata del logo OpenAI parzialmente celato da ombre, a simboleggiare i pregiudizi invisibili insiti nei modelli di intelligenza artificiale. Una rappresentazione geometrica di un insieme di dati nel quale alcuni punti sono chiaramente deformati o compromessi; ciò rimarca la presenza dei dati distorti e/o parziali che caratterizzano tali sistemi informatici. Inoltre vi è la figura umana silhouette, fusa con codice binario, che sottolinea l’interrelazione tra le inclinazioni umane e gli algoritmi stessi. Infine, troviamo un simbolo legato al sistema delle caste indiane che è abilmente incorporato all’interno dell’insieme di dati; questo elemento evidenzia il problema della discriminazione basata sulle caste nell’ambito dell’intelligenza artificiale.

Strategie Tecniche per Mitigare i Bias Algoritmici

Affrontare il problema dei bias all’interno dell’intelligenza artificiale richiede un’adeguata pianificazione attraverso diverse discipline ed ambiti operativi; si rende essenziale prestare attenzione tanto alla fase progettuale quanto a quella dedicata all’addestramento delle intelligenze artificiali. Implementando una gamma articolata d’interventi metodologici è possibile non solo scoprire ma anche sanare potenziali disuguaglianze per arrestarne efficacemente la replicabilità nelle applicazioni IA.

Iniziare con un’dettagliata analisi esplorativa (EDA) delle informazioni disponibili, permette l’emersione chiarificatrice delle distorsioni presenti così come delle disparità evidenti tra differenti sottoinsiemi demografici oppure categorie socioculturali. Attraverso questa procedura si ha modo d’individuare problematiche come una esigua rappresentatività riguardo a specifiche etnie, generi o orientamenti sessuali all’interno del set impiegato per l’apprendimento della macchina.

A complemento fondamentale della metodologia adottata vi è inoltre l’importante scelta organizzativa: mantenere distinti i membri del gruppo destinato alle analisi da quelli incaricati della raccolta dati. Tale disposizione si propone come argine contro le influenze inconsce originate dai preconcetti degli operatori addetti alla gestione iniziale dell’informazione sulle operazioni successive riguardanti elaborazioni più sistematiche nel campo degli analytics.

Per costruire un database più “fair”, è consigliabile combinare dati provenienti da configurazioni differenti di uno stesso fenomeno, creando un
prototipo di “dato ideale” che sia il più rappresentativo possibile del fenomeno. Questo implica raccogliere dati da diverse fonti, contesti e
prospettive, al fine di ottenere una visione più completa e imparziale della
realtà.

Nel caso di annotazione manuale dei dati, è fondamentale fare più passaggi di
verifica coinvolgendo utenti umani differenti, al fine di ridurre l’influenza
dei bias individuali e garantire una maggiore accuratezza e coerenza
nell’etichettatura dei dati.

Quando i dati vengono generati da sistemi di intelligenza artificiale, una strategia efficace per attenuare il bias introdotto dai cicli di feedback consiste nel randomizzare gli output in una piccola percentuale dei casi, consentendo all’algoritmo di esplorare nuove informazioni e scoprire nuovi interessi dell’utente. Questo può
aiutare a rompere i circoli viziosi in cui i modelli di IA si auto-confermano e perpetuano i bias esistenti.

Negli ultimi anni, sono state introdotte diverse tecniche per quantificare il
livello di fairness di un sistema di IA e migliorare la fairness senza
sacrificare la performance statistica. Una di queste metodologie prevede l’impiego di una metrica che consideri sia la precisione dell’algoritmo sia il livello di indipendenza dell’output da fattori “sensibili” come genere, età ed etnia.

L’intelligenza artificiale, essendo intrinsecamente basata sui dati, non ha la capacità di prevedere il futuro, ma piuttosto di riflettere e codificare gli schemi e i pregiudizi del passato.

Le imprese che si accingono a implementare un progetto di intelligenza artificiale dovrebbero aderire a protocolli di buona pratica nell’uso dei dati, come condurre una ricerca preliminare sul fenomeno che genera i dati, cercando di cogliere lo scenario più ampio.

Un osservatore esterno potrebbe individuare distorsioni che il team interno, a causa di influenze reciproche, potrebbe non aver notato.

In questo contesto, si forniscono all’algoritmo variabili rispetto alle quali, idealmente, non dovrebbe esserci discriminazione: anziché imparare, come avviene di consueto, come l’output dipenda da queste variabili, si dovrebbe incentivare, tramite una metrica di performance, l’indipendenza di tali variabili dall’output dell’algoritmo.

Quando si ha a che fare con un campione di dati caratterizzato da disuguaglianze nelle rappresentazioni, o nel caso emerga un bias nella partecipazione, una delle soluzioni più comunemente adottate consiste nell’impiegare la creazione di dati sintetici, specificamente orientati al fine di riequilibrare le relative proporzioni.

Verso un’Ia Inclusiva: Responsabilità e Consapevolezza

L’impegno contro i bias presenti nell’Intelligenza Artificiale (IA), trascende la dimensione puramente tecnica: esso abbraccia questioni etiche profonde così come implicazioni sociali rilevanti. Un’adeguata risposta richiede una sinergia tra aziende, governi ed organismi della società civile per enfatizzare valori quali responsabilità, trasparenza ed elevata consapevolezza in relazione all’impiego delle tecnologie IA.

È imperativo che le multinazionali prendano coscienza del loro ruolo cruciale nel garantire che gli algoritmi da esse sviluppati possiedano qualità quali equità ed assenza di ogni forma di pregiudizio o esclusione. A tal fine, sono richiesti investimenti nelle strutture analitiche riguardanti il fenomeno dei bias, implementando strategie correttive oltre a incentivare una cultura interna orientata ai principi morali fondamentali dell’etica, inclusività e diversità.

In parallelo a suddetta responsabilità privata, gli apparati governativi dovrebbero adottare iniziative normative incisive dedicate all’evoluzione informatica: istituzionalizzando indicatori specificatamente mirati al rafforzamento del principio d’equità unitamente alla trasparenza e al senso critico nel monitoraggio delle azioni aziendali. Sarà altresì necessario concepire strumenti praticabili volti al controllo efficace mediante eventuali misure sanzionatorie, affinché tutte le entità commercialmente attive rispondano alle istanze normative mantenendo integrità nei diritti civili e individuali.

Il lavoro dei ricercatori non può fermarsi: è essenziale innovare continuamente in termini di metodologie per identificare, rimediare ai bias presenti nell’Intelligenza Artificiale ed evitare ulteriori problematiche. Si deve sollecitare una collaborazione tra diverse discipline; solo così sarà possibile coinvolgere figure chiave come i data scientist assieme a specialisti in etica sociale, sociologi ed esponenti provenienti da comunità emarginate. Questo approccio permetterebbe una visione più completa del fenomeno analizzato.

Analogamente, la società civile ha il dovere d’impiegarsi in modo critico: è imprescindibile seguire con attenzione le ripercussioni dell’Intelligenza Artificiale sulla quotidianità degli individui ed esprimere disappunto nei casi in cui si manifestano discriminazioni o ingiustizie evidenti. Un dibattito pubblico fondato su informazioni veritiere diventa così indispensabile; il suo scopo sarebbe quello d’accrescere la consapevolezza collettiva circa le possibilità ma anche i rischi legati a quest’evoluzione tecnologica.

Soltanto mediante uno sforzo congiunto caratterizzato da elevata coscienza possiamo garantire che l’intelligenza artificiale si configuri come mezzo efficace per avanzamenti socialmente inclusivi a beneficio della totalità della nostra comunità.

L’analisi approfondita riguardo all’eco algoritmico suggerisce che siano necessarie misure ben delineate affinché queste problematiche possano essere affrontate adeguatamente.

In primo luogo, è indispensabile procedere a una valutazione costante e rigorosa dei pregiudizi legati al sistema delle caste, sviluppando set di dati più equamente distribuiti, implementando filtri culturali pertinenti e perfezionando i modelli con interventi umani attenti al contesto indiano. Parallelamente, occorre promuovere la
trasparenza dei dati di addestramento, garantendo il rispetto della
proprietà intellettuale e la protezione dei dati sensibili. Infine, è
cruciale stabilire regole chiare e condivise per lo sviluppo dell’IA, promuovendo la giustizia, l’inclusione e il progresso sociale.

L’eco algoritmico non è un destino ineluttabile, ma una sfida che possiamo
superare con impegno, consapevolezza e responsabilità.

Amichevolmente, un concetto base di intelligenza artificiale correlato al
tema principale dell’articolo è il “data bias”.* Questo si verifica quando
i dati utilizzati per addestrare un modello di IA non rappresentano
accuratamente la popolazione o il fenomeno che si sta cercando di modellare. Immagina di voler insegnare a un’IA a riconoscere i gatti, ma usi solo foto
di gatti bianchi: l’IA potrebbe avere difficoltà a riconoscere i gatti di
altri colori. Allo stesso modo, se i dati di addestramento riflettono
pregiudizi sociali, l’IA imparerà a riprodurli.

Una nozione di intelligenza artificiale avanzata applicabile al tema
dell’articolo è l'”adversarial debiasing”. Questa tecnica mira a ridurre i
bias nei modelli di IA addestrandoli a resistere a “attacchi” che cercano di
sfruttare i bias presenti nei dati. In pratica, si crea un modello “avversario”
che cerca di indovinare attributi sensibili (come sesso, età o etnia) a
partire dalle previsioni del modello principale. Il modello principale viene
poi addestrato a confondere il modello avversario, rendendo le sue previsioni
meno dipendenti dagli attributi sensibili.

Riflettiamo: l’intelligenza artificiale è uno strumento potente, ma come ogni
strumento, può essere usato per il bene o per il male. L’onere di assicurare che l’intelligenza artificiale venga impiegata con equità e inclusione spetta a ciascuno di noi: da chi progetta a chi studia, fino ai rappresentanti governativi e ai membri della società. È soltanto mediante una dedizione condivisa che avremo la possibilità di creare un domani nel quale l’IA possa operare per il bene dell’intera umanità.