Ethics washing: quando l’IA diventa greenwashing?

Una sfida globale

L’intelligenza artificiale (IA) sta ridefinendo i confini del possibile in ogni settore, dall’assistenza sanitaria all’industria manifatturiera. Questa trasformazione epocale, tuttavia, porta con sé un’impellente necessità di riflessione etica e di una chiara definizione di responsabilità. Le aziende tecnologiche, protagoniste indiscusse di questa rivoluzione, si trovano a dover rispondere a una domanda cruciale: le loro dichiarazioni di impegno etico si traducono in azioni concrete, o si tratta semplicemente di una facciata, una forma di “ethics washing”?

Analizzare criticamente le strategie adottate dalle principali aziende tecnologiche è fondamentale per valutare l’effettiva efficacia delle loro politiche e il reale impatto sulle pratiche di sviluppo dell’IA. Questo implica un’attenta disamina dei bilanci di sostenibilità, delle iniziative concrete e, soprattutto, della trasparenza con cui comunicano il loro approccio all’etica dell’IA. L’obiettivo è discernere tra un impegno autentico e una mera operazione di marketing, un esercizio di reputation management volto a placare le crescenti preoccupazioni dell’opinione pubblica.

La posta in gioco è alta. Un’IA sviluppata senza una solida base etica rischia di amplificare le disuguaglianze esistenti, di minare i diritti umani e di compromettere la fiducia del pubblico in questa tecnologia. Al contrario, un’IA sviluppata in modo responsabile può contribuire a risolvere alcune delle sfide più urgenti del nostro tempo, dalla lotta contro il cambiamento climatico alla cura delle malattie. La chiave sta nella volontà di integrare l’etica fin dalle prime fasi di progettazione e sviluppo dell’IA, e di monitorare costantemente il suo impatto sulla società.

Il ruolo guida dell’unesco e la sua raccomandazione sull’etica dell’ia

Nel novembre del 2021, l’UNESCO ha compiuto un passo significativo verso la definizione di un quadro globale per l’etica dell’IA, <a class="crl" target="_blank" rel="nofollow" href="https://www.unesco.it/wp-content/uploads/2023/11/Brochure-su-Raccomandazione-UNESCO-sullIntelligenza-Artificiale-1.pdf”>adottando la “Raccomandazione sull’Etica dell’IA”. Questo documento, il primo del suo genere a livello internazionale, mira a fornire agli stati membri una guida per garantire che lo sviluppo e l’implementazione dell’IA siano etici e responsabili. La Raccomandazione si articola attorno a quattro pilastri fondamentali:

1. Protezione dei dati: garantire la trasparenza e il controllo degli individui sui propri dati personali. Questo implica la necessità di informare chiaramente gli utenti su come vengono raccolti, utilizzati e condivisi i loro dati, e di fornire loro la possibilità di accedere, modificare o cancellare tali dati. 2. Divieto del social scoring e della sorveglianza di massa: vietare esplicitamente l’uso di sistemi di IA per il social scoring, ovvero la valutazione del merito sociale di un individuo basata sull’analisi dei suoi dati, e per la sorveglianza di massa, che viola i diritti umani e le libertà fondamentali.
3. Protezione dell’ambiente: riconoscere il ruolo dell’IA come strumento nella lotta contro il cambiamento climatico e promuovere lo sviluppo di sistemi di IA che siano sostenibili dal punto di vista ambientale. Questo implica la necessità di valutare l’impatto ambientale diretto e indiretto dei sistemi di IA, e di adottare misure per ridurre tale impatto.
4. Sistema di monitoraggio e valutazione: istituire meccanismi efficaci per monitorare e valutare l’impatto etico dei sistemi di IA, al fine di identificare e mitigare i rischi potenziali. Questo implica la necessità di sviluppare strumenti e metodologie per valutare l’equità, la trasparenza e la responsabilità dei sistemi di IA.

La Raccomandazione dell’UNESCO rappresenta un importante punto di riferimento per la discussione sull’etica dell’IA a livello globale. Tuttavia, la sua efficacia dipenderà dalla volontà degli stati membri e delle aziende tecnologiche di tradurre le sue raccomandazioni in azioni concrete. Solo attraverso un impegno congiunto e una collaborazione internazionale sarà possibile garantire che l’IA sia sviluppata e utilizzata a beneficio di tutta l’umanità.

Ethics washing: la facciata dell’etica nell’era dell’ia

Il termine “ethics washing” (o “AI washing”) è entrato nel lessico contemporaneo per descrivere una pratica sempre più diffusa nel mondo dell’intelligenza artificiale: la promozione di un’immagine di responsabilità etica senza un reale cambiamento nelle pratiche aziendali. Questo fenomeno si manifesta in diverse forme, tra cui:

Dichiarazioni vaghe e generiche sull’impegno per l’etica, prive di dettagli concreti e misurabili.
Creazione di comitati etici senza un reale potere decisionale, il cui ruolo si limita a fornire pareri consultivi non vincolanti.
* Pubblicazione di report sulla sostenibilità che non riflettono la realtà, presentando un’immagine distorta dell’impatto etico delle attività aziendali.

Alcune aziende sono state accusate di “ethics washing” in seguito al licenziamento di ricercatori che si occupavano di etica dell’IA, un segnale allarmante che suggerisce una mancanza di reale impegno per la trasparenza e la responsabilità. Altri esempi includono lo sviluppo di tecnologie utilizzate per la sorveglianza di massa, nonostante le dichiarazioni di impegno per i diritti umani, un chiaro esempio di come le parole non corrispondano ai fatti.

Distinguere tra un impegno autentico per l’etica e una semplice operazione di marketing è fondamentale. La trasparenza e la concretezza delle azioni sono gli indicatori chiave per valutare la serietà dell’approccio di un’azienda all’etica dell’IA. Questo implica la necessità di fornire informazioni dettagliate sulle politiche aziendali, sui processi di sviluppo dell’IA e sui meccanismi di monitoraggio e valutazione dell’impatto etico.

Iniziative concrete e opinioni di esperti: un faro nella nebbia

Nonostante le ombre dell'”ethics washing”, esistono esempi di aziende tecnologiche che stanno implementando iniziative concrete per promuovere l’etica dell’IA e per garantire un impatto positivo sulla società. Questi esempi, seppur ancora limitati, dimostrano che è possibile coniugare innovazione tecnologica e responsabilità etica*.
ING, ad esempio, utilizza chatbot basati sull’IA per migliorare il servizio clienti e semplificare i prestiti, con un focus sull’equità e l’inclusione. L’obiettivo è ridurre i pregiudizi nel processo decisionale e garantire un accesso più equo ai servizi finanziari. La banca olandese, tramite l’utilizzo di dati transazionali, mira ad offrire soluzioni di prestito personalizzate, più rapide e più obiettive. Questo approccio elimina la soggettività umana e gli elementi discriminatori dai modelli di prestito. ING ha implementato sistemi completi di gestione del rischio per garantire sicurezza, accuratezza ed equità nell’utilizzo dell’IA. La banca sta investendo nella formazione di professionisti nello sviluppo e nell’implementazione dell’IA, in particolare per le tecnologie di IA generativa.

* Recursion Pharmaceuticals, in collaborazione con Google Cloud, sta utilizzando l’IA generativa nella scoperta di farmaci, con l’obiettivo di ridurre i tempi e i costi di sviluppo di nuove terapie. L’azienda mira a rendere l’assistenza sanitaria più accessibile e conveniente, accelerando la ricerca sulla scoperta dei farmaci attraverso l’utilizzo di set di dati proprietari e strumenti di intelligenza artificiale. L’utilizzo dell’IA ha già accelerato la scoperta di farmaci da parte di Recursion, aumentando la velocità e riducendo i costi dei suoi studi.

Queste iniziative, seppur promettenti, rappresentano solo un punto di partenza. *È necessario un impegno più ampio e diffuso da parte di tutte le aziende tecnologiche per garantire che l’IA sia sviluppata e utilizzata in modo responsabile*.

Le opinioni degli esperti sono fondamentali per orientare la discussione sull’etica dell’IA. Guido Boella, professore al Dipartimento di Informatica dell’Università di Torino e cofondatore di SIpEIA, sottolinea l’urgenza di definire un’etica per l’IA, poiché essa ha ripercussioni su molti più aspetti della nostra quotidianità rispetto ad altre tecnologie. Boella mette in guardia contro il rischio che il business model del capitalismo della sorveglianza diventi il modello di monetizzazione anche dei Large Language Model (LLM), portando a nuove e più profonde modalità di estrazione dei dati e possibilità di manipolazione degli utenti. *La discussione sull’etica dell’IA è quindi fondamentale per garantire che questa tecnologia sia utilizzata a beneficio della società e nel rispetto dei diritti umani*.

Un futuro consapevole: la bussola dell’etica per l’ia

Navigare nel complesso panorama dell’etica dell’intelligenza artificiale richiede un approccio olistico e una visione lungimirante. Le aziende tecnologiche, i governi, le organizzazioni internazionali e la società civile devono collaborare per definire standard etici condivisi e per promuovere lo sviluppo di un’IA che sia al servizio dell’umanità. Questo implica la necessità di:

Investire nella ricerca e nello sviluppo di metodologie per valutare l’impatto etico dei sistemi di IA.
Promuovere la trasparenza e la responsabilità nell’utilizzo dell’IA, garantendo che gli individui siano informati su come vengono utilizzati i loro dati e che abbiano la possibilità di contestare le decisioni prese dagli algoritmi.
Educare il pubblico sull’IA e sui suoi potenziali rischi e benefici, al fine di favorire una maggiore consapevolezza e partecipazione democratica.
Sostenere lo sviluppo di un’IA inclusiva e accessibile, che tenga conto delle esigenze di tutti i membri della società, compresi i gruppi marginalizzati.

Il futuro dell’IA dipende dalla nostra capacità di affrontare le sfide etiche che essa pone. *Solo attraverso un impegno congiunto e una visione condivisa sarà possibile garantire che l’IA sia una forza per il bene, e non una fonte di disuguaglianza e oppressione*.

Ora, vorrei condividere alcune riflessioni sull’intelligenza artificiale, cercando di collegarle al tema principale dell’articolo.

Un concetto di base nell’IA è l’apprendimento supervisionato. Immagina di insegnare a un bambino a riconoscere le mele: gli mostri diverse mele e gli dici “questa è una mela”. Dopo un po’, il bambino impara a riconoscere le mele anche quando ne vede una nuova. L’apprendimento supervisionato nell’IA funziona in modo simile: forniamo all’algoritmo una serie di dati “etichettati” (ad esempio, immagini di mele etichettate come “mela”) e l’algoritmo impara a riconoscere i pattern in questi dati. Questo è fondamentale per molte applicazioni dell’IA, come il riconoscimento facciale o la diagnosi medica.

Un concetto più avanzato è l’IA generativa, menzionata nell’articolo. L’IA generativa non si limita a riconoscere pattern, ma è in grado di creare nuovi contenuti, come testi, immagini o musica. Un esempio è ChatGPT, che può generare testi di vario genere. L’IA generativa ha un enorme potenziale creativo, ma solleva anche importanti questioni etiche, come la possibilità di creare deepfake o di generare contenuti discriminatori.

Guardando al futuro, è chiaro che l’etica dell’IA diventerà sempre più importante. Dobbiamo assicurarci che l’IA sia sviluppata e utilizzata in modo responsabile, tenendo conto dei suoi potenziali rischi e benefici. Questo richiede un dialogo aperto e trasparente tra tutti gli attori coinvolti, dalle aziende tecnologiche ai governi, dagli esperti di etica alla società civile. Solo così potremo costruire un futuro in cui l’IA sia una forza per il bene.