Ia etica: chi sono i veri protagonisti nel 2025?

Chi Sono i Veri Protagonisti?

Negli anni che precedono il 2025, l’entusiasmo verso l’intelligenza artificiale era chiaramente percepibile, con molte aziende che si ergevano a campioni di un progresso responsabile. OpenAI, per esempio, si era strutturata come ente non-profit con l’ardua missione di sviluppare un’intelligenza artificiale vantaggiosa per l’intera umanità. Google, fedele al suo famoso motto “don’t be evil”, sembrava esitare a collaborare con l’ambito militare, mentre Meta prometteva di contrastare i discorsi d’odio tramite algoritmi sofisticati. La Silicon Valley, nel suo insieme, aveva creato “unità etiche” con il compito di controllare e mitigare le possibili ripercussioni negative di tale tecnologia, focalizzandosi in particolare sulle discriminazioni.

Ciononostante, lo scenario è profondamente cambiato. OpenAI è divenuta una società orientata al profitto, pronta a concludere accordi con l’esercito per colmare le perdite. Google ha abbandonato il suo storico slogan e ha iniziato a cooperare con il settore militare. Meta ha sciolto le sue divisioni etiche e ora prefigura un avvenire in cui le intelligenze artificiali si trasformano nei nostri unici compagni. Elon Musk, dopo aver finanziato documentari sui pericoli dell’IA, ha fondato Grok, un chatbot che propaga teorie cospirazioniste e disinformazione.

Contemporaneamente, startup con inclinazione bellica e di sorveglianza, come Palantir, Anduril e Clearview AI, hanno conquistato un potere notevole. Nel contesto politico, si sono consolidate correnti di pensiero quali il lungotermismo e l’accelerazionismo efficace, che dimostrano scarso interesse per i rischi tangibili che l’intelligenza artificiale sta causando, specialmente nel mondo del lavoro.

In questo quadro sempre più tetro, quali figure positive risaltano ancora nel campo dell’intelligenza artificiale?

LawZero di Yoshua Bengio: Un Baluardo Contro l’Inganno dell’IA

Quando Yoshua Bengio, celebrato come uno dei tre “padri dell’intelligenza artificiale” insieme a Yann LeCun e Geoff Hinton, presenta una nuova impresa, l’attenzione del settore è scontata. LawZero, inaugurata all’inizio di giugno 2025, si impegna a impedire che le intelligenze artificiali ingannino gli esseri umani o eseguano azioni contrarie alle istruzioni ricevute. Questa iniziativa ha ottenuto consensi sia dalle testate specializzate che da quelle generaliste.

L’obiettivo di LawZero, un’organizzazione senza fini di lucro, è sviluppare una “Scientist AI” capace di prevenire che gli “AI Agents” (sistemi creati per operare autonomamente in background) realizzino azioni nocive o contrastanti con le nostre direttive. Se la probabilità di tali azioni supera un certo limite, l’intelligenza artificiale ideata da Bengio interviene per bloccarle.

“Anche se otteniamo un’intelligenza artificiale in grado di scoprire la cura per il cancro, se un’altra versione impazzisce e crea armi biologiche che causano miliardi di morti, non credo ne valga la pena,” ha dichiarato Bengio.

Con l’aumento della cessione di responsabilità alle macchine, diventa indispensabile che un altro sistema automatico ne controlli le operazioni.

Alcuni finanziatori di Bengio, tra cui il Future of Life Institute e Eric Schmidt, ex presidente di Google, sono stati al centro di critiche per il loro approccio deciso e orientato al settore militare nell’ambito dell’intelligenza artificiale.

SSI di Ilya Sutskever: Un Tentativo di Redenzione Etica?

Ilya Sutskever, superficialmente, potrebbe sembrare appartenere alla categoria dei “virtuosi” nel settore dell’intelligenza artificiale. Non solo ha cercato, senza successo, di destituire Sam Altman da OpenAI per comportamenti ritenuti poco trasparenti e avventati, ma, dopo aver perso tale scontro e aver abbandonato il consiglio di amministrazione di OpenAI, Sutskever ha dato il via a una nuova realtà aziendale che pare puntare a recuperare l’intento originario della società.

Safe Superintelligence (SSI), avviata nel giugno 2024, si propone di realizzare un sistema di intelligenza artificiale estremamente sofisticato, in grado di sorpassare ampiamente le capacità umane, assicurando al contempo che sia “allineato” con i nostri valori e non si rivolti contro l’umanità.

secondariamente, SSI è un’azienda a scopo di lucro che ha già raccolto oltre un miliardo di dollari in investimenti da fondi come Andreessen Horowitz e Sequoia Capital, noti per il loro approccio audace all’intelligenza artificiale.

Rimane da chiarire come tutto ciò si concili con un’impresa che sembra animata da una finalità unicamente benefica.

Encode Justice e AI Now Institute: Voci Fuori dal Coro Commerciale

Per scovare individui realmente votati alla tutela dei principi etici nell’intelligenza artificiale, è necessario rivolgere lo sguardo oltre il perimetro delle startup, verso le organizzazioni non governative e la sfera accademica. Encode Justice, fondata dalla giovane attivista Sneha Revanur, rappresenta un esempio concreto di questo impegno. Revanur si è distinta nel 2020, a soli 15 anni, partecipando attivamente alla campagna mirata a bloccare la Proposition 25 in California, una legge che avrebbe sostituito la libertà su cauzione con una valutazione del rischio basata su un sistema di intelligenza artificiale.

I pericoli di discriminazioni e inesattezze erano eccessivi per consentire l’automatizzazione di decisioni così delicate. Da questa esperienza è nata Encode Justice, un’organizzazione con 800 membri in 30 paesi, finanziata principalmente dal fondatore di eBay, Pierre Omidyar. L’associazione si pone come scopo quello di contrastare i pericoli connessi all’intelligenza artificiale e di assicurare che la voce della Generazione Z venga ascoltata.

Nel 2023, Encode Justice e altre realtà hanno inviato una comunicazione al Congresso degli Stati Uniti sollecitando una maggiore partecipazione nei processi decisionali riguardanti l’intelligenza artificiale.

“L’intelligenza artificiale dovrebbe essere concepita per soddisfare le necessità dell’umanità e essere a noi responsabile.

Senza il nostro intervento, l’IA potrebbe comportare rischi significativi per la nostra società, economia e democrazia.

È indispensabile una vigilanza scrupolosa per regolarne lo sviluppo,” ha specificato Revanur.

Anche l’AI Now Institute, creato da Meredith Whittaker e Kate Crawford, svolge un ruolo essenziale nel monitoraggio dell’evoluzione dell’intelligenza artificiale e nell’assicurare che i governi non utilizzino tale tecnologia in maniera precipitosa e pericolosa. I ricercatori dell’AI Now Institute lavorano in quattro aree tematiche: diritti e libertà, lavoro e automazione, pregiudizi e inclusione, sicurezza e infrastrutture critiche.

Uno dei loro recenti studi evidenzia come la retorica della “competizione per l’intelligenza artificiale” e le paure ingiustificate sul “rischio esistenziale” vengano usate strumentalmente per giustificare la rapida adozione di sistemi automatizzati in ambito militare, spesso in contrasto con i requisiti di sicurezza e affidabilità.

Questo conduce a una normalizzazione di sistemi di intelligenza artificiale non convalidati, inaffidabili, che compromettono l’incolumità e l’efficienza delle infrastrutture vitali, sia in ambito militare che civile.

Altri enti, come il DAIR (Distributed Artificial Intelligence Research Institute), l’Institute for Human-Centered Artificial Intelligence di Stanford, il Center for Ethics, Society and Computing (ESC) dell’Università del Michigan e il Berkman Klein Center for Internet and Society di Harvard, si prodigano per attenuare i rischi concreti derivanti dall’intelligenza artificiale.

Questi enti, sovente guidati da donne e lontani dall’immagine stereotipata delle startup della Silicon Valley, si sforzano di focalizzare l’attenzione sui pericoli reali presentati dall’intelligenza artificiale. Per tale motivo, possono essere considerati tra i veri protagonisti dell’intelligenza artificiale etica.

Oltre l’Entusiasmo: Un Futuro Responsabile per l’IA

Il panorama dell’intelligenza artificiale è complesso e in rapida trasformazione. Se da una parte osserviamo una corsa sfrenata all’innovazione, spesso mossa da interessi economici e militari, dall’altra emergono voci che si impegnano per un approccio più responsabile e consapevole. Personalità come Yoshua Bengio, Ilya Sutskever, Sneha Revanur, Meredith Whittaker e Kate Crawford, unitamente ai loro istituti e organizzazioni, rappresentano un faro di speranza in un mondo sempre più dominato dalla tecnologia. Il loro impegno è indispensabile per assicurare che l’intelligenza artificiale sia sviluppata e impiegata a vantaggio dell’umanità, nel rispetto dei valori etici e dei diritti fondamentali.

senza la nostra partecipazione attiva, l’IA potrebbe generare pericoli rilevanti per la nostra comunità, l’economia e la struttura democratica.