L’intelligenza artificiale non capisce il ‘no’: implicazioni e limiti

Un Problema Emergente

Nel panorama in rapida evoluzione dell’intelligenza artificiale, emergono sfide inaspettate che mettono in discussione la sua effettiva capacità di replicare l’intelletto umano. Un recente studio condotto da ricercatori del Massachusetts Institute of Technology (MIT) ha evidenziato una difficoltà sorprendente: l’incapacità delle IA, anche quelle più sofisticate, di comprendere appieno il concetto di negazione, in particolare la parola “no”. Questa lacuna, apparentemente banale, potrebbe avere implicazioni significative, soprattutto in settori critici come la medicina.

La ricerca si è concentrata sulla valutazione delle capacità dei Vision Language Model (VLM), modelli di IA progettati per interpretare sia testi che immagini. I ricercatori hanno creato un database denominato NegBench, composto da circa 80.000 coppie di immagini, ciascuna raffigurando la presenza o l’assenza di un determinato oggetto, accompagnate da didascalie descrittive. Questo strumento è stato utilizzato per testare le prestazioni di diversi VLM, tra cui dieci versioni del modello Clip AI di OpenAI e un modello recente di Apple chiamato AIMV2.

Nel primo esperimento, ai modelli è stato chiesto di identificare immagini contenenti un oggetto specifico ma non un altro (ad esempio, immagini con tavoli ma senza sedie). I risultati hanno rivelato una disparità significativa: mentre i modelli hanno raggiunto una precisione media dell’80% nel riconoscimento degli oggetti presenti, la loro accuratezza è scesa al 65% nell’identificare le immagini in base agli oggetti assenti.

Un secondo esperimento ha coinvolto due modelli specificamente addestrati per l’interpretazione di immagini mediche. È stato chiesto loro di selezionare la didascalia più appropriata per descrivere una radiografia, scegliendo tra due opzioni che includevano sia caratteristiche visibili che assenti (ad esempio, la presenza o l’assenza di segni di polmonite). In questo caso, il modello migliore ha raggiunto un’accuratezza di appena il 40% quando era presente una negazione, un risultato sorprendente considerando la semplicità del compito per un medico umano.

Secondo i ricercatori del MIT, il problema risiede nei modelli di apprendimento utilizzati per addestrare le IA, in particolare i trasformatori sviluppati da Google nel 2017. Questi modelli sono progettati per riconoscere il significato specifico dei termini in relazione al contesto in cui compaiono. Tuttavia, la natura indipendente dal contesto di negazioni come “no” e “non” rende difficile per questi modelli interpretarne il significato, portandoli spesso a ignorarle.

PROMPT: Crea un’immagine iconica in stile naturalista e impressionista con una palette di colori caldi e desaturati. L’immagine deve raffigurare una radiografia stilizzata (in stile impressionista) con un’ombra a forma di punto interrogativo che la oscura parzialmente (metafora dell’incertezza diagnostica). Accanto, un chip di silicio stilizzato (in stile naturalista) con un’etichetta “NO” in rosso sbiadito (metafora della difficoltà di comprensione della negazione). Lo sfondo deve essere sfumato e astratto, evocando l’idea di un ambiente medico e tecnologico. L’immagine non deve contenere testo esplicito.

Quando l’IA Aiuta e Quando Ostacola: Una Guida Pratica

L’intelligenza artificiale è diventata una presenza pervasiva in molti aspetti della nostra vita, ma la sua utilità non è sempre garantita. Un articolo del MIT Technology Review del 2024 ha evidenziato diversi casi in cui strumenti e chatbot basati sull’IA si sono rivelati inefficaci o addirittura controproducenti. Di fronte a questi risultati contrastanti, sorge una domanda fondamentale: come possiamo determinare quando affidarci all’IA e quando è preferibile fare affidamento sulle nostre capacità umane?

In generale, è consigliabile utilizzare l’IA con cautela in situazioni che richiedono creatività originale, decisioni etiche o morali complesse, o la capacità di cogliere sfumature e significati impliciti. Allo stesso modo, è bene essere scettici nei confronti delle soluzioni proposte dall’IA quando sono richieste competenze specialistiche e precisione assoluta. Questo perché l’IA tende a riprodurre schemi appresi piuttosto che generare idee veramente originali, e manca di una vera comprensione dei valori umani e del contesto culturale.

Tuttavia, l’IA eccelle in determinate aree. È particolarmente efficace nell’elaborazione di grandi quantità di dati, nell’identificazione di schemi nascosti e nell’esecuzione di attività standardizzate e ripetitive. La sua attitudine a cercare e raccogliere informazioni da un vasto numero di fonti la rende altresì uno strumento valido per supportare la ricerca.

Ethan Mollick, co-direttore dell’AI generative Lab alla Wharton University, ha stilato un elenco di situazioni in cui l’IA può fare la differenza:

• Generare un gran numero di idee: L’IA può fornire centinaia di idee senza ripetizioni, ampliando notevolmente il ventaglio di possibilità da considerare.
• Quando si è esperti in un determinato ambito: La conoscenza pregressa consente di valutare meglio la validità e il valore aggiunto degli output forniti dall’IA.
• Riepilogare volumi elevati di dati: L’IA possiede la capacità di distillare contenuti estesi, purché i rischi associati a eventuali imprecisioni siano contenuti.
• Trasporre contenuti tra ambiti differenti: L’IA può rielaborare materiale complesso in formati più comprensibili per interlocutori e contesti diversi.
• Superare i blocchi creativi: L’IA può offrire spunti su qualsiasi argomento, fungendo da editor e dizionario dei sinonimi e contrari.
• Avviare progetti imprenditoriali multidisciplinari: L’IA può fungere da co-fondatore virtuale, offrendo mentorship e colmando le lacune su vari aspetti del business.
• Svolgere compiti che l’IA fa meglio degli umani: Analisi di grandi dataset, individuazione precoce di tumori nelle immagini diagnostiche, traduzione di testi e giochi strategici.

Al contrario, è meglio evitare l’IA quando si devono apprendere nuovi concetti, quando lo sforzo è parte essenziale del processo, quando serve massima precisione e quando non si comprendono i suoi potenziali fallimenti.

I Limiti del Machine Learning: Pregiudizi e Sfide Etiche

Il machine learning, una branca fondamentale dell’intelligenza artificiale, presenta una serie di limiti e sfide che devono essere affrontati per garantire un’IA più etica e inclusiva. Uno dei problemi principali è l’influenza di bias e pregiudizi presenti nei dati di addestramento. Se i dati riflettono disuguaglianze sociali o stereotipi, l’IA apprenderà e perpetuerà questi bias, portando a risultati discriminatori.

Ad esempio, un sistema di riconoscimento facciale addestrato principalmente su immagini di persone bianche potrebbe avere difficoltà a riconoscere volti di persone di altre etnie. Allo stesso modo, un algoritmo utilizzato per valutare le candidature di lavoro potrebbe favorire candidati di un determinato genere o provenienza geografica se i dati storici riflettono tali preferenze.

Per mitigare questi problemi, è necessario prestare attenzione alla qualità e alla diversità dei dati di addestramento, nonché sviluppare tecniche per identificare e correggere i bias negli algoritmi. Inoltre, è fondamentale promuovere la trasparenza e la responsabilità nell’utilizzo dell’IA, in modo da poter individuare e affrontare eventuali conseguenze negative.

Oltre l’Ottimismo Sconsiderato: L’IA e la Complessità dell’Umanità

L’amministratore delegato di OpenAI, Sam Altman, ha espresso una visione ottimistica sull’IA, immaginando un futuro in cui questa tecnologia risolverà tutti i problemi dell’umanità e inaugurerà un’era di abbondanza e prosperità condivisa. Tuttavia, questa visione ignora la complessità della natura umana e la nostra capacità di creare problemi anche in presenza di soluzioni tecnologiche.

Anche se l’IA fosse in grado di sviluppare cure per tutte le malattie, risolvere la crisi climatica e creare una società più equa, non è detto che saremmo in grado di applicare queste soluzioni in modo efficace. La storia ci insegna che spesso siamo noi stessi il nostro peggior nemico, e che i progressi tecnologici non sempre si traducono in un miglioramento della condizione umana.

Come ha scritto William Gibson, “il futuro è già qui, è solo che non è distribuito uniformemente”. L’IA potrebbe generare una ricchezza senza precedenti, ma non c’è garanzia che questa ricchezza sarà distribuita in modo equo. Inoltre, l’automazione del lavoro potrebbe portare alla disoccupazione di massa, creando nuove sfide sociali ed economiche.

È importante affrontare l’IA con un sano scetticismo, riconoscendo sia il suo potenziale che i suoi limiti. Non dovremmo aspettarci che l’IA risolva tutti i nostri problemi, ma piuttosto utilizzarla come uno strumento per amplificare le nostre capacità e migliorare la nostra vita. Tuttavia, è fondamentale ricordare che la responsabilità ultima del nostro futuro è nelle nostre mani.

Amici lettori, riflettiamo un attimo. L’articolo ci parla di come l’IA fatichi a comprendere la negazione. Questo ci porta a pensare a un concetto fondamentale dell’IA: il Natural Language Processing (NLP), ovvero la capacità di un computer di comprendere e generare linguaggio umano. Se l’IA ha difficoltà con una cosa apparentemente semplice come il “no”, significa che c’è ancora molta strada da fare per raggiungere una vera comprensione del linguaggio.

E se volessimo spingerci oltre? Potremmo parlare di Reasoning under Uncertainty. Questa branca dell’IA si occupa di gestire informazioni incomplete o imprecise, proprio come accade quando l’IA deve interpretare una frase con una negazione. L’IA deve essere in grado di valutare diverse possibilità e prendere decisioni anche in assenza di certezze assolute.

Ma la domanda più importante è: cosa significa tutto questo per noi? Significa che dobbiamo essere consapevoli dei limiti dell’IA e non affidarci ciecamente alle sue decisioni, soprattutto in contesti critici come la medicina. Dobbiamo sviluppare un pensiero critico e una capacità di giudizio che ci permettano di valutare le informazioni fornite dall’IA e prendere decisioni informate. In fondo, l’intelligenza artificiale è solo uno strumento, e come tutti gli strumenti, può essere usato bene o male. Sta a noi decidere come usarlo.