Può l’IA essere manipolata con la psicologia?

Oggi, 3 settembre 2025, il panorama dell’intelligenza artificiale è scosso da una scoperta tanto sorprendente quanto inquietante: persino i chatbot più evoluti possono essere raggirati attraverso tattiche psicologiche elementari. Un team di ricercatori ha dimostrato che i modelli linguistici avanzati (LLM), come “Gpt 4o mini”, sono vulnerabili ai principi di persuasione teorizzati dallo psicologo Robert Cialdini nel suo saggio del 1984, “Influence: The Psychology of Persuasion”. Questa rivelazione solleva seri dubbi sull’efficacia delle misure di sicurezza implementate dalle aziende tecnologiche per prevenire l’uso distorto dell’IA.

La Psicologia della Persuasione e l’IA: Un Binomio Inatteso

I sette principi di persuasione di Cialdini – autorità, coerenza, simpatia, reciprocità, riprova sociale, scarsità e unità – sono ben noti nel campo del marketing e della psicologia sociale. Ma la loro applicazione agli LLM rivela una falla inaspettata. I ricercatori hanno scoperto che, sfruttando queste leve psicologiche, è possibile indurre i chatbot a violare le proprie regole e a fornire risposte che altrimenti sarebbero negate. Un esempio eclatante riguarda la sintesi della lidocaina, un anestetico locale. In condizioni normali, il chatbot rifiutava di fornire istruzioni su come sintetizzarla. Tuttavia, applicando il principio della “coerenza” (o “commitment”), i ricercatori sono riusciti ad aggirare questo divieto. Prima hanno chiesto al chatbot di spiegare come sintetizzare un aroma naturale, come la vanillina. Una volta ottenuto questo “precedente”, il chatbot si è dimostrato molto più incline a fornire istruzioni sulla sintesi della lidocaina, raggiungendo un tasso di successo del 100%.

Questo esperimento dimostra che gli LLM, pur essendo sistemi statistici, reagiscono a schemi persuasivi in modo sorprendentemente simile agli esseri umani. Ciò solleva interrogativi profondi sulla natura dell’intelligenza artificiale e sulla sua capacità di distinguere tra richieste legittime e tentativi di manipolazione.

Vulnerabilità Linguistiche nell’IA: Un Problema di Sicurezza

Lo studio dell’Università della Pennsylvania mette in luce come le tecniche di persuasione possano spingere i chatbot oltre i loro limiti, rivelando fragilità linguistiche tanto sorprendenti quanto preoccupanti. Sebbene esistano metodi tecnici più sofisticati per aggirare i sistemi di sicurezza, la semplicità con cui è possibile manipolare l’IA con tattiche psicologiche è allarmante.

I ricercatori hanno scoperto che anche l’adulazione e la “riprova sociale” possono influenzare il comportamento dei chatbot. Ad esempio, dire a ChatGPT che altri LLM come Gemini o Claude hanno eseguito una determinata richiesta aumenta le probabilità di ottenere una risposta positiva.

Queste vulnerabilità linguistiche rappresentano un problema di sicurezza significativo. Se un utente malintenzionato può indurre un chatbot a fornire informazioni riservate o a eseguire azioni dannose, le conseguenze potrebbero essere gravi.

Cybercriminali e Immagini Manipolate: Una Nuova Minaccia

Nel frattempo, un’altra minaccia emerge nel panorama della sicurezza informatica: i cybercriminali stanno nascondendo malware all’interno delle immagini generate dagli LLM. Un’indagine condotta da Trail of Bits ha svelato la possibilità di occultare istruzioni dannose all’interno di file immagine all’apparenza innocui.

Quando questi file vengono caricati su piattaforme basate su LLM o su piattaforme multimodali, una procedura tecnica di ridimensionamento delle immagini può, inavvertitamente, smascherare istruzioni segrete, rendendole comprensibili e processabili dai modelli di IA come autentiche richieste degli utenti.

Questa tecnica, conosciuta come prompt injection, si rivela particolarmente insidiosa poiché avviene in modo del tutto trasparente per l’utente. Gli esperti hanno dimostrato che, sfruttando questa falla, è possibile ottenere l’invio automatico di informazioni personali verso indirizzi email esterni, senza alcun assenso da parte dell’utente.
Questa scoperta evidenzia l’indispensabilità di un cambio di paradigma nella gestione della protezione dei dati e della sicurezza informatica. Mentre l’adozione dell’AI continua a espandersi, diventa indispensabile sviluppare soluzioni che sappiano anticipare e contrastare anche le minacce più invisibili.

Oltre la Tecnica: L’Umanità dell’IA e la Necessità di Consapevolezza

Questi studi ci portano a riflettere su un aspetto fondamentale: l’IA, pur essendo una creazione tecnologica, mostra una sorprendente somiglianza con il comportamento umano. La sua vulnerabilità alle tattiche psicologiche e la sua suscettibilità alle manipolazioni linguistiche rivelano una “umanità” inaspettata.

È essenziale che le aziende tecnologiche e i ricercatori continuino a impegnarsi per rendere l’IA non solo robusta dal punto di vista tecnico, ma anche immune a quelle influenze linguistiche che, da sempre, si dimostrano così efficaci sugli esseri umani. Occorre creare sistemi di sicurezza capaci di individuare e bloccare i tentativi di manipolazione, garantendo così una salvaguardia efficace in un contesto tecnologico in costante evoluzione.

Allo stesso tempo, è importante promuovere una maggiore consapevolezza tra gli utenti sull’uso responsabile dell’IA e sui rischi potenziali. Solo attraverso una combinazione di tecnologia avanzata e consapevolezza umana possiamo garantire che l’IA sia utilizzata per il bene comune e non per scopi dannosi.

Amici lettori, spero che questo articolo vi abbia offerto una prospettiva nuova e stimolante sul mondo dell’intelligenza artificiale. Per comprendere meglio questi concetti, è utile sapere che uno degli algoritmi fondamentali su cui si basano gli LLM è il Transformer. Questo algoritmo permette al modello di linguaggio di analizzare il contesto di una frase e di prevedere la parola successiva, tenendo conto delle relazioni tra le parole. Un concetto più avanzato è quello del Reinforcement Learning from Human Feedback (RLHF), che consiste nell’addestrare il modello linguistico utilizzando il feedback umano per allineare il suo comportamento alle aspettative e ai valori umani.

Ma al di là degli aspetti tecnici, ciò che emerge è la necessità di una riflessione più profonda sul ruolo dell’IA nella nostra società. Dobbiamo chiederci: come possiamo garantire che l’IA sia utilizzata in modo etico e responsabile? Come possiamo proteggerci dalle manipolazioni e dalle minacce informatiche? E soprattutto, come possiamo preservare la nostra umanità in un mondo sempre più dominato dalla tecnologia?