IA e minori: l’allarme di Meter sull’adescamento online

Una Nuova Minaccia per l’Infanzia

L’avvento dell’Intelligenza Artificiale (IA) ha aperto scenari inediti in diversi settori, ma con esso sono emerse nuove e preoccupanti sfide, soprattutto per la tutela dei minori. Nel corso del 2025, l’associazione Meter ha lanciato un allarme riguardo all’utilizzo dell’IA per scopi pedofili, una tendenza in rapida crescita che richiede un’azione immediata e coordinata.

I pedofili stanno sfruttando le potenzialità dell’IA per adescare i bambini attraverso chatbot che simulano conversazioni empatiche, inducendoli a condividere materiale intimo. Inoltre, la tecnologia deepfake permette di “spogliare” virtualmente i bambini e di inserirli in contesti di abuso, creando immagini e video falsi ma estremamente realistici. Questo fenomeno, secondo Meter, ha già coinvolto 2.967 minori nella prima metà del 2025.

Prompt per l’immagine: Un’immagine iconica che raffigura un bambino stilizzato, rappresentato con tratti delicati e innocenti, avvolto da fili digitali che simboleggiano la rete dell’Intelligenza Artificiale. La figura del fanciullo si presenta in parte avvolta nell’oscurità creata da ombre digitali che mettono in evidenza la precarietà della situazione online. Un chatbot lo affianca: la sua espressione è dubbia, oscillando tra ciò che potrebbe dare conforto o terrorizzare; esso incarna il tema dell’adescamento virtuale. In secondo piano, appaiono pezzetti di immagini distorte: queste suggeriscono l’esistenza dei deepfake nonché della manipolazione attraverso strumenti digitali. Per quanto concerne il tratto artistico complessivo, è auspicabile richiamarsi a stili delle correnti naturalistiche e impressioniste; i toni dovranno risultare caldi ma desaturati al fine di infondere una sensazione persistente di vulnerabilità inquietante. Non deve esserci alcun testo all’interno dell’immagine stessa; essa dovrebbe rimanere visivamente semplice ed immediatamente accessibile alla comprensione degli osservatori.

La Diffusione del Materiale Pedopornografico: Un Circolo Vizioso

Uno degli aspetti più allarmanti è la potenziale “normalizzazione” dell’abuso, poiché le immagini generate dall’IA sono percepite come virtuali e prive di vittime reali. Questo può portare a un aumento della domanda di materiale pedopornografico e a una maggiore difficoltà nell’identificazione delle vittime, rallentando il lavoro delle forze dell’ordine. Meter ha evidenziato come i pedofili utilizzino sempre più spesso piattaforme di messaggistica crittografate come Signal per condividere materiale illecito, sfruttando l’anonimato offerto da questi servizi. Nel 2024, sono stati individuati 336 gruppi su Signal dedicati alla pedopornografia, un dato che sottolinea l’urgenza di trovare soluzioni tecniche e normative per contrastare questo fenomeno.

L’Impatto sui Giovani: Consapevolezza e Vulnerabilità

Al fine di ottenere una visione più chiara sulla percezione dei rischi da parte della gioventù contemporanea, l’ente Meter ha intrapreso un’indagine in associazione col Servizio Nazionale Tutela dei Minori della CEI. Il sondaggio ha coinvolto complessivamente 989 studenti, nell’età compresa fra 14 e 18 anni. I risultati si rivelano inquietanti: ben 92,2% degli intervistati ha avuto esperienza diretta con un chatbot; mentre l’81% è dell’opinione che i deepfake possano compromettere seriamente l’immagine pubblica di un individuo; infine solo il 53,4% afferma di avere familiarità con questo fenomeno denominato deepfake.

Ciononostante, si manifesta anche una certa dose di coscienza critica: infatti, 90,5% delle nuove generazioni vede nella diffusione di contenuti come deepfake o deepnude una minaccia considerevole e circa 65,1% sarebbe propenso a segnalare tale situazione immediatamente. Tali statistiche evidenziano come le nuove generazioni siano perfettamente consapevoli delle insidie digitali esistenti; tuttavia, resta urgente la necessità di fornire strumenti più adeguati e sostegno per garantirne la protezione.

Un Appello alla Coscienza: Agire Ora per Proteggere il Futuro

L’importanza della Responsabilità Condivisa nell’Era Digitale

In considerazione di tale emergenza sociale ed educativa, appare imprescindibile una collaborazione sinergica tra tutte le parti interessate nella salvaguardia dei minori. I diversi attori quali istituzioni pubbliche e private, piattaforme digitali, ambienti scolastici ed entità familiari devono unirsi in uno sforzo comune teso a combattere gli abusi legati all’impiego malevolo dell’intelligenza artificiale. È urgente procedere a un aggiornamento normativo atto a reprimere efficacemente gli exploit malefici nel contesto virtuale; inoltre, bisogna chiedere alle piattaforme di assumersi la responsabilità legale riguardo ai contenuti generati dai loro algoritmi e avviare programmi didattici ad hoc destinati alla sensibilizzazione dei giovani sui potenziali rischi insiti nel panorama digitale.

Come evidenziato da don Fortunato Di Noto – fondatore della Onlus Meter – ci troviamo ad affrontare una fase cruciale: quell’“anno zero” dal quale è imperativo partire con tempestività. In questo scenario emerge chiaramente che non si deve considerare l’intelligenza artificiale come avversaria; ciò che costituisce realmente un problema è piuttosto l’indifferenza collettiva verso tali questioni cruciali. Risulta dunque fondamentale sviluppare un approccio etico nei processi evolutivi della tecnologia moderna poiché la vera misura di avanzamento culturale risiede proprio nella capacità di garantire adeguatamente i diritti dei più vulnerabili: i bambini.
Pertanto, vi invito a riflettere su questo punto cruciale: avete mai considerato cosa rappresenta veramente un algoritmo? Si tratta di una serie complessa di comandi che il computer esegue per affrontare una determinata questione. Prendendo in considerazione i chatbot dedicati all’abuso su minori, si nota come l’algoritmo sia strutturato per manipolare le emozioni infantili. Tuttavia, la questione non si limita a questo aspetto. Siete al corrente dell’esistenza delle reti neurali? Questi rappresentano modelli computazionali ispirati al modo in cui funziona il cervello umano; essi possiedono la capacità non solo di apprendere ma anche di adattarsi alle nuove informazioni. Un chiaro esempio sono i deepfake, i quali vengono generati grazie a tali reti capaci d’imitare volti e voci umane.

La sfida con cui ci troviamo a confrontarci è imponente; è fondamentale educare i nostri figli affinché riconoscano i rischi insiti nel mondo digitale e contestualmente chiedere che l’utilizzo della tecnologia avvenga in maniera etica e responsabile. È indispensabile impedire che l’intelligenza artificiale diventi uno strumento per abusi o sfruttamenti indegni. L’urgenza dell’intervento è palese: occorre agire tempestivamente prima che giunga il momento fatale della nostra inerzia.