Manipolazione cognitiva, contraffazioni, biometria: le nuove armi dell’AI

Accanto ai rischi dell’automazione e agli attacchi di supply chain, emergono nuove tecniche che sfruttano la psicologia e le abitudini degli utenti. I dati e i consigli di Kaspersky.

L’intelligenza artificiale è un ottimo alleato della cybersicurezza ed è anche, oggi come oggi, forse il suo peggior nemico. Il duplice ruolo dell’AI nella sicurezza informatica è ben noto, ma continua ad arricchirsi di nuove capacità (nel bene e nel male) e sfaccettature, come evidenziato dalle statistiche e dalle analisi di Kaspersky. Oltre a essere un bersaglio di attacchi, l’intelligenza artificiale viene sfruttata per scopi malevoli in tutte le modalità possibile: come strumento di offesa vero e proprio, ma anche come catalizzatore e amplificatore degli attacchi e come “specchietto per le allodole”.
Una tecnica di attacco emergente prevede di nascondere strumenti dannosi all’interno di soluzioni di AI, plugin e servizi apparentemente legittimi. In alcuni casi lo strumento serve a indurre l’utente a fornire volontariamente dati sensibili, in altri casi può installare dei malware. La casistica è articolata, e attraverso l'analisi di Kaspersky possiamo farci un'idea dei rischi, oggi emergenti, che un domani potrebbero prendere piede su larga scala. O meglio dei rischi che, affrontati già oggi con la giusta consapevolezza, potranno essere arginati.
LE CONTRAFFAZIONI CHE SFRUTTANO LA FIDUCIA
Sono oltre 92mila gli attacchi malware nascosti dietro falsi sistemi di AI rilevati da Kaspersky in soli quattro mesi, dall’inizio dell’anno ai primi giorni di maggio. Si tratta di malware camuffati da applicazioni di intelligenza artificiale ben conosciute, e in particolare i criminali hanno contraffatto ChatGpt (nel 49% dei casi), Claude (18%) e Gemini (18%) per indurre le vittime a scaricare file dannosi.
E non è tutto: dall’inizio dell’anno, i ricercatori Kaspersky hanno individuato oltre 15mila campioni di malware mascherati da software di AI autonoma, tra cui anche versioni contraffatte di strumenti emergenti come OpenClaw. Tra i rilevamenti figuravano trojan bancari, spyware, programmi per il furto di credenziali bancarie, exploit e downloader di malware in grado di distribuire ulteriori payload dannosi.
In questo mese di maggio, poi, è stata scoperta una nuova campagna collegata Silver Fox, un gruppo Apt di origine cinese. I criminali hanno proposto a utenti che sul Web cercavano strumenti di intelligenza artificiale delle applicazioni malevole spacciate per Claude AI, nelle versioni per Windows, macOS e Linux. Una volta avviati, i programmi di installazione inserivano un malware per l’accesso remoto ai dati e ai dispositivi compromessi.
DALL’AVVELENAMENTO DEI DATI AGLI ATTACCHI DI SUPPLY CHAIN
I sistemi di intelligenza artificiale presentano dei rischi intrinsechi, tra i quali Kaspersky cita la fuga di dati, la manipolazione dei dataset, gli attacchi di data poisoning, prompt injection e le allucinazioni. Ci sono, poi, gli attacchi che si propagano “a catena”: a detta di Kaspersky, la compromissione della supply chain sta emergendo come uno dei rischi più critici legati all’adozione dell’AI. L’intelligenza artificiale opera, infatti, attraverso ecosistemi interconnessi, in un singolo componente compromesso può esporre intere reti e bloccare l’operatività più aziende.
Un caso osservato di recente è stata la violazione di LiteLLM, una libreria Python ampiamente utilizzata per accedere a modelli di intelligenza artificiale, che conta circa 97 milioni di download mensili. Il codice dannoso integrato nello strumento era in grado di sottrarre credenziali di database, file di wallet di criptovalute e altre informazioni sensibili
L'AI GIOCA SUL PIANO PSICOLOGICO
A tutto ciò si sommano le tecniche di attacco giocate sul piano psicologico. Quattro, secondo Kaspersky, sono i rischi oggi emergenti e destinati a crescere nei prossimi anni.
1)Il social engineering diventerà sempre più complesso e ingannevole, e già in anni recenti abbiamo visto l'uso dei Large Language Model per confezionare siti Web truffaldini e messaggi di phishing più convincenti. Attraverso i sistemi di AI cognitiva, alle piattaforme social e a grandi set di dati disponibili sarà possibile elaborare truffe altamente mirate, basate su analisi comportamentali e profilazioni psicologiche degli utenti. Il phishing potrebbe diventare più dinamico, con contenuti generati sul momento, sensibili al contesto e creati per sfruttare l’emotività. Come sottolineato da Kaspersky, il phishing non va sottovalutato perché può rappresentare il punto di accesso iniziale per attacchi Apt e altre forme sofisticate di crimeware dirette su aziende ed enti governativi.
2) Il rischio emergente si lega alla manipolazione cognitiva resa possibile dall’AI. Hacktivisti e gruppi Apt potrebbero sfruttare i bias cognitivi veicolati dall’AI oppure tecniche di micro-targeting e di psicologia comportamentale per influenzare le opinioni e azioni degli utenti, per esempio in campagne politiche e operazioni di disinformazione. Con l'evoluzione dell’AI, sarà sempre più facile plasmare i comportamenti di interi gruppi o porzioni della società.
3) La profilazione basata sull'AI, resa possibile aggregando dati provenienti dai social media, dalla navigazione Web e da altre fonti, l’intelligenza artificiale, può ricostruire in breve tempo e in modo automatico il profilo di identità di un utente e anche il suo profilo psicologico. Informazioni che un tempo erano frammentarie possono ora essere correlate automaticamente, e questo amplifica il rischio di doxxing e molestie digitali, oltre che l’esposizione di dati sensibili. Inoltre la profilazione basata sull'AI consente di adattare gli attacchi alle caratteristiche del target (incluse le vulnerabilità personali) e potenzialmente espone le persone al rischio di essere giudicate o prese di mira sulla base di comportamenti dedotti piuttosto che di azioni concrete. La minaccia, sottolinea Kaspersky, si sposta dalla perdita di privacy alla perdita di controllo sulla propria identità nella sfera digitale.
4) Il rischio è legato alla convergenza tra l’Internet of Things e le Brain-Computer Interface, cioè le interfacce cervello-computer oggi già usate, in via sperimentale, per consentire ai pazienti non verbali di comunicare attraverso l'interpretazione dei segnali neurali. Collegandosi a dispositivi esterni, per esempio dispositivi per smart home, tecnologie assistive e apparecchiature mediche, queste interfacce stanno cominciando a convergere con l'IoT, e ciò rappresenta sicuramente un progresso nell’assistenza sanitaria e nell’accessibilità digitale.

“Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento minano il giudizio. Ecco perché la regolamentazione è ora una difesa dell’autonomia umana, ma non può stare al passo con l’IA cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Abbiamo bisogno di un principio applicabile: la tecnologia deve servire le persone, non il contrario. L’autonomia non è solo una questione di privacy, è una questione di democrazia”. Teresa Potenza, giornalista e formatrice in materia di AI responsabile.