Il problema dei deepfake resi particolarmente convincenti dalle nuove possibilità della AI generativa è sempre più presente nella cronaca. Tanto che molto probabilmente dobbiamo prepararci alla classica sequenza di "prime volte" e truffe record che si verifica quando la criminalità prende confidenza con le nuove tecnologie. E lo fa più rapidamente di quanto non lo facciano le potenziali vittime.

Il caso eclatante della settimana è una truffa da 24 milioni di euro che è stata perpetrata ai danni della filiale di Hong Kong di una multinazionale. Di che azienda si tratti non si sa, perché le autorità hanno deciso di non divulgare i nomi delle persone e delle imprese coinvolte. Ma si tratta comunque di un caso che potrebbe fare scuola in merito alle nuove tecniche di truffa via social engineering.

In base a quanto è stato raccontato dalla Polizia di Hong Kong, la truffa è cominciata con una classica azione di phishing mirato, ai danni di un dipendente dell'azienda-bersaglio che fa parte dell'ufficio Finance. Il dipendente ha ricevuto una mail apparentemente inviata dal CFO della sua azienda - che vive in Gran Bretagna, quindi non era immediatamente contattabile di persona per una verifica della mail - e che chiedeva di eseguire alcuni bonifici segreti.

Per confermare l'autenticità della mail - ed è qui che entrano in gioco i deepfake - i criminali hanno organizzato una sessione di videoconferenza in cui il dipendente truffato ha incontrato - apparentemente - il suo CFO e alcuni colleghi. Era però tutto finto: il CFO e i colleghi sono stati ricreati usando l'AI generativa a partire da clip video e audio liberamente disponibili.

L'abilità dei criminali - hanno spiegato le autorità - è stata anche nell'organizzare un meeting virtuale in cui le interazioni sono state ridotte al minimo. Per questo il dipendente imbrogliato non ha avuto alcun sospetto sull'identità del suo presunto capo.

Per Hong Kong è stata una "prima volta" legata all'AI. Mai nella storia della nazione i deepfake erano stati usati in maniera così strutturata e per ottenere uyn bottino così elevato: convinto dall'incontro virtuale con il finto CFO, il malcapitato dipendente ha infatti eseguito bonifici per 200 milioni di dollari di Hong Kong, ossia - al cambio attuale - 23,8 milioni di euro.

False identià a basso costo

Quello di Hong Kong non è l'unico caso di deepfake nati per violare le procedure di sicurezza di cui si sta parlando in questi giorni. Negli Stati Uniti fa ad esempio notizia il sito underground OnlyFake, che grazie all'AI generativa offre un servizio per la creazione di fotografie di doumenti di identità inesistenti. Chi voglia attestare una falsa identità deve semplicemente scegliere il tipo di documento desiderato, caricare una sua foto e pagare 15 dollari.

Quello che si riceve in cambio è una immagine in cui un inesistente documento è apparentemente forografato su un convincente, ma altrettanto inesistente, sfondo. Questa immagine può essere usata per comprovare la propria finta identità presso diversi siti o servizi. Lo staff di 404 Media ha approfondito il caso e racconta molti più dettagli in merito.