Le frodi deepfake sono in aumento, segnalando una tendenza allarmante nella sicurezza aziendale. Oggi i truffatori sono in grado di creare imitazioni vocali convincenti dei dirigenti, manipolando potenzialmente i prezzi delle azioni e orchestrando frodi multimilionarie.

Il panorama delle minacce deepfake

"I malintenzionati riescono a entrare facilmente", avverte Srinivas Tummalapenta, IBM Distinguished Engineer & CTO di IBM Security Services. Con soli 5 USD e un campione vocale di un minuto, i truffatori possono ora impersonare i CEO, causando scompiglio nelle finanze e nella reputazione dell’azienda.

I deepfake sono falsi digitali altamente realistici creati utilizzando l’intelligenza artificiale. Questi video o registrazioni audio manipolate possono far sembrare che qualcuno stia dicendo o facendo qualcosa che in realtà non ha mai detto o fatto, ponendo sfide significative nel distinguere la verità dalla finzione nei media digitali.

Statistiche preoccupanti

    • Secondo il report sulle frodi d’identità del 2024 di Onfido, si è registrato un aumento del 3 000 % dei deepfake.
    • Le banche hanno già implementato l’analisi vocale in tempo reale nei call center, ma molte aziende restano indietro.
    • Il costo medio delle frodi legate ai deepfake supera i 10 milioni di dollari per incidente.

Case study: la truffa al CEO della Ferrari

In un recente episodio, truffatori hanno usato la tecnologia AI per impersonare il CEO della Ferrari, Benedetto Vigna, in un elaborato tentativo di frode. Un dirigente Ferrari ha ricevuto messaggi di testo sospetti da un numero sconosciuto che affermava di essere Vigna, includendo una foto del CEO e un finto annuncio di acquisizione.

Grazie alla sua prontezza di riflessi, il dirigente ha smascherato l’inganno, bloccando la truffa sul nascere. Altri non sono stati così fortunati; Tummalapenta sottolinea che creare fake convincenti è incredibilmente semplice, mentre il rilevamento richiede strumenti sofisticati.

Collaborazioni strategiche

IBM sta collaborando con Reality Defender, un’azienda la cui tecnologia può rilevare contenuti manipolati di voce, video e immagini. Tummalapenta dimostra come il sistema abbia analizzato i campioni vocali, identificando una registrazione originale come una corrispondenza completa e un campione generato dalla macchina come altamente manipolato.

I sistemi di rilevamento in tempo reale sono fondamentali per settori come quello bancario. Tummalapenta descrive un sistema in cui “i pacchetti vocali vengono analizzati in tempo reale, consentendo al sistema di rilevare i falsi e di istruire l’analista ad adottare le misure appropriate”.

Ostacoli all’adozione di soluzioni anti‑deepfake

Nonostante la disponibilità di tecnologie avanzate, molte aziende non hanno ancora allocato fondi per affrontare il problema. “I fondi non sono disponibili”, spiega Tummalapenta, e le imprese spesso riconoscono la minaccia solo dopo essere state colpite.

L’AI alimenta la creazione di media ingannevoli, ma le contromisure innovative si stanno evolvendo rapidamente per tenere il passo. L’ostacolo principale resta la consapevolezza: le aziende devono riconoscere il rischio, dare priorità e finanziare queste misure di salvaguardia contro la manipolazione digitale.

Formazione e consapevolezza

Con l’aumento degli attacchi, le aziende stanno diventando più consapevoli dei rischi, in particolare per i dirigenti di alto livello. “Stiamo ricevendo richieste da aziende i cui vertici aziendali sono stati colpiti, chiedendo come proteggere i loro dirigenti”, spiega Tummalapenta.

La formazione e la consapevolezza restano componenti fondamentali di una strategia di difesa efficace. “Stiamo educando le persone”, afferma Tummalapenta. “Più attacchi vedono, più comprendono la minaccia.”