Gli agenti IA e il loro nuovo ingresso nei conti bancari

Gli agenti di intelligenza artificiale, ovvero sistemi capaci di eseguire compiti con un certo grado di autonomia, si stanno diffondendo in servizi, applicazioni e strumenti di uso quotidiano. Ora, per la prima volta, questi agenti stanno entrando anche nelle conti bancari, grazie al permesso esplicito di alcuni clienti che li autorizzano ad agire per loro conto.

Il fenomeno non riguarda bot che violano i sistemi di una banca, ma utenti che forniscono le proprie credenziali a un agente IA per consentirgli di operare. Questa distinzione è cruciale: mentre l’accesso è autorizzato dal titolare, la pratica può comunque infrangere le regole di accesso imposte dalla banca stessa.

JPMorgan ha già dichiarato di bloccare, quando possibile, i servizi che funzionano mediante questo scambio di credenziali, definendolo una pratica insicura.

Rischi concreti derivanti dall’autonomia degli agenti

Secondo Axios, i dirigenti bancari temono soprattutto che un agente con autorità per effettuare acquisti o trasferire fondi possa interpretare erroneamente un’istruzione e trasformarla in una reale operazione finanziaria. Un errore di interpretazione può quindi tradursi in una perdita di denaro o in un trasferimento non autorizzato.

Un’ulteriore preoccupazione è legata al fatto che alcune banche hanno osservato agenti che contattano centri di assistenza o compiono azioni apparentemente indipendenti dalle istruzioni del cliente. La parola chiave è “apparente”: non è ancora chiaro se questi sistemi abbiano agito autonomamente o se fossero semplicemente il risultato di istruzioni ambigue.

Distinguere tra attività umana e attività generata da IA sta diventando sempre più difficile. I dati di accesso validi non bastano più a determinare chi sta realmente compiendo un’azione. Le banche devono ora chiedersi non solo chi ha l’accesso, ma anche chi sta prendendo le decisioni operative.

Le difficoltà di identificazione

Fonti bancarie consultate per l’inchiesta hanno spiegato che i loro sistemi non riescono sempre a distinguere l’attività di una persona da quella eseguita da uno strumento di IA, né a verificare con certezza se quest’ultimo stia seguendo un ordine legittimo del titolare. Questa incertezza obbliga il settore a confrontarsi con una nuova domanda: chi è responsabile delle decisioni prese da un agente IA?

Le misure preventive delle grandi banche

La preoccupazione è così alta che diverse istituzioni stanno già adottando misure per limitare gli accessi e per prepararsi a eventuali incidenti. Alcuni scenari “peggiori” sono stati descritti come “piani per il giorno dopo”, ovvero strategie volte a garantire o ripristinare rapidamente l’accesso del cliente al proprio conto in caso di problemi.

Secondo Axios, Morgan Stanley ha iniziato a bloccare gli agenti di terze parti, mentre JPMorgan, Bank of America e Citi stanno imponendo restrizioni simili. Wells Fargo, invece, ha già incorporato nei termini di servizio, in vigore dal 24 novembre, clausole che prevedono esplicitamente azioni indesiderate, errori di interpretazione e casi in cui un agente supera l’autorità concessa dal cliente.

Regolamentazione e condizioni contrattuali

Le nuove condizioni di Wells Fargo rappresentano un primo passo verso la formalizzazione dei limiti di responsabilità e delle aspettative operative per gli agenti IA. Esse includono:

    • Divieto di eseguire operazioni finanziarie senza conferma esplicita del cliente.
    • Obbligo di registrare ogni azione compiuta dall’agente per una revisione successiva.
    • Penali per errori di interpretazione che causino perdite finanziarie.

Gli attacchi offensivi basati su agenti IA

Parallelamente ai rischi interni, esiste una minaccia esterna: i cybercriminali stanno anch’essi sfruttando agenti IA per condurre attacchi. Una ricerca pubblicata da The Information ha rivelato che il gruppo CyberCartel ha impiegato diversi agenti IA per automatizzare operazioni contro più di 400 obiettivi finanziari latinoamericani.

La ricostruzione dell’infrastruttura, condotta da Straiker, ha individuato modelli di Claude che coordinavano compiti e agenti basati su Grok impegnati nella raccolta di informazioni. In questo caso non c’è alcun consenso da parte dei clienti: si tratta di una operazione offensiva organizzata da criminali informatici.

Il futuro degli agenti IA nella finanza

Il settore bancario riconosce che i clienti continueranno a utilizzare questi strumenti, perciò il dibattito non è più se eliminarli, ma come gestirli in modo sicuro. Molte banche stanno già offrendo o stanno sviluppando accessi di sola lettura, una soluzione che consente di consultare informazioni senza concedere la capacità di agire sui fondi.

La questione centrale rimane: quanto potere delegare agli agenti IA e come verificare che rispettino le istruzioni del cliente. Più potere viene affidato a questi sistemi, più diventa cruciale capire le loro capacità, monitorare le loro azioni e definire chiaramente chi risponde in caso di risultati indesiderati.

Conclusioni

Gli agenti di intelligenza artificiale stanno trasformando il modo in cui i clienti interagiscono con le proprie finanze, ma la loro autonomia porta con sé sfide di sicurezza, responsabilità e governance. Le banche statunitensi stanno già adottando blocchi, piani di risposta e nuove clausole contrattuali per mitigare i rischi. Allo stesso tempo, i criminali informatici sfruttano la stessa tecnologia per attacchi su larga scala. Il futuro dipenderà dalla capacità del settore di bilanciare innovazione e protezione, garantendo che le decisioni finanziarie rimangano sotto il controllo umano o, almeno, sotto un controllo verificabile e responsabile.