La maggior parte degli utenti crede che eliminare una conversazione con ChatGPT o altri assistenti IA significhi cancellarla definitivamente. In realtà, aziende come OpenAI o Anthropic conservano i messaggi sui propri server per motivi legali, ma li eliminano dopo un certo periodo. Questo ha dato l’impressione di avere un controllo totale sui propri dati, finché un gruppo di scienziati non ha dimostrato il contrario: è possibile recuperare i contenuti cancellati direttamente dalla memoria del cellulare.
ORISA: il nuovo strumento forense
Gli studiosi del Georgia Tech hanno sviluppato ORISA, un sistema forense progettato per estrarre conversazioni eliminate da assistenti IA che operano localmente su dispositivi Android. Come spiegato in un post sul loro blog, il progetto vuole dimostrare che, anche quando l’utente elimina una chat tramite l’interfaccia dell’app, frammenti di informazioni restano memorizzati nella memoria di lavoro del dispositivo.
ORISA sfrutta questi residui per localizzare dati di conversazioni cancellate e ricostruire intere sessioni che l’utente credeva ormai perdute. Il risultato è una dimostrazione pratica di quanto la memoria volatile dei telefoni possa conservare tracce di attività passate, anche dopo la cancellazione apparente.
Come funziona il recupero
Il metodo è stato testato con ChatterUI, un’app gratuita che funge da interfaccia di chat per modelli di linguaggio grande (LLM) eseguiti localmente. I ricercatori hanno creato un assistente fittizio chiamato “Project Note Keeper” e gli hanno fornito 100 dati relativi a un ipotetico progetto. Dopo aver cancellato la conversazione, ORISA è riuscito a recuperare 26 elementi, superando i 14 token consentiti dalla finestra di contesto del modello.
Questa capacità di ricostruire più informazioni di quante il modello stesso possa gestire contemporaneamente evidenzia la potenza della tecnica di scansione della memoria.
Risultati dell’esperimento
L’esperimento ha coinvolto 10 applicazioni Android e tre diversi modelli IA. In un totale di 60 configurazioni testate, ORISA è riuscito a restaurare dati di conversazioni cancellate in tutti i casi, dimostrando che i frammenti di memoria conservati da un’IA locale possono contenere informazioni rilevanti anche dopo che il modello non li utilizza più attivamente.
Secondo i ricercatori, questi risultati aprono la porta a potenziali usi forensi: esperti potrebbero ricostruire le informazioni condivise da un utente con il proprio assistente IA, anche se quest’ultimo è stato cancellato. Tuttavia, ciò solleva importanti preoccupazioni sulla privacy, poiché dati sensibili potrebbero essere recuperati da chiunque abbia accesso a ORISA.
Implicazioni per la privacy
Una delle principali attrattive dei modelli IA locali è la promessa di non dover caricare dati su server esterni: né OpenAI né Anthropic possono accedere alle conversazioni, poiché i dati rimangono sul dispositivo. Il rovescio della medaglia è che, se qualcuno riesce a sfruttare ORISA, può recuperare parte di quei chat finché la memoria non viene sovrascritta o degradata.
Al momento, ORISA non è disponibile per il pubblico generale. È destinato esclusivamente a ricercatori e richiede l’accesso a copie della memoria e dello storage del telefono. Gli autori sottolineano che lo scopo non è spiare gli utenti, ma fornire uno strumento per casi in cui, ad esempio, un criminale abbia utilizzato un’assistente IA locale per occultare le proprie intenzioni.
Prospettive future
Il lavoro di ORISA evidenzia la necessità di sviluppare migliori pratiche di gestione della memoria sui dispositivi mobili. Potrebbero emergere soluzioni che cancellano in modo sicuro i frammenti residui o che criptano i dati temporanei per renderli inaccessibili anche a strumenti forensi avanzati.
Nel frattempo, gli utenti dovrebbero essere consapevoli che la semplice rimozione di una chat non garantisce l’eliminazione completa delle informazioni. L’adozione di misure aggiuntive, come il ripristino completo del dispositivo o l’uso di app che garantiscano una pulizia approfondita della memoria, può ridurre i rischi.
In sintesi, ORISA dimostra che la privacy digitale è più complessa di quanto si pensi: anche le conversazioni “cancellate” possono persistere nella memoria dei nostri telefoni, pronti a essere estratti da chi possiede gli strumenti giusti.