Il funzionamento di Muse e la scoperta di Claroc

Muse è l’assistente AI di Meta, progettato per offrire conversazioni testuali e risposte basate su intelligenza artificiale. Come molte altre piattaforme, Muse include una funzione di condivisione: l’utente può selezionare una parte della conversazione e generare un link pubblico, accessibile a chiunque lo possieda. A prima vista, la caratteristica sembra innocua e in linea con le pratiche comuni di condivisione dei contenuti digitali.

Il problema è sorto nel modo in cui quel link veniva costruito. Secondo i ricercatori di Claroc, l’indirizzo URL nasceva dal titolo della condivisione – una breve frase che descriveva la conversazione – seguito da un identificativo casuale. L’ID casuale doveva fungere da “lucchetto” di sicurezza, ma il titolo rimaneva visibile accanto, fornendo indizi sul contenuto della chat.

Come è stata individuata la vulnerabilità

Claroc ha analizzato i record DNS pubblici, che funzionano come un elenco telefonico del web, indicando dove risiede ogni indirizzo. Nei record è compariva il nome host di ogni pagina condivisa, contenente sia il titolo della conversazione sia l’ID casuale. Copiando semplicemente il nome host, era possibile ricostruire l’intero URL e accedere alla pagina senza alcun attacco informatico.

Il risultato dell’indagine è stato sorprendente: sono stati identificati più di 6.800 link a Muse. I ricercatori ne hanno aperti centinaia, ma spesso non era necessario aprirli: il nome host già anticipava il contenuto della conversazione.

Esempi di dati sensibili esposti

Tra i link analizzati, Claroc ha citato casi tipici di informazioni riservate, tra cui:

    • La revisione dei ricavi di un’azienda di marketing.
    • Una richiesta di prestito da parte del titolare di una piccola impresa.
    • Il calendario annuale completo del personale di un’azienda.

Questi dati, di norma custoditi con grande cura, sono finiti in modo involontario in una “vetrina” accessibile a chiunque conoscesse l’URL. Una domanda di finanziamento o un piano di ferie aziendali non dovrebbero mai essere esposti pubblicamente.

La risposta di Meta

La portavoce di Muse, Tracy Clayton, ha confermato che Meta ha deciso di mettere in pausa la funzione di condivisione dei link mentre esamina il report di Claroc e valuta possibili modifiche. L’azienda ha sottolineato che gli utenti possono ancora condividere artefatti specifici di Muse, ma il meccanismo di scoperta dei link deve essere rivisto.

Meta non ha definito i link “pubblici per errore”, ma ha riconosciuto la necessità di rivedere il modo in cui questi URL possono essere “scoperti”. La distinzione è sottile ma importante: la responsabilità ricade sul design del servizio, non su un semplice bug.

Un problema ricorrente nel mondo delle AI

Il caso di Muse non è isolato. In passato, anche le conversazioni con ChatGPT di OpenAI, Claude di Anthropic e Grok di xAI sono state indicizzate involontariamente da motori di ricerca come Google. In tutti questi casi, un pulsante “condividi” pensato per inviare una chat a un amico si è trasformato, a causa di difetti di progettazione, in una pubblicazione su larga scala.

Man mano che gli utenti trattano le AI come spazi personali, diventa cruciale che le aziende non confondano la facilità di condivisione con il diritto di esporre, anche indirettamente, informazioni ritenute riservate.

Prospettive future

Meta dovrà introdurre misure più robuste per garantire che i link condivisi non rivelino il contenuto della conversazione. Possibili soluzioni includono:

    • Rimozione del titolo dalla struttura dell’URL.
    • Utilizzo di token di accesso a scadenza limitata.
    • Implementazione di controlli di autorizzazione più severi prima della generazione del link.

Nel frattempo, gli esperti di sicurezza consigliano agli utenti di trattare le chat con AI come potenzialmente pubbliche, evitando di condividere informazioni sensibili tramite funzioni di condivisione non ancora verificate.

Conclusioni

La sospensione dei link condivisi di Muse da parte di Meta è una risposta necessaria a una vulnerabilità che ha dimostrato come dati riservati possano finire in mani sbagliate con pochi click. L’incidente sottolinea l’importanza di una progettazione attenta dei meccanismi di condivisione e la necessità di una vigilanza continua da parte delle aziende che offrono servizi di intelligenza artificiale.