Meta e Google condannate, ma il dilemma resta: chi paga per i danni dei social?

Meta e Google condannate, ma il dilemma resta: chi paga per i danni dei social?

La Corte di Los Angeles ha condannato Meta e Google per algoritmi “difettosi” che inducono dipendenza nei minori. La sentenza solleva interrogativi giuridici profondi: è lecito punire retroattivamente chi non poteva prevedere l’impatto sociale delle proprie tecnologie al momento della loro creazione?

Una sentenza storica

La condanna di Meta e Google per i danni causati dai loro algoritmi ai minori riapre il dibattito sulle responsabilità dei social network. Fino a che punto un’azienda tecnologica può essere ritenuta colpevole per effetti sociali che al momento della progettazione erano impossibili da prevedere?

La sentenza di Los Angeles, emessa lo scorso 25 marzo nel caso K.G.M. v. Meta and Google, ha segnato un cambio di rotta. Per la prima volta, una giuria ha ritenuto responsabili per il design stesso dei loro algoritmi. Gli algoritmi sarebbero stati definiti “difettosi” e indotti a creare una dipendenza patologica nei minorenni.

I dettagli tecnologici della sentenza

Sempre più spesso, le funzioni come l’infinite scroll, le notifiche push ossessive e gli algoritmi di raccomandazione non sono visti più come strumenti neutri, ma come componenti di un prodotto “difettoso alla nascita”. La tesi dell’accusa, accolta da un gran giurì, è che questi strumenti siano progettati per massimizzare il tempo di permanenza, a scapito della salute mentale.

• Funzionalità ingegnerizzate per massimizzare l’engagement.
• Progettazione volta a spingere verso nuovi contenuti senza interruzi.
• Architetture ottimizzate per generare consumo continuo, anche tra i minorenni.

Predire il futuro: una mission impossibile

Il punto critico, evidenziato da molti studiosi, riguarda la capacità di prevedere a distanza di anni i possibili effetti di una tecnologia al momento del suo lancio. È davvero legittimo pretendere che un imprenditore tecnologico possa essere anche un profeta sociologico? C’è un limite ontologico alla capacità di predire l’impatto sociale di una tecnologia fin prima che essa entri a far parte della vita quotidiana.

Se l’idea di una “dipendenza da smartphone” era allora scientificamente inesplorata, come può un giudice oggi sanzionare una società per aver messo a punto un prodotto che non avrebbe potuto conoscere quelle conseguenze?

Impatto temporale e contesto storico

Riflettendo sui tempi, Facebook è stato lanciato nel 2004, YouTube nel 2005 e Instagram nel 2010. Al momento del loro avvio, la comunità scientifica non aveva nemmeno iniziato a mappare le correlazioni neurobiologiche legate all’uso massiccio di questi servizi. Ancora oggi non sappiamo bene come classificare YouTube: un social network, un sistema di hosting video o una piattaforma ibrida?

Un confronto con il diritto europeo

Il diritto europeo presenta un quadro più equilibrato. La Direttiva 2008/983/CE stabilisce il principio del "rischio di sviluppo". Il produttore non è responsabile se lo stato delle conoscenze scientifiche e tecniche al momento del lancio non permetteva di individuare il difetto.

La recente Direttiva 2024/2853 entra in vigore a dicembre 2024 e ritiene non responsabile il produttore se al momento non era tecnicamente possibile conoscere la potenziale pericolosità del prodotto. In base a questo principio, le aziende non devono essere tenute a prevedere ciò che la scienza stessa non era in grado di diagnosticare in quel momento.

Problems tecnologici e giuridici

Se un giudice oggi pretende di modificare algoritmi complessi che operano come “black box” in tempo reale su infrastrutture distribuite in tutto il mondo, si presenta subito un problema: come realizzare un design alternativo che mantenga l’efficacia del prodotto?

Gli algoritmi di raccomandazione, per esempio, dipendono da miliardi di parametri in tempo reale e da modelli basati su dati non facilmente interpetrabili. Eliminare un comportamento potrebbe non bastare; bisogna riprogettare l’intero nucleo tecnologico, con il rischio di compromettere la stabilità e l’usabilità.

Il problema architettonico: casi diversi

Meta (Facebook e Instagram) ha un design diverso rispetto a YouTube. I primi sono fondati sul concetto di graf sociali e interazioni bidirezionali, mentre YouTube si appoggia alla distribuzione di contenuti video e alla ricerca semantica basata su preferenze individuali.

Equiparare i due modelli di business e applicare gli stessi standard giuridici a strutture molto differenti rischia di produrre regolamenti inapplicabili e costosi per le aziende.

Come si monitora la compliance? Una sfida complessa

Pensare di misurare un comportamento patologico in base a metriche oggettive, come il tempo passato su un’app, è già problematico. Non esistono oggi strumenti di verifica standardizzati in grado di individuare un “design difettoso” con un criterio tecnico univoco.

Non esiste una definizione universale di tempo di permanenza “eccessivo” ed è difficile distinguere un’attitudine genuina dalla dipendenza. Questa incertezza genera molteplici interpretazioni, lasciando ai giudici un margine di valutazione molto ampio.

Rischi per l’innovazione futura

Una condanna come quella di Meta e Google potrebbe scoraggiare l’imprenditorialità nel tech-sector. Qualsiasi effetto non previsto potrebbe essere interpretato come negativo e quindi oggetto di risarcimento o penalizzazione. In un contesto così rigido, chi vorrebbe lanciare una tecnologia completamente innovativa?

Non è forse più equo introdurre oggi, dopo anni di osservazione, strumenti pro-utile come meccanismi di trasparenza, di limitazione del tempo, e di controllo? Non si dovrebbe punire il successo, ma intervenire quando gli effetti negativi diventano evidenti.

I nuovi paradigmi del design responsabile

La responsabilità deve sorgere non dal momento del lancio, ma da quando i danni diventano visibili. Si sta affermando sempre più il concetto di “safety by design” e “safety by default”, dove i sistemi sono strutturati in modo da garantire sicurezza e trasparenza da subito.

Il compito non è tanto punire chi ha trasformato la comunicazione umana, quanto costringere chi oggi progetta nuove tecnologie a incorporare fin dall’inizio strumenti per prevenire e mitigare danni potenziali.

Conclusione

La sentenza di Los Angeles rappresenta un passo importante nella ridefinizione del rapporto tra innovazione tecnologica e responsabilità sociale. Essa evidenzia, però, anche una complessità giuridica che richiede un attento riesame.