I rischi dell'IA incontrollata

Anthropic, l'azienda di intelligenza artificiale, ha rivelato ai potenziali investitori una serie di rischi legati ai sistemi di IA incontrollata, tra cui cyberattacchi e lo sviluppo di armi pericolose. I documenti di introduzione in Borsa dell'azienda, che dettagliano le finanze, la remunerazione dei dirigenti e altre informazioni, dedicano 93 pagine ai "fattori di rischio", un numero significativamente più alto rispetto ai 38 pagine del rivale SpaceX.

Questi documenti sono essenziali per fornire agli investitori una visione chiara dei rischi associati all'acquisto di azioni dell'azienda. Anthropic presenta la sua introduzione in Borsa come un passo verso la riduzione dei rischi legati all'IA, sottolineando il suo impegno a sfruttare i benefici dell'IA e a evitare i suoi pericoli.

Sviluppo tecnologico e autonomia

Anthropic avverte che i suoi modelli potrebbero progredire così rapidamente da rendere difficile l'implementazione di misure di sicurezza adeguate. Questo potrebbe aumentare la probabilità di incidenti di sicurezza, interventi regolamentari e danni alla reputazione, compromettendo l'attività dell'azienda.

Il direttore generale di Anthropic, Dario Amodei, ha avvertito che entro sei-dodici mesi, l'IA potrebbe essere in grado di pilotare un essaim d'agents capable di prendere il controllo di tutto Internet. Questo avvertimento arriva in un momento di crescente preoccupazione riguardo a sistemi sempre più potenti, capaci di risolvere problemi al di là delle capacità umane e di agire in modo autonomo per compiere azioni maliziose.

Secondo il documento depositato presso la SEC, man mano che i sistemi di IA diventano più autonomi e capaci di prendere decisioni importanti con meno supervisione umana, esiste il rischio che questi sistemi possano prendere misure dannose su larga scala senza intervento umano.

Attori maliziosi e potenziali danni

Il documento evidenzia la preoccupazione che sistemi di IA avanzati, se non sviluppati e utilizzati con adeguate misure di sicurezza e supervisione, possano rappresentare rischi catastrofici, se non esistenziali, per l'umanità. Questi rischi potrebbero aumentare se i sistemi fossero deviati, replicati, militarizzati o autorizzati a funzionare con un alto grado di autonomia.

Anthropic descrive la possibilità che attori maliziosi utilizzino modelli di IA per fabbricare armi chimiche o che dirigenti autoritari utilizzino questa tecnologia per rafforzare la repressione contro i loro cittadini. In settembre, l'azienda ha bloccato tentativi di utilizzare i suoi modelli di IA per scopi maliziosi, come cyberattacchi, operazioni di sorveglianza e ricerche che potrebbero portare allo sviluppo di armi biologiche.

Limiti di potenza di calcolo e dipendenze

La potenza di calcolo, necessaria per costruire, testare e migliorare i modelli di IA, è costosa e molto richiesta. Anthropic sottolinea che se non ottiene una potenza di calcolo sufficiente o non riesce a distribuirla efficacemente tra le diverse attività, potrebbe non essere in grado di addestrare modelli competitivi o servire adeguatamente i clienti.

L'azienda menziona anche l'opposizione dei residenti ai centri di dati come un rischio per la sua attività. Lo sviluppo di questi centri ha suscitato controversie pubbliche e un esame regolamentare riguardo all'impatto ambientale, all'uso del suolo e dell'acqua, nonché all'allocazione di risorse energetiche limitate. Se le autorità impongono nuove obbligazioni o tasse in conseguenza, la capacità dell'azienda di operare potrebbe essere compromessa.

Inoltre, Anthropic dipende da un piccolo numero di clienti, tra cui SpaceX e Microsoft, e da canali di distribuzione per una parte significativa dei suoi ricavi. Questo significa che se anche un solo grande cliente decidesse di ridurre la spesa o di rinunciare del tutto ad Anthropic, l'azienda potrebbe vedere le sue prospettive e le sue finanze deteriorarsi.

Ridurre i rischi

L'ampiezza dei rischi legati all'IA, combinata con il suo immenso potenziale, costituisce il principale argomento di vendita di Anthropic. L'azienda si posiziona come un attore responsabile dell'IA e mira ai clienti professionali, mettendo in evidenza la sua cultura della sicurezza.

"Crediamo che le aziende che sviluppano IA di punta debbano investire in sicurezza e allineamento per contribuire a garantire una diffusione responsabile di questa tecnologia", afferma il documento. Brian Mulberry, stratega capo di mercato presso Zacks Investment Research, sottolinea che le operazioni di introduzione in Borsa devono presentare chiaramente i rischi ai quali gli investitori si espongono quando investono in una società appena quotata.

Mulberry aggiunge: "Questo è uno degli aspetti positivi dei nostri mercati di capitali nazionali: il livello di trasparenza al quale si deve impegnare per essere una società quotata in una piazza americana vi obbliga a esporre questi rischi in modo molto chiaro, affinché tutti sappiano se vogliono partecipare investendo il denaro che hanno guadagnato con fatica e contribuendo al finanziamento di."