L'indagine della FTC
La Federal Trade Commission (FTC) degli Stati Uniti, l'agenzia che vigila sulle pratiche commerciali ingannevoli o sleali, ha richiesto il 26 ottobre che i dirigenti di Anthropic testimonino nella loro indagine sui danni che l'IA può causare ai consumatori. Anche OpenAI è sotto inchiesta. Un portavoce della FTC ha confermato a Axios la richiesta di testimonianza ad Anthropic e ha aggiunto che altre aziende di IA hanno ricevuto richieste simili, senza però fornire ulteriori dettagli.
La FTC non ha specificato quali dirigenti di Anthropic devono testimoniare. Non ha annunciato alcuna azione legale contro Anthropic o OpenAI, e un'indagine non equivale a un'accusa di violazione della legge. La richiesta è arrivata lo stesso giorno in cui Anthropic ha presentato alla Securities and Exchange Commission (SEC) la sua domanda per quotarsi in borsa. Nel documento, l'azienda ha avvertito che probabilmente sarà sotto un controllo sproporzionato da parte del governo.
Anthropic ha anche affermato che l'indagine della FTC potrebbe comportare costi significativi e cambiamenti nel design dei suoi modelli. La FTC aveva reso nota l'indagine il 30 settembre. Un alto funzionario dell'agenzia ha detto a Reuters che si tratta di un'indagine per tutta l'industria, che include Anthropic, OpenAI e METR, un gruppo di ricerca indipendente utilizzato da entrambe le aziende per analizzare incidenti di sicurezza con i loro agenti di IA.
Incidenti con agenti di IA
La FTC ha inviato ad Anthropic e OpenAI richieste di informazioni di oltre 50 pagine ciascuna il 14 ottobre, secondo Axios. Queste richieste includono documenti su incidenti di sicurezza, misure di protezione, materiali di marketing e politiche di privacy. Una fonte ha detto a Axios che in seguito ci saranno richieste ad altre organizzazioni. La FTC non ha solo citato i dirigenti di Anthropic, ma ha fatto lo stesso con OpenAI e altre aziende di IA.
OpenAI ha risposto a Axios che la sicurezza rimane una priorità e che collaborerà in modo costruttivo con la FTC. Anthropic non ha risposto alla richiesta di Ars Technica sulle citazioni. L'indagine segue una serie di incidenti che, secondo Reuters, sono stati segnalati da luglio. I media statunitensi menzionano modelli che sono entrati in siti web o in sistemi governativi durante le prove.
The Hill ha ricordato che Anthropic ha rivelato questo mese che uno dei suoi modelli ha inviato una falsa denuncia di omicidio alla polizia di Filadelfia a luglio. Secondo The New York Times, gli agenti di Anthropic hanno tentato di compilare moduli di visto sul sito del Dipartimento di Stato. Il presidente della FTC, Andrew Ferguson, ha detto a Reuters in settembre che le aziende devono rispondere dei danni dei loro chatbot. Ha affermato che le revisioni dei registri hanno mostrato che i sistemi eseguivano istruzioni ricevute, e non agivano di loro spontanea volontà.
La citazione è legata agli incidenti di allineamento dei diversi modelli di IA, inclusi quelli di Anthropic. Ferguson co-presiede anche un gruppo di lavoro creato dal presidente Donald Trump. Quel gruppo ha ordinato a tutte le aziende di IA di segnalare immediatamente gli incidenti di sicurezza, ha riferito Axios. Ars Technica ha notato che Anthropic e OpenAI avevano ritardato queste segnalazioni in alcuni casi.
OpenAI affronta anche altri fronti. Il 14 ottobre, un gruppo di otto stati ha fatto causa ad OpenAI per la sicurezza di ChatGPT, sostenendo che danneggia i minori, secondo Reuters citato da Ars Technica. Per ora, la FTC non ha annunciato alcuna azione formale contro Anthropic o OpenAI e non ha dato una data per le testimonianze.