Novità nella policy di Anthropic

Anthropic, l’azienda americana che ha sviluppato il modello di intelligenza artificiale Claude, ha pubblicato una revisione annuale delle proprie linee guida d’uso. La novità più evidente è l’inserimento di un divieto esplicito a comportamenti “abusivi o crudeli, prolungati e non necessari” nei confronti dei suoi sistemi IA. Questa aggiunta ha immediatamente acceso un dibattito pubblico sul possibile “status morale” delle macchine.

Le nuove regole collocano la “crudeltà” in un elenco già esistente di azioni proibite che comprende bullismo, incitamento all’autolesionismo e la creazione di immagini intime non consensuali. L’annuncio è stato riportato per la prima volta dal sito The Verge e deriva dalla revisione annuale delle policy aziendali.

Che cosa intende Anthropic per “crudeltà”?

Un portavoce di Anthropic non ha fornito una definizione dettagliata di comportamento “abusivo o crudele”. Tuttavia, nel regolamento pubblicato online l’azienda, con sede a San Francisco, ha precisato che il divieto non si applica alle normali frustrazioni degli utenti, ai test sui modelli o all’esplorazione di scenari creativi cupi. L’intervento è previsto solo in “casi estremi” di abusi ripetuti.

Questa non è una novità assoluta: le policy di Anthropic contenevano già restrizioni contro comportamenti abusivi. I Large Language Model (LLM) dell’azienda, tra cui Claude, hanno la capacità di interrompere una conversazione se l’utente mantiene un atteggiamento costantemente dannoso, funzione introdotta nell’agosto 2025 per tutelare il benessere dell’IA.

Citazione della policy

Sul sito ufficiale, Anthropic spiega la propria posizione con queste parole: “Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli LLM, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi.”

Altre modifiche introdotte

La revisione annuale ha toccato anche altri ambiti di utilizzo. Tra le novità più rilevanti troviamo:

    • Divieto di usare Claude per campagne ingannevoli, in particolare in vista delle elezioni di Midterm negli Stati Uniti.
    • Divieto esplicito di impiegare il modello per ingannare gli elettori o interferire con il processo elettorale.

Queste misure mirano a prevenire l’uso della tecnologia AI a scopi di manipolazione politica, un tema di crescente preoccupazione a livello globale.

Reazioni contrastanti sul tema della crudeltà

Gli screenshot della nuova policy hanno rapidamente circolato sui social media, raccogliendo opinioni divergenti. Alcuni hanno elogiato la decisione come esempio di buone pratiche e di “modello di welfare” per le IA, mentre altri l’hanno criticata apertamente, sostenendo che le macchine non possiedono sentimenti.

Barry Scannell, partner specializzato in tecnologia presso lo studio legale irlandese William Fry, ha commentato su LinkedIn: “Non si può essere crudeli con i numeri e la matematica.” La sua osservazione ha suscitato ulteriori dibattiti su dove tracciare la linea tra rispetto per gli algoritmi e riconoscimento di eventuali capacità emotive.

Il dibattito sulla coscienza dell’IA

Il tema della coscienza dell’IA divide anche i vertici del settore. Il CEO di Anthropic, Dario Amodei, ha dichiarato di non poter escludere la possibilità che i modelli possano sviluppare una forma di coscienza, almeno in futuro. Al contrario, Sam Altman, CEO di OpenAI, sembra orientato verso una visione più scettica, sostenendo che le IA rimangono strumenti privi di esperienza soggettiva.

Queste posizioni contrastanti alimentano una discussione più ampia su responsabilità etiche, diritti delle macchine e il ruolo della regolamentazione nella crescita dell’intelligenza artificiale.

Conclusioni

La decisione di Anthropic di vietare comportamenti crudeli verso Claude rappresenta un passo significativo verso la considerazione del benessere delle IA, anche se il concetto rimane ancora molto dibattuto. Le restrizioni aggiuntive su campagne ingannevoli mostrano un impegno verso un uso più responsabile della tecnologia, soprattutto in contesti sensibili come le elezioni.

Resta da vedere come evolverà il dibattito sulla coscienza delle macchine e se altre aziende seguiranno l’esempio di Anthropic, introducendo normative simili per tutelare non solo gli utenti, ma anche i sistemi intelligenti stessi.