Fine-Tuning LLM Locale e GDPR: Guida in 12 Passi [2026]

Perché il fine-tuning in locale conta di nuovo nell’autunno 2026

Tra fine settembre e il 20 ottobre 2026 sono usciti più modelli open o ad accesso aperto che in qualsiasi altra finestra di quattro settimane dell’anno. Claude Haiku 5.5 è arrivato il 7 ottobre con un milione di token di contesto e un prezzo di 0,10 dollari per milione di token in input. GLM 5.3 Fast, pubblicato lo stesso giorno da Zhipu AI, offre lo stesso milione di token di contesto con un output massimo di 128.000 token. DeepSeek ha rilasciato V4.1 Flash 1017 il 17 ottobre, seguito due giorni dopo da MiniMax-M3.1-Flash.

Questa densità di rilasci cambia il calcolo economico del fine-tuning. Fino a poco tempo fa, personalizzare un modello richiedeva partire da basi con prestazioni nettamente inferiori ai modelli proprietari. Oggi puoi partire da pesi aperti che arrivano già vicini ai modelli commerciali su molti task verticali, e poi specializzarli con un dataset interno senza mai inviarlo a un’API terza. Per un ufficio legale, un reparto HR o una sanità territoriale, la differenza tra “i dati restano qui” e “i dati passano per un server americano” non è un dettaglio tecnico: è spesso la condizione che rende un progetto approvabile o no.

C’è anche un fattore culturale che spinge nella stessa direzione. Più di metà delle organizzazioni intervistate da McKinsey nel 2025 dichiara di usare già tecnologie di AI open source in diverse aree del proprio stack tecnologico. Allo stesso tempo, oltre metà degli intervistati cita sicurezza e conformità come una delle principali barriere all’adozione più ampia di questi strumenti, il che spiega perché tanti progetti restano bloccati nella fase di valutazione invece di arrivare in produzione: non manca la tecnologia, manca spesso un processo chiaro per gestirla in modo conforme.

Il contesto dei modelli proprietari aiuta a capire perché, nel frattempo, il fine-tuning in locale sta tornando centrale anche per chi lavorerebbe volentieri con un’API esterna. GPT-6 Astra, lanciato da OpenAI il 3 settembre 2026, costa 10 dollari per milione di token in input e 50 dollari in output, diverse volte il prezzo dei modelli di fascia media della stessa famiglia. Anthropic ha seguito un percorso simile: Claude Opus 5.5, uscito il 22 settembre a 4 e 20 dollari per milione di token, è stato affiancato sei giorni dopo da Claude Sonnet 5.5 a 2 e 10 dollari, un prezzo comunque superiore a quello di molte alternative open eseguite in locale.

Fine-tuning, RAG o prompt engineering: come scegliere

Il fine-tuning serve quando devi cambiare il comportamento del modello in modo stabile: tono, formato delle risposte, capacità di seguire uno stile aziendale specifico, oppure quando il task richiede pattern ripetitivi che un prompt da solo non riesce a imporre con coerenza. Il RAG (retrieval augmented generation) resta la scelta migliore quando il problema è recuperare informazioni aggiornate o specifiche da documenti, perché aggiungere conoscenza fattuale tramite fine-tuning tende a introdurre allucinazioni se il dataset non è ampio e curato. Il prompt engineering, infine, basta spesso per task semplici che non richiedono un comportamento persistente.

Nella pratica, molti progetti aziendali finiscono per combinare le tre tecniche: un modello fine-tuned per il tono e il formato, collegato a un sistema RAG per i fatti, con prompt di sistema che gestiscono i casi limite. Questa guida si concentra sulla parte di fine-tuning, ma tienilo presente prima di investire ore di GPU in un problema che un indice vettoriale avrebbe risolto in metà del tempo.

Prerequisiti: hardware, software e versioni

Prima di iniziare, verifica di avere a disposizione quanto segue. I numeri di versione sono quelli testati per questa guida al 20 ottobre 2026 e vanno controllati rispetto alle release più recenti al momento in cui segui i passaggi.

• Python 3.11 o 3.12, con pip aggiornato alla versione 24.x
• Una GPU NVIDIA con almeno 8 GB di VRAM per QLoRA su modelli da 7B (una RTX 3060 12GB o superiore funziona bene)
• Driver NVIDIA recenti e CUDA 12.1 o 12.4
• PyTorch 2.5 compilato per CUDA
• Le librerie Unsloth, Hugging Face Transformers 4.46, PEFT 0.13, bitsandbytes 0.44 e TRL 0.11
• Almeno 40 GB di spazio libero su disco per pesi, checkpoint e dataset
• Un dataset proprietario di almeno 500-1.000 esempi per un fine-tuning utile, idealmente 2.000-5.000 per risultati stabili
• Ollama in versione recente, se prevedi di distribuire il modello finale in locale

Se non hai una GPU locale adeguata, puoi affittare un’istanza cloud con una RTX 4090 o una A10 per poche ore. In alternativa, per team che preferiscono delegare l’infrastruttura mantenendo però il controllo sul dataset, vale la pena confrontare i servizi di fine-tuning gestito su Bedrock, Vertex AI e Azure AI Foundry, che possono arrivare a differenze di costo molto ampie a seconda del modello e del volume di token.

Prima di scegliere tra locale e cloud, vale la pena fare due conti semplici. Se prevedi un solo ciclo di fine-tuning per un progetto pilota, il cloud on-demand riduce il rischio di comprare hardware che poi resta inutilizzato. Se invece il piano è aggiornare il modello ogni mese o ogni trimestre, man mano che arrivano nuovi esempi corretti dagli operatori, una GPU locale si ripaga più in fretta e toglie dal tavolo qualsiasi discussione su dove transitano i dati durante il training. Tieni anche conto del tempo delle persone: un data engineer che deve preparare il dataset da zero richiede più ore di quante ne richieda il training stesso, quindi non sottostimare questa fase quando pianifichi le tempistiche del progetto.

I modelli open-source più recenti per il fine-tuning

Tra i modelli open-source più recenti, Claude Haiku 5.5, GLM 5.3 Fast, DeepSeek V4.1 Flash 1017 e MiniMax-M3.1-Flash offrono prestazioni competitive. Questi modelli permettono di partire da basi già vicine ai modelli commerciali su molti task verticali, rendendo il fine-tuning in locale una scelta sempre più attraente. Inoltre, Google ha inserito Gemma 4 26B-A4B nel proprio servizio Now LLM, rendendolo disponibile sia per casi d’uso large che small model.

Il fine-tuning in locale non è solo una questione di prestazioni, ma anche di conformità e sicurezza. Con l’aumento dei costi dei modelli proprietari e la necessità di mantenere i dati interni, il fine-tuning in locale diventa una scelta strategica per molte organizzazioni. Questa guida ti fornirà gli strumenti necessari per eseguire il fine-tuning in modo efficace e conforme al GDPR.