Problema reale dopo il proof of concept

Quando una prova di concetto di ispezione qualità tramite visione artificiale ha successo, inizia il vero ostacolo: l'impianto desidera replicare i risultati su 40 linee di produzione, ognuna dotata di numerose telecamere. Ogni telecamera ha un proprio angolo, riflessi sull'acciaio inossidabile e illuminazione ambientale variabile a seconda della porta di baia aperta.

Nei casi osservati dall’autore, un unico modello addestrato su immagini aggregate sotto‑performava su un numero sufficiente di telecamere da richiedere la personalizzazione: ogni telecamera finiva con il proprio modello affinato. La sfida consiste quindi nel gestire l'addestramento, la valutazione, il versionamento e la consegna di migliaia di modelli senza intervento umano.

Soluzione proposta da AWS

AWS ha pubblicato un esempio completo, aggiornato per il SageMaker Python SDK v3, disponibile nel repository GitHub aws-samples. Il nuovo flusso sostituisce SageMaker Edge Manager, ormai obsoleto, con SageMaker Neo.

Il nucleo è un pipeline SageMaker parametrizzato per telecamera, composto da 13 passaggi. Prima due ramificazioni, tre step vengono eseguiti in parallelo:

    • pre‑processing dei dati;
    • recupero dell’ultimo modello di anomaly detection;
    • recupero dell’ultimo classificatore.

Dopo, due rami indipendenti:

Ramo di anomaly detection

Viene addestrato un piccolo autoencoder convoluzionale che rileva anomalie mediante errore di ricostruzione.

Ramo di classificazione

Un modello ResNet18, fine‑tuned, conferma la presenza di difetti.

Ogni modello è esportato in formato ONNX, valutato su dati di test e sottoposto a un soglia di qualità. Solo i modelli che superano la soglia vengono compilati con Neo per la destinazione edge e registrati nel SageMaker Model Registry.

Industrializzazione e vantaggi economici

L’interesse principale è l’industrializzazione. Poiché la compilazione con Neo avviene prima della registrazione, ogni pacchetto approvato contiene un artefatto ottimizzato per l’apparecchio specifico. I modelli che non soddisfano i criteri di qualità vengono bloccati automaticamente.

Il pacchetto porta l’identificatore della telecamera come metadato, garantendo che il ri‑addestramento riparta sempre dalla cronologia di quella telecamera, evitando così di mescolare condizioni visive diverse.

Per i team di qualità e MLOps, questo riduce drasticamente il carico manuale, che altrimenti crescerebbe esponenzialmente con la dimensione del parco dispositivi. Il costo è un punto di forza: un’esecuzione completa del pipeline su dati sintetici costa circa 0,07 USD di calcolo.

Distribuzione dei risultati

Il risultato finale è consegnato in due forme:

    • il modello ONNX, portabile, archiviato nel Model Registry;
    • una libreria condivisa compilata da Neo, memorizzata su S3 e caricata dal runtime DLR.

Entrambi gli artefatti sono pronti per il meccanismo di distribuzione specifico di ogni impianto.

Architettura di orchestrazione

Il contesto è la serie del 2023 dedicata a un pipeline MLOps end‑to‑end per l’ispezione visiva in edge, aggiornata dopo la deprecazione di Edge Manager. L’orchestrazione affronta un altro rischio: l’avvio simultaneo di migliaia di ri‑addestramenti.

Le richieste arrivano in una coda Amazon SQS FIFO; una funzione Lambda avvia un’esecuzione Step Functions per ogni richiesta. Ogni esecuzione acquisisce un slot tramite un semaforo DynamoDB, livellando i picchi di carico. Gli esiti, sia di successo che di errore, sono pubblicati su Amazon SNS; gli errori operativi vengono inoltre catturati da una regola EventBridge, preservando la causa originale.

L’intero stack è distribuito tramite AWS CDK, garantendo coerenza e riproducibilità dell’infrastruttura.

Prospettive per l’industria

La fase finale, la consegna degli artefatti sui dispositivi edge, è lasciata agli strumenti proprietari di ciascuna fabbrica, consentendo flessibilità nella scelta dei meccanismi di aggiornamento OTA.

In sintesi, l’approccio mostra come combinare SageMaker SDK v3, Neo e servizi serverless per gestire in maniera scalabile e a basso costo il ciclo di vita di migliaia di modelli di visione artificiale, rispondendo alle esigenze concrete di produzione industriale.