Introduzione

Quando un laboratorio pubblica in open source il suo modello più grande, l'istinto è di supporre che la versione scaricabile sia la migliore. Tuttavia, nel caso di Muse Spark Open rispetto a Muse Spark 1.2, questa supposizione è errata. Su Artificial Analysis, il modello API proprietario ottiene un indice di intelligenza di 40, mentre il modello open source con 816 miliardi di parametri ottiene 39. La differenza è minima, ma il modello open non è necessariamente il più forte. Si tratta di un compromesso diverso, e questo è il cuore della comparazione.

Differenze chiave

Muse Spark 1.2 offre un punto di termine rapido e conveniente, con un costo basato sui token. Muse Spark Open, invece, permette di possedere, affinare, auditare e eseguire i pesi senza rete, ma richiede l'acquisto di hardware specifico. Questi sono prodotti diversi che condividono solo il nome.

Confronto dettagliato

Ecco un confronto dettagliato tra i due modelli:

    • Intelligenza: Muse Spark 1.2 ha un indice di intelligenza di 40, Muse Spark Open di 39. La differenza è minima.
    • Velocità: Muse Spark 1.2 è il più veloce, con 361,4 token al secondo. La velocità di Muse Spark Open non è stata misurata.
    • Prezzo: Muse Spark 1.2 costa 1,25 $ per milione di token in ingresso e 4,25 $ per milione di token in uscita. Muse Spark Open non ha un prezzo per token; il costo è legato all'acquisto di hardware.
    • Pesi: Muse Spark Open è disponibile in formato open source, mentre i pesi di Muse Spark 1.2 non sono distribuiti.
    • Esecuzione locale: Muse Spark Open può essere eseguito localmente su hardware specifico, mentre Muse Spark 1.2 può essere eseguito solo da un fornitore.
    • Affinamento: Muse Spark Open può essere affinato, mentre Muse Spark 1.2 no.
    • Modalità: Muse Spark 1.2 supporta testo, immagini, voce e video. Muse Spark Open supporta testo e immagini, secondo le misurazioni indipendenti.
    • Ragionamento: Entrambi i modelli hanno la stessa configurazione per il ragionamento.
    • Contesto: Entrambi i modelli hanno un contesto di 1.048.576 token, ma Muse Spark Open richiede più memoria.
    • Licenza: Muse Spark Open è sotto la Muse Model License, mentre Muse Spark 1.2 è sotto le condizioni API ordinarie.

Velocità e utilizzo

La velocità di Muse Spark 1.2 è di 361,4 token al secondo, il che lo rende ideale per loop di agenti dove la latenza è critica. La velocità di Muse Spark Open non è nota, ma è limitata dalla banda passante della memoria. Se la tua applicazione è interattiva, Muse Spark 1.2 è la scelta migliore. Se invece la tua applicazione è batch, Muse Spark Open potrebbe essere più conveniente.

Costo e convenienza

Muse Spark Open richiede un investimento iniziale in hardware, ma può essere più conveniente a lungo termine se si utilizzano molti token. Muse Spark 1.2 offre uno sconto dell'88% sui token in cache, il che può ridurre significativamente i costi. La scelta dipende dal volume di utilizzo e dalle esigenze specifiche dell'utente.