Apple M5 contro M4: i nuovi test interni mostrano il salto nelle prestazioni AI locali

Apple ha pubblicato un nuovo approfondimento sul blog di Machine Learning Research per mostrare, con dati e confronti diretti, quanto il suo nuovo chip M5 abbia migliorato l’esecuzione locale dei modelli linguistici rispetto alla precedente generazione M4. Il riferimento è MLX, il framework open source che permette di far girare modelli di machine learning in modo nativo sui Mac con Apple Silicon, ed è proprio attraverso questa piattaforma che a Cupertino hanno misurato tempi di risposta, velocità di generazione e comportamento con diversi tipi di architetture. Il risultato offre uno spaccato chiaro dei progressi ottenuti, soprattutto grazie alla maggiore banda di memoria e ai nuovi GPU Neural Accelerators integrati nell’ultima generazione.

Apple ha ricordato che MLX è un framework open source pensato per sfruttare al massimo l’architettura a memoria unificata di Apple Silicon, permettendo alle operazioni di spostarsi tra CPU e GPU senza dover ricollocare i dati ogni volta. L’interfaccia è vicina a NumPy, la libreria più diffusa al mondo per il calcolo numerico in Python, e include moduli per il training, l’inferenza, la generazione di testo e immagini e l’ottimizzazione dei modelli. All’interno di MLX, il componente utilizzato per questa analisi è MLX LM, dedicato alla generazione e alla messa a punto dei modelli linguistici.

Con MLX LM è possibile scaricare la maggior parte dei modelli disponibili sulla piattaforma Hugging Face ed eseguirli localmente, con il supporto anche alla quantizzazione, utile per ridurre la memoria necessaria e velocizzare l’inferenza. È in questo contesto che Apple ha confrontato direttamente i chip M4 e M5 su un MacBook Pro, prendendo in esame modelli diversi per dimensioni e architettura, dalle versioni BF16 (bfloat16) ai modelli quantizzati a 4 bit, fino alle configurazioni Mixture of Experts.

CLICCA QUI PER CONTINUARE A LEGGERE