Architettura compute-in-memory per inferenza AI a 120 TOPS/watt
Mythic ha formalizzato un accordo di licenza con Silicon Storage Technology (SST), controllata di Microchip Technology, per integrare nelle proprie Analog Processing Unit (APU) di prossima generazione la proprietà intellettuale hardware neuromorfica memBrain. Il cuore della scelta è la bitcell SuperFlash embedded non-volatile memory (eNVM) di SST, che Mythic utilizzerà come substrato per implementare l'analog compute-in-memory (aCIM): un approccio architetturale che sposta l'elaborazione direttamente all'interno della memoria, eliminando il collo di bottiglia del trasferimento dati tra unità di calcolo e storage che penalizza le architetture digitali convenzionali.
Il risultato dichiarato è un'efficienza di inferenza pari a 120 TOPS per watt, con un vantaggio energetico che Mythic stima fino a cento volte superiore rispetto alle GPU digitali convenzionali. Numeri che, se confermati, cambiano in modo sostanziale il ragionamento progettuale per chiunque debba posizionare un acceleratore AI in contesti a budget energetico vincolato — dall'edge industriale ai sistemi embedded in ambito automotive, fino ai data center dove il costo dell'energia è ormai una variabile di progetto a tutti gli effetti.
Le caratteristiche della bitcell memBrain
Le specifiche della bitcell memBrain che SST ha reso pubbliche aiutano a capire perché questa tecnologia si presta all'aCIM meglio di molte alternative. Ogni bitcell è in grado di memorizzare fino a 8 bit di dati (8 bpc), una densità informativa che consente di rappresentare i pesi di una rete neurale con una risoluzione sufficiente per la maggior parte dei task di inferenza. La corrente di lettura per bitcell si colloca nell'ordine dei singoli nanoampere, un valore che è direttamente proporzionale al consumo durante le operazioni di moltiplicazione e accumulo (MAC): minore è la corrente, minore è la dissipazione per operazione. L'affidabilità è garantita da una retention dei dati di dieci anni alla temperatura di esercizio e da 100.000 cicli di endurance, parametri allineati ai requisiti dei contesti industriali e automotive. Dal punto di vista funzionale, la cella supporta operazioni MAC a ciclo singolo per aCIM e il controllo full-state della scrittura multi-stato a 8 bpc, aspetto rilevante per la flessibilità nella programmazione dei pesi.
Maturità produttiva e disponibilità fab
Un elemento che ha evidentemente pesato nella decisione di Mythic è la maturità industriale della tecnologia SuperFlash. SST ha dichiarato 150 miliardi di unità spedite, e la tecnologia è concessa in licenza da tutte le prime dieci fonderie a livello mondiale — un ecosistema produttivo che riduce significativamente il rischio di approvvigionamento e offre a Mythic flessibilità nella scelta del partner di produzione. La tecnologia memBrain è già implementata nei nodi a 40 nm e 28 nm, con lo sviluppo sul nodo a 22 nm annunciato come estensione della roadmap. Per un'azienda che deve scalare dalla fase di campionamento alla produzione di massa, la disponibilità multi-fab non è un dettaglio secondario.
Implicazioni per l'ecosistema AI su edge e data center
Le APU di Mythic si rivolgono a un segmento preciso: applicazioni di inferenza e sensor fusion in ambito industriale, automotive e data center, dove le GPU ad alte prestazioni risultano sovradimensionate o inutilizzabili per ragioni termiche ed energetiche. L'approccio aCIM con eNVM consente di mantenere i pesi della rete neurale direttamente nelle celle di memoria non volatile, evitando la lettura ciclica da memorie esterne e il relativo consumo di banda e potenza. Per il system architect, questo si traduce in una riduzione della complessità del sottosistema di memoria, con ricadute positive sul layout PCB e sul budget termico complessivo del sistema.
La scelta di una eNVM non volatile — anziché SRAM o DRAM — porta con sé un ulteriore vantaggio pratico: i pesi della rete rimangono in memoria anche in assenza di alimentazione, eliminando i tempi di caricamento al boot e semplificando la gestione dei sistemi embedded a cicli di accensione e spegnimento frequenti.
La convergenza tra la densità di memorizzazione della bitcell memBrain, la corrente di lettura nell'ordine dei nanoampere e la disponibilità su nodi produttivi consolidati configura una base tecnologica solida per Mythic. Il dato sui 120 TOPS/watt resta il riferimento principale per valutare le APU nel confronto con le soluzioni digitali esistenti, ed è su quel numero che il mercato potrà misurare la distanza tra le promesse architetturali e le prestazioni reali su silicon.
