Tenstorrent AI: "Quisque Faber Silicis Suae"

L’innovazione in architettura e chiplet della Tenstorrent di Jim Keller, a core Risc-V: Wormhole, Black Hole, Quasar.

L’Architettura Tenstorrent si distingue per l’uso innovativo della tecnologia chiplet nei suoi microprocessori. Ma cosa sono i chiplet? Immaginate di avere mattoncini Lego specializzati, ognuno con una funzione specifica. I chiplet di Tenstorrent sono come questi mattoncini: unità modulari che possono essere combinate per creare microprocessori all’avanguardia. Questo approccio consente una connessione avanzata tra le unità, migliorando le prestazioni e la scalabilità.

Jim Keller, il progettista a capo di Tenstorrent, ha sottolineato l'importanza della partnership con Samsung Foundry per portare sul mercato i chiplet IA. La scelta di Samsung come produttore riflette la strategia di Tenstorrent di affidarsi a una filiera produttiva geograficamente diversificata, con la costruzione di un nuovo impianto a Taylor in Texas. La collaborazione con Samsung è vista come un passo significativo per l'avanzamento della tecnologia dei semiconduttori.

Evoluzione di Tenstorrent: oggi Quasar, domani Grendel

1. Il primo passo concreto è stato il processore Wormhole, realizzato a 12 nanometri. Questo piccolo chip ha dimostrato l’efficacia dell’architettura Tenstorrent, con un array di core Tensix collegati tramite una rete on-chip (NOC). Wormhole è stato un successo, aprendo la strada alla generazione successiva.
2. Black Hole è il successore di Wormhole. Con 128 core Tensix e un NOC potenziato, Black Hole è diventato un prodotto commerciale. Le cronache narrano che Tenstorrent lo abbia sviluppato senza errori al primo tentativo, un risultato eccezionale nell’industria dei semiconduttori.
3. Veniamo ora ai chiplet Quasar, realizzati con il processo Samsung SF4X a 4 nanometri. Qui sorge una discrepanza: alcune fonti indicano l’uso del core Risc-V, mentre altre non lo menzionano. Sto cercando un contatto con l’azienda per avere questa ed altre informazioni.(Edit 13/03/24: ho avuto precisazioni da Eric Duffy , contattato in seguito alla World AI Conference a Cannes) Il chiplet Quasar includerà la tecnologia AI (Tensix). Effettivamente incorpora il Risc-V: ogni core Tensix ha 5 'baby' core Risc-V incorporati al suo interno (targetizzabili dall'SDK Metalium. E' un progetto distinto da Ascalon, la CPU superscalare basata su Risc-V ad alte prestazioni: Ascalon sarà disponibile nella sua propria forma di chiplet con il nome Aegis.Quasar è noto per la sua matrice di almeno 80 core, potenzialmente basati su e per l’introduzione del core Greyskull, che rappresenta la sua prima generazione di prodotto.

Ma nel 2025 è attesa la rivoluzione di Grendel, la terza generazione di Tenstorrent. (edit) I chiplet Aegis entreranno in un pacchetto di calcolo eterogeneo ad alte prestazioni chiamato Grendel.

Detto in altri termini: Quasar (chiplet IP Tensix) + Aegis (chiplet IP Risc-V) = Grendel (Modificato). 

Inferenza su Card

Già dal 2021 sono disponibili al grande pubblico le prime schede Tenstorrent. Due fanno parte della serie Greyskull, specifiche per l’inferenza: e75 viene 599 dollari, e150 viene 799 dollari. Le altre due sono della serie Wormhole.

La visione di Keller

La tecnologia FlexLock per l’interconnessione dei chiplet ha richiamato l’attenzione dell’iniziativa giapponese Rapidus, in qualche modo equivalente al Chip’s Act europeo e statunitense, verso uno standard chiplet a livello globale. Gli sviluppatori possono sfruttare gli SDK e gli HDK messi a disposizione dall’azienda.

La visione di Tenstorrent è chiara: “Ognuno deve avere il proprio silicio”, ha detto Jim Keller, Ceo di Tenstorrent e veterano di lungo corso nel mondo dei microprocessori prima e dell’IA oggi. Questo approccio si riflette anche negli altri chiplet che si prevede verranno inseriti in Greyskull. Tenstorrent sta aprendo nuove strade nel mondo dei microprocessori, e il futuro sembra promettente.