Compania de cipuri, condusă de Jim Keller, Tenstorrent, a lansat procesorul său de viermi de generație următoare pentru sarcinile de muncă AI, pe care se așteaptă să ofere performanțe bune la un preț accesibil.În prezent, compania oferă două carduri PCIE suplimentare care pot găzdui unul sau două procesoare de gaură de vierme, precum și stații de lucru TT-LODBOX și TT-QuietBox pentru dezvoltatorii de software. Toate anunțurile de astăzi sunt destinate dezvoltatorilor, nu celor care folosesc plăci de viermi pentru volumele de muncă comerciale.
„Este întotdeauna îmbucurător să punem mai multe produse în mâinile dezvoltatorilor. Sistemele de dezvoltare cu eliberare care utilizează cardurile noastre Wormhole ™ pot ajuta dezvoltatorii să se extindă și să dezvolte software AI multi-cip”, a declarat Jim Keller, CEO al TenStorrent.Pe lângă această lansare, suntem încântați să vedem progresele pe care le realizăm cu banda și pornirea produsului nostru de a doua generație, Blackhole. ”
Fiecare procesor de gaură de vierme conține 72 de nuclee Tensix (dintre care cinci acceptă nuclee RISC-V în diferite formate de date) și 108 MB de SRAM, livrând 262 FP8 TFLOPS la 1 GHz cu o putere de proiectare termică de 160W. Cardul de vierme cu un singur cip N150 este echipat cu memorie video GDDR6 de 12 GB și are o lățime de bandă de 288 GB/s.
Procesoarele cu gauri de vierme oferă o scalabilitate flexibilă pentru a răspunde nevoilor diverse ale volumului de muncă. Într -o configurație standard a stației de lucru cu patru carduri N300 de vierme, procesoarele pot fi combinate într -o singură unitate care apare în software ca o rețea de bază tensixă unificată, largă. Această configurație permite acceleratorului să gestioneze aceeași sarcină de lucru, să se împartă între patru dezvoltatori sau să ruleze până la opt modele AI diferite simultan. O caracteristică cheie a acestei scalabilitate este aceea că poate rula local fără a fi nevoie de virtualizare. Într -un mediu de centru de date, procesoarele de gaură de vierme vor folosi PCIE pentru expansiune în interiorul mașinii sau Ethernet pentru expansiune externă.
În ceea ce privește performanța, cardul N150 cu un singur chip de la Tenstorrent (72 de nuclee Tensix, frecvență de 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/s Lățime de bandă) a obținut 262 FP8 Tflops la 160W, în timp ce The Dual-Chip Wormhole N300 MB (128 Tensix Cores, 1 GHz Frecvență, 192 MB MB Sram (128 Tensix CORES GB GDDR6, 576 GB/s Lățime de bandă) oferă până la 466 TFLOPS FP8 la 300W.
Pentru a pune în context 300W de 466 FP8 Tflops, îl vom compara cu ceea ce oferă liderul pieței AI la această putere de proiectare termică. A100 de la NVIDIA nu acceptă FP8, dar acceptă INT8, cu performanță maximă de 624 de topuri (1.248 de topuri atunci când este redus). În comparație, H100 de la NVIDIA acceptă FP8 și atinge performanța maximă de 1.670 TFLOPS la 300W (3.341 TFLOPS la Sparse), care este semnificativ diferit de Wormhole N300 de la TenStorrent.
Cu toate acestea, există o problemă majoră. Wormhole N150 de la Tenstorrent se vinde pentru 999 USD, în timp ce N300 se vinde pentru 1.399 dolari. Prin comparație, o singură placă grafică NVIDIA H100 se vinde cu 30.000 USD, în funcție de cantitate. Desigur, nu știm dacă patru sau opt procesoare de găuri de vierme pot oferi de fapt performanța unui singur H300, dar TDP -urile lor sunt 600W, respectiv 1200W.
În plus față de cărți, TenStorrent oferă stații de lucru pre-construite pentru dezvoltatori, inclusiv 4 carduri N300 în cele mai accesibile TT-Loudbox, bazate pe Xeon, cu răcire activă, și avansat TT-Quietbox cu funcție de răcire a lichidului Xiaolong) pe bază de EPYC).
Timpul post: 29-2024 iulie