De 'Wafer Scale Engine'-chip van Cerebras simuleert 10.000 keer sneller dan de snelste GPU

19 reacties

De Cerebras Wafer Scale Engine is met een grootte van 46.225 mm2 momenteel de grootste chip ter wereld. Het CS-1-systeem maakt gebruik van deze chip en zou op het vlak van AI-berekeningen meer dan 10.000 keer sneller zijn dan Nvidia's A100-gpu. Dit heeft Cerebras in samenwerking met het National Energy Technology Laboratory (NETL) onderzocht.

De chip is dan ook ontworpen met dit type berekeningen in gedachten. De chip bestaat uit 400.000 AI-kernen met per kern 48 kB geheugen, voor een totaal van ruim 18 GB. NETL onderzoeker Dirk Van Essendelft geeft aan dat deze opbouw een van de problemen van traditionele hpc's wegneemt. Omdat er veel geheugen op de chip zelf zit is het sneller en energie-efficiënter te bereiken. In een paper dat is gebaseerd op het onderzoek wordt gesteld dat de CS-1 prestaties kan leveren die met een traditionele opzet onbereikbaar zijn. 

In een interview met Venturebeat zegt Cerebras  oprichter Andrew Feldman dat de CS-1 in een simulatie voor vloeistofdynamica 200 keer sneller rekende dan de Joule Supercomputer, die op nummer 82 staat in de lijst van de 500 snelste supercomputers ter wereld. De Joule Supercomputer gebruikte daarbij op dat moment 16.384 cpu-cores.

Om dat verder in perspectief te plaatsen verbruikt de Joule Supercomputer in zijn volle glorie met 84.000 cpu-cores 450 kW en kost deze tientallen miljoenen dollars. De CS-1 verbruikt 20 kW en kost enkele miljoenen dollars. Meest in het oog springend is de ruimtebesparing, een derde van een rack voor de CS-1 tegenover tientallen racks voor de Joule Supercomputer.

Deze prestaties in AI- en hpc-berekeningen zijn indrukwekkend. We zijn dan ook benieuwd naar de prestaties van de inmiddels aangekondigde opvolger, de Wafer Scale Engine 2.

Bronnen: Cerebras, Venturebeat, NETL

« Vorig bericht Volgend bericht »
0
*