Deep learning is in opkomst en verschillende bedrijven investeren er miljarden in. Nvidia loopt voorop met de Tesla V100, maar ook Google heeft een eigen TPU, AMD doet een poging met Vega (Instinct), Intel is al een tijdje bezig en HiSilicon en Apple hebben DNN-accelerators in hun mobiele SoC's gestopt. Bitcoin grootmacht Bitmain, een bedrijf wat ASIC's voor bitcoin mining produceert, gaat nu ook een poging doen met hun Sophon accelerators.
Bitmain is begin 2015 al onderzoek gaan doen naar neurale processoren. In april dit jaar leverde dat de het eerste product op, de Sophon BM1680. Deze chip is geproduceerd op TSMC's 28nm HPC+-proces, heeft een TDP van 41 watt en vormt de basis voor de vandaag aangekondigde producten.
De BM1680 kan zowel neurale netwerken trainen als inference draaien (het toetsen van nieuwe data aan een bestaand netwerk). Het NPU-cluster van de chip bestaat uit 64 NPUs, een hub en een scheduler. Hiermee moet de chip 2 TFLOPS (single-precision) kunnen halen. Bitmain claimt dat er 80 miljard algoritmische bewerkingen per seconde kunnen worden uitgevoerd, maar aangezien niet bekend is wat dit inhoud is het vergelijken met andere chips lastig.
Het geheugensysteem bestaat uit quad-channel DDR4-2667 met ECC, waarbij 16 GB met 85,3 GB/s bandbreedte per chip aanwezig is. De chip kan verder via een 50 GB/s SerDes-link verbinden met andere chips, zoals een extra BM1680. De verschillende chips kunnen dan door het besturingssysteem als een systeem worden gezien.
De chips komen als eerst in twee accelerators terecht. De Sophon SC1 en Sophon SC1+ zijn dual-slot PCIe insteekkaarten met een PCIe 3.0 x8 connector. Beide worden aangestuurd door een Xilinx Kintex FPGA, die de juiste instructies doorstuurt naar de DNN-chips. De SC1 bevat een BM1680 en heeft een TDP van 85 watt, terwijl de SC1+ daar een tweede aan toevoegt waarmee het TDP op 150 watt komt. De Sophon SC1 is per direct verkrijgbaar vanaf $589.
| Card | Sophon SC1 | Sophon SC1+ |
|---|---|---|
| Appearance |  |
 |
| PCB |  |
 |
| Chips | 1x BM1680 + 1x FPGA | 2x BM1680 + 1x FPGA |
| Peak Performance (SP) | 2 TFLOPS | 4 TFLOPS |
| Memory | 16 GiB | 32 GiB |
| Power | 85 W | 150 W |
| Interface | PCIe x8 | |
| Total Cache | 32 MiB | 64 MiB |
| BMDDN Chip Link | 50 GB/s | |
| Form Factor (LxHxT) | 216mm x 128.9mm x 39.8mm | 324.8mm x 125.9mm x 39.8mm |
| Certification | FCC, CE | |
Tabel: WikiChip
Naast insteekkaarten die aan bestaande servers toegevoegd kunnen worden komt Bitmain ook met een eigen server. De Sophon SS1 heeft een quad-core Intel Xeon E3-1275 v6 aan boord en twee SC1+-kaarten. Er ix 16GB DDR4 aanwezig samen met een 250 GB SATA-SSD. De Sophon SS1 is per direct verkrijgbaar voor $3869.
| Sophon SS1 server | |
|---|---|
| OS | Ubuntu 16.04 |
| Toolkit | Preloaded software environment, including firmware, drivers, BMDNN libs, runtime libs and other related packages. |
| Test sample codes | Preloaded models and testcase codes for Object Detection & Recognition |
| CPU | Intel E3-1275 v6, 4 Cores, 3.8GHz (Max Turbo 4.2GHz) |
| DL accelerating card | 2x SC1+ |
| System power | 800W |
| System memory | 2x 8G DDR4/2133-ECC (Max 64GB) |
| Storage | 250G 2.5 inch SATA3 solid state disk (Max 6 SATA disks) |
| Network interface | 2x GLAN (1000M/100M self-adaptation) |
| Peripheral | 4x USB3.0 |
| Display | 1x HDMI |
| Dimension | 380 (L) x 425(W) x 177(H) mm |
| Weight | 10Kg |
Tabel: WikiChip
Het bedrijf wil snel door innoveren om een deel van deze markt op te kunnen eisen. Bitmain hoopt een tweede generatie accelerator geproduceerd op TSMC's 12nm-process uit te kunnen brengen in de tweede helft van 2018.
