De Amerikaanse startup Gyrfalcon Technology gaat komende week op de Consumer Electronics Show een usb-stick voor ai-toepassingen tonen. Net als Intels Movidius Neural Compute Stick, die al langer op de markt is, kan de Laceli AI Compute Stick bijvoorbeeld objectherkenning of spraakherkenning uitvoeren. Gyrfalcon belooft echter een flink efficiëntere stick te hebben gemaakt.
In de stick van Gyrfacon zit de zelfontwikkelde 'Lightspeeur 2801S Neural Processor'. De op 28 nm gebakken chip, die in september voor het eerst werd getoond, bevat zo'n 28.000 parallel werkende rekeneenheden. De Lightspeeur 2801S is gebouwd op de eveneens zelfontwikkelde APiM-architectuur. Volgens Gyrfalcon is het bijzondere aan de architectuur het geheugengebruik: omdat ai-berekeningen in het geheugen plaatsvinden, hoeft niet steeds met data te worden geschoven. Dat leidt volgens het bedrijf tot verhoogde prestaties bij een verminderd energieverbruik: de chip zou aan 1 W genoeg hebben om 5,6 tera operations per second (TOPS) te kunnen uitvoeren, negentig maal meer dan de Movidius Neural Compute Stick.
De Laceli AI Compute Stick gebruikt wat minder stroom: ongeveer 0,3 W. Draaiend op een kloksnelheid van 50 MHz haalt de Lightspeeur 2801S dan zo'n 2,8 TOPS. Het grijze stickje is een stuk kleiner dan de stick van Intel, al geeft Gyrfalcon geen informatie over de precieze afmetingen. Naast de processor zit in de stick tevens 4 GB ingebouwd geheugen. Het apparaatje kan overweg met ai-algoritmes als Caffe en het door Google ontwikkelde TensorFlow. Via de usb 3.0-interface kan de AI Compute Stick worden aangesloten op pc's, laptops en smartphones.
De eerste foto toont de Laceli AI Compute Stick (onder) naast de Intel Movidius Neural Compute Stick (boven).
Het begin 2017 in Silicon Valley opgerichte Gyrfalcon hoopt met zijn nieuwe hardware een kans te maken op de groeiende markt voor low-power ai-accelerators. Dergelijke chips zijn niet bedoeld voor het in eerste instantie ontwikkelen van ai-algoritmes, maar voor inference, het nadien interpreteren van nieuwe data. Met behulp van de gespecialiseerde hardware kunnen ai-algoritmes lokaal draaien op mobiele apparaten, zonder dat dat teveel accucapaciteit kost. Zo hoeven ai-berekeningen niet te worden uitbesteed aan de cloud.
De Laceli AI Compute Stick wordt op de CES voor het eerst aan het publiek getoond; bepaalde klanten kunnen hem nu al kopen. De Lightspeeur 2801S-chip is ook te krijgen in de vorm van een development kit, of op een uitbreidingskaart met meerdere Lightspeeur-chips, voorzien van een pcie- en m.2-interface. In een later stadium zegt Gyrfalcon ook met een complete soc te willen komen, waarin de eigen ai-accelerator wordt geïntegreerd.
