Acceleratorul de rețea neuronală bazat pe FPGA depășește GPU-urile

A fost demonstrat ca GoogLeNet Inception-v1 CNN, folosind o rezoluție întreagă de opt biți. Acesta a obținut 16,8 operații de terasă pe secundă (TOPS) și poate inferența peste 5.300 de imagini pe secundă pe un fpga Xilinx Virtex UltraScale + XCVU9P-3. Abordarea modulară, scalabilă, o face potrivită pentru detectarea obiectelor și aplicațiile de procesare video la marginea și în cloud, a explicat Fawcett, precum și pentru inferențe în centrele de date și camere inteligente.

DPU poate fi configurat pentru a oferi performanțe optime de calcul pentru topologiile de rețea neuronală în aplicațiile de învățare automată, folosind arhitectura DSP paralelă, memoria distribuită și reconfigurabilitatea logicii și conectivității pentru diferiți algoritmi.

DPU obține o performanță cu peste 50% mai mare decât orice CNN-uri concurente și realizează GPU-uri pentru un anumit buget de putere sau costuri, susține compania. „FPG-ul este o platformă și o arhitectură care bat la nivel mondial, care este foarte flexibilă pentru verificarea viitorului și poate depăși GPU-urile în AI, cu latență mai mică”, a adăugat Fawcett.

Compania a anunțat, de asemenea, că sponsorizează un DPhil (PhD0 la Universitatea Oxford pentru a studia tehnici pentru implementarea accelerației învățării profunde pe fpgas). Lucrarea va fi în colaborare cu cercetările proprii ale Omnitek privind motoarele și algoritmii de calcul AI.