AMD und Xilinx verkünden neuen Weltrekord bei AI Inference

Auf dem Xilinx Deve­lo­per Forum haben Xilinx-CEO Vic­tor Peng und AMD-CTO Mark Paper­mas­ter heu­te einen neu­en AI-Infe­rence-Welt­re­kord mit 30 000 Bil­dern pro Sekun­de bekannt­ge­ge­ben, der auf einem Sys­tem mit zwei AMD-EPYC-7551-Pro­zes­so­ren zusam­men mit acht der heu­te neu ange­kün­dig­ten Xilinx-Alveo-U250-Beschleu­ni­ger­kar­ten erzielt wur­de. Der Bench­mark wur­de mit Goog­Le­Net (mit einer Batch-Size von 1 und Int8-Pre­cisi­on) durch­ge­führt.

 

Mit­tels fal­ten­der neu­ro­na­ler Netz­wer­ke wie Goog­Le­Net wird im Bereich Bil­der­ken­nung (Gesichts­er­ken­nung) und Sprach­er­ken­nung (seman­ti­sches Par­sen, Such­an­fra­gen­rü­ck­erken­nung, Satz­mo­del­lie­rung, Satz­klas­si­fi­zie­rung, maschi­nel­le Über­set­zung) gear­bei­tet (sie­he Wiki­pe­dia). Unter­schie­den wird dabei zwi­schen Deep Lear­ning Trai­ning und Infe­rence. Ers­te­res bezeich­net dabei das Trai­ning neu­ro­na­ler Netz­wer­ke, das zwei­te dann die prak­ti­sche Umset­zung der antrai­nier­ten neu­en Mög­lich­kei­ten zur Daten­ana­ly­se. NVIDIA zum Bei­spiel setzt für die­sen Zweck die Tes­la Pro­duk­te ein und bezeich­net die Tes­la T4 GPU (basie­rend auf Turing) als welt­weit fort­schritt­lichs­ten Infer­cence Beschleu­ni­ger.

What’s the Dif­fe­rence Bet­ween Deep Lear­ning Trai­ning and Infe­rence? ( Quel­le: Nvi­dia)

Xilinx and AMD see a bright future in their tech­no­lo­gy col­la­bo­ra­ti­on. The­re is strong align­ment in our road­maps that align the high-per­for­mance AMD EPYC ser­ver and gra­phics pro­ces­sors with Xilinx acce­le­ra­ti­on plat­forms across its Alveo acce­le­ra­tor cards, as well as its forth­co­m­ing Ver­sal port­fo­lio. 

 

AMD und Xilinx haben Trei­ber opti­miert und die Per­for­mance auf die Inter­ope­ra­bi­li­tät zwi­schen AMD EPYC CPUs mit Xilinx FPGAs abge­stimmt. Mit der Alveo U200 und der in dem Welt­re­kord­sys­tem ein­ge­setz­ten Alveo U250 auf Basis von Xilinx UltraS­ca­le+ FPGAs hat Xilinx heu­te, die nach eige­nen Anga­ben welt­weit schnells­ten Rechen­zen­trums- und AI-Beschleu­ni­ger­kar­ten vor­ge­stellt.

 

Quel­le: Time for a Guin­ness? AMD and Xilinx announ­ce a new world record for AI Infe­rence