마이크로소프트가「실시간AI」를 실현하는 딥러닝용 플랫폼 「Project Brainwave」발표

마이크로소프트가 「실시간AI」를 실현하는 딥러닝용 플랫폼 「Project Brainwave」발표

Microsoft가 고성능 팁에 관한 심포지엄 「Hot Chips」에서, 「실시간AI」실현을 위한 시스템으로서 「Project Brainwave」를 발표했습니다.

Microsoft에서는 Project Brainwave의 플랫폼 구축에 즈음하여, 지금까지 몇 년에 걸쳐 전개해 온 FPGA인프라스트럭쳐를 활용하고 있습니다. FPGA는「Field-Programmable Gate Array」의 생략으로, 재프로그래밍가능한 집적 회로. Microsoft에서는 데이터센터에 고성능FPGA를 직접 접속하는 것으로 「CPU에 의한 리퀘스트 처리」를 줄이고, 높은 스루풋을 실현했습니다.

또, FPGA와 통합된 소프트웨어 DNN처리 유닛(DPU)을 탑재. 통상, DPU는 설계시에 연산 아이나 데이터 타입을 선택하기 위해서 유연성에 빠집니다만, Project Brainwave에서는 필요한 데이터 타입을 선택할 수 있도록 설계해 있어, 유연성이 갖게 하는 것.

짜 넣은 소프트웨어·스택은, 일반적인 딥러닝 프레임워크를 서포트. 「Microsoft Cognitive Toolkit」라고 Google의 「Tensorflow」에는 대응완료로, 앞으로는 다른 것에도 대응해 갈 예정.

Intel의 Stratix 10을 이용하고, 리퀘스트를 1밀리 초미만으로 실행한 데모에서는 39.5TFLOPS의 성능을 기록. 10사이클에 한번 매크로 인스트럭션이 내놓는 것에 의해, 1사이클로 13만회이상의 연산 처리를 유지할 수 있는 것.

Microsoft에서는 시스템을 앞으로의 수４분기에 걸쳐 개량하고, 퍼포먼스 향상을 목표로 한다고 함께 이야기 하고 있습니다.