インテル、Microsoftの新しい高速ディープラーニング・プラットフォームの「リアルタイム AI」を実現

人工知能 (AI) とディープラーニング (DL) が世界中の人々の関わり方や、企業における意思決定を大きく変えていくことが確実視されていますが、こうした変革はインテルのテクノロジーによって実現されています。スマートフォンでの顔認識や音声認識から自動運転に至るまで、さまざまなアプリケーションの複雑なディープラーニング・モデルを実行する環境として、世界最大級のクラウド・サービス・プロバイダーにおいてインテルの AI テクノロジーがどのように活用されているかをご紹介します。

参照: インテル® FPGA が Microsoft Project Brainwave の AI を加速 (Dan McNamara ブログ) | 人工知能 (英語) (報道資料)

Microsoft は、同社の新しい高速ディープラーニング・プラットフォーム「Project Brainwave (開発コード名)」の主要なハードウェア・アクセラレーターとしてインテル® Stratix® 10 FPGA を採用しました。この FPGA ベースの高速ディープラーニング・プラットフォームでは、クラウド・インフラストラクチャー上で受信データを素早く処理して送信する、超低レイテンシーの「リアルタイム AI」が可能になります。
クラウドのシステムでは、動画、センサー、検索クエリーなどのライブ・データ・ストリームを迅速に処理してユーザーに提供することが求められるため、リアルタイム AI はますます重要になってきています。

インテルの 14nm プロセスを採用したインテル® Stratix 10 FPGA / SoC FPGA

本日公開された Microsoft のブログ (英語)では、インテル® FPGA を活用した Project Brainwave が、非常に高度なディープラーニング・モデルに柔軟に対応し、優れたパフォーマンスを実現できることが詳しく紹介されています。同社は、半導体テクノロジーの最新事例を紹介するシンポジウム「Hot Chips 2017」において、FPGA ベースのディープラーニング・プラットフォームのデモを行いました。

Microsoft は、早い時期から自社のパブリック・クラウド・インフラストラクチャーに FPGA を導入していた主要クラウド・サービス・プロバイダーの 1 社です。そして、インテル® Stratix 10 FPGA を使用して実証された今回の最新テクノロジーでは、人間の脳のコンセプトに類似した方法で「思考」を再現するディープ・ニューラル・ネットワーク (DNN) を高速化しています。

AI の分野は急速に発展しているため、さまざまなワークロード要件を効率的に管理する多様なテクノロジーが必要とされます。インテルでは、インテル® Xeon® プロセッサー、インテル® FPGA 、インテル® Nervana™ ASIC テクノロジーなど、AI 市場を進化させる幅広いテクノロジーを提供しています。一律のワークロードに最適化されたディープラーニング専用ハードウェア・アクセラレーターに比べ、柔軟性を備えたインテル® FPGA は、特定のワークロード要件に応じたハードウェアのカスタマイズが可能で、ディープラーニングのワークロードやモデルに合わせて迅速に再構成することができます。インテル® Stratix® 10 FPGA は、持続的な性能と優れた効率性を提供する堅牢なプロセッサー・ブロックと、カスタマイズ性をもたらすプログラマブル・ファブリックで構成されています。

現在の一般的なシリコン (ハードウェア) AI アクセラレーターでは、高いパフォーマンスを実現するために複数のリクエストをまとめてグループ化 (バッチ化) する必要があります。インテル® Stratix® 10 テクノロジーを活用した Project Brainwave では、1 回のリクエスト当たり 39 TFLOPSを超える高いパフォーマンスを実現し、クラウドにおけるリアルタイム AI 演算処理を大幅に向上しました。インテル® Stratix® 10 FPGA は、クラウドにおけるリアルタイム AI 演算性能を向上し、低レイテンシー、高いパフォーマンスを実現するとともに、AI リクエストのバッチ化を解消します。

Microsoft Research NExT の主任エンジニアである Doug Burger 氏は、「インテル® FPGA の柔軟性を活用することで、最新のイノベーションを迅速に取り込みつつ、多くの ASIC ベースのディープラーニングと同等、またはそれ以上のパフォーマンスを提供しています」と説明しています。

Microsoft では、現在 Azure クラウドへの Project Brainwave の導入に取り組んでいます。これが完了すれば、Azure ユーザーは複雑なディープラーニング・モデルを非常に高いパフォーマンスで実行できるようになります。

インテル® テクノロジーを搭載したマシン・ラーニング・プラットフォームは、モデル・トレーニングの高速化、迅速なスコアリング、スケーラビリティーの高いインフラストラクチャーを通じて、単なるデータから実用的な洞察を導き出す処理を支援します。カスタマイズ性に優れたプログラマブルなインテル® FPGA は、低レイテンシーで精度も柔軟に選択可能です。最新のインテル® Xeon® スケーラブル プロセッサーと組み合わせることで、インテル® Xeon® プロセッサーのみを使用する場合と比較して、ディープラーニングの推論処理における消費電力当たり性能が向上します。

インテルの AI ソリューションに関する幅広いポートフォリオの詳細については、http://www.intel.co.jp/ai/ を参照してください。

About Intel
Intel (NASDAQ: INTC) expands the boundaries of technology to make the most amazing experiences possible. Information about Intel can be found at newsroom.intel.com and intel.com.

Intel and the Intel logo are trademarks of Intel Corporation in the United States and other countries.

*Other names and brands may be claimed as the property of others.