Azure Data Box Edge で Azure Machine Learning サービスを使用して AI モデルのアクセラレーションを実現

  • Article

執筆者: Ted Way (Senior Program Manager, Azure Machine Learning)

このポストは、2019 年 3 月 26 日に投稿された Accelerated AI with Azure Machine Learning service on Azure Data Box Edge の翻訳です。

FPGA acceleration at the edge

本日発表された Azure Data Box Edge の一般提供開始 (英語) と共に、Data Box Edge で Project Brainwave を活用した Azure Machine Learning のハードウェア アクセラレーション モデルのプレビューも開始されました。世界のアプリケーションの実用例を見ると、データの大部分はエッジで使用されています。たとえば、工場、小売店、病院から収集された画像や動画は、それぞれ製造上の欠陥を分析したり、在庫切れの商品を検出したり、診断を行ったりするために使用されます。Data Box Edge のデータに機械学習モデルを適用することでレイテンシを短縮し、帯域幅のコストを削減できるほか、リアルタイムのインサイトを入手して重要なビジネス上の意思決定を下し、迅速に対応することができます。

既に一般提供されている Azure Machine Learning サービスは、エンタープライズ レベルのコンプライアンス機能を備えたエンドツーエンドのデータ サイエンス プラットフォームです。Azure Machine Learning サービスを使用すると、データ サイエンティストは機械学習モデルの構築、トレーニング、デプロイを簡素化、高速化できます。これらの機能はすべて、お好みの Python 環境から PyTorch、TensorFlow、scikit-learn といった最新のオープンソース フレームワークを使用してアクセスできます。これらのモデルは現在 CPU や GPU 上で実行できますが、今回のプレビューでは新たに Data Box Edge の Field Programmable Gate Array (FPGA) でも実行できるようになります。

今回のプレビューの内容

今回のプレビューにより、Azure Machine Learning サービスが強化されます。画像分類シナリオで使用する TensorFlow モデルのトレーニングを行い、Docker コンテナーでモデルをコンテナー化し、Azure IoT Hub を使用してそのコンテナーを Data Box Edge デバイスにデプロイすることができます。現時点では、ResNet-50、ResNet-152、DenseNet-121、VGG-16 をサポートしています。すべての Data Box Edge に含まれているインテル Arria 10 FPGA 上で ONNX ランタイムを使用して、このモデルのアクセラレーションを行うことができます。

今回のプレビューの重要性

この数年間で、AI は私たちの日常やあらゆる業界に浸透しました。たとえば、スマート ホーム アシスタントは人間の言葉を理解し、ソーシャル メディア サービスはアップロードした写真に写っている人物をタグ付けすることができます。これらのテクノロジは、ほぼすべてがディープ ニューラル ネットワーク (DNN) を活用しています。DNN は、画像、音声、テキストといった非構造化データを処理する高度なアルゴリズムです。ただし、DNN は計算処理の負荷が高いという問題もあります。たとえば、広く使用されている DNN の ResNet-50 を使用して 1 枚の画像を分析する場合には、約 80 億回の計算が必要になります。

現在、DNN を実行するハードウェアのオプションは多数あり、中でも一般的なのは CPU と GPU です。Azure Machine Learning サービスでは、当初マイクロソフト リサーチで開発された最先端のイノベーション (先日の Fast Company の記事 (英語) で特集) をお客様に提供し、FPGA という再構成可能なハードウェア上で DNN を実行できます。この機能と Azure Machine Learning サービスの ONNX ランタイム (英語) の統合により、モデルのレイテンシは大幅に短縮されています。

各種サービスの併用

今回のプレビューにより、Azure Machine Learning サービスでは、アクセラレーションを行った強力な AI モデルを Data Box Edge で直接利用できるようになりました。製造組立ラインのシナリオを例に考えてみましょう。このシナリオでは、開発の各段階においてカメラで製品を撮影しています。

撮影された写真は製造ラインから工場内の Data Box Edge に送信されます。Data Box Edge では、Azure Machine Learning サービスを使用して AI モデルのトレーニング、コンテナー化、FPGA へのデプロイが行われます。Data Box Edge は Azure IoT Hub に登録されているため、デプロイするモデルを制御できます。これで、受信した写真をほぼリアルタイムで処理して、製造上の欠陥を検出するために必要な機能がすべて揃ったことになります。その結果、組立機や組立ラインのマネージャーは製品に関してすぐに意思決定を下し、製品の品質を向上させ、下流工程の生産コストを削減することができます。

プレビューへの参加

Azure Machine Learning サービスは現在一般提供されています。ハードウェア アクセラレーションを行った AI モデルのコンテナー化のプレビューに参加するには、リクエスト フォーム (英語) に必要事項を記入してください。サポートが必要な場合は、こちらのフォーラム (英語) でお問い合わせください。