iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介
0 likes2,677 views
iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介
- 1. © 2020, Amazon Web Services, Inc. or its Affiliates. 嶺 行伸 ソリューションアーキテクト デジタルトランスフォーメーション本部 アマゾン ウェブ サービス ジャパン株式会社 AI /機械学習に活用できる AWSのエッジソリューションのご紹介
- 2. © 2020, Amazon Web Services, Inc. or its Affiliates. 自己紹介 嶺 ⾏伸 (みね ゆきのぶ) デジタルトランスフォーメーション本部 IoTソリューションアーキテクト IoTの導⼊やPoC段階のご⽀援を担当 主に製造系のお客様のご⽀援をメインに活動中 好きなAWSサービス AWS Lambda / AWS IoT Greengrass
- 3. © 2020, Amazon Web Services, Inc. or its Affiliates. アジェンダ • IoTにおける機械学習のユースケース • エッジデバイスでの機械学習が必要なケースと要件 • AWSのエッジソリューションのご紹介 • アーキテクチャ例 • まとめ
- 4. © 2020, Amazon Web Services, Inc. or its Affiliates. IoTシステムの進化のステップ 接続 モニタリング・ 可視化 分析・制御 ⾃律化・効率化 ROI 成熟度 難易度 1 2 3 4
- 5. © 2020, Amazon Web Services, Inc. or its Affiliates. 機械学習による自律化がトレンドに 接続 モニタリング・ 可視化 分析・制御 ⾃律化・効率化 ROI 成熟度 難易度 1 2 3 4 機械学習の活用 により実現
- 6. © 2020, Amazon Web Services, Inc. or its Affiliates. IoTにおける機械学習のユースケース 外観検査 来客分析 顔認証 商品検索 行動分析 異常検知 コンテキスト 解析 需要予測予知保全
- 7. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジデバイスでの機械学習が必要になるケース レイテンシの制約 通信コスト オフライン対応 セキュリティ コンプライアンス 機械学習を導入する際、次の要件がある場合には、 推論をクラウドではなく、エッジで行うことを検討する必要がある
- 8. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジデバイスでの機械学習に必要な要素
- 9. © 2020, Amazon Web Services, Inc. or its Affiliates. AWSの処理機能をデバイスの上に拡張 処理を クラウドで実⾏ 処理を ローカルで実⾏ Moving to the edge AWS IoT Greengrass 開発、アップデート 任意のデバイスで 処理を実⾏
- 10. © 2020, Amazon Web Services, Inc. or its Affiliates. 工場におけるAWS IoT Greengrassの役割 工場 OPC−UA サーバ 生産設備 IoT システム 直接クラウドと通信 できない既存設備の データを収集 AWS IoT Greengrass 推論や制御を実行 (オフライン時も動作を継続) データを一次処理し てクラウドに送信 制御ロジックを遠隔 アップデート、監視 (機械学習のモデル の配信もサポート) システム運⽤者
- 11. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジでの既存機器のデータ収集 OPC サーバ PLC Camera Sensor AWS IoT Greengrass ⼯場 OPC-UA OPC-DA RTSP USB MQTTs GPIO Modbus RTU/TCP SLMP 外付けセンサ 画像、動画 設備データ 集約された 設備データ 様々なプロトコルで既存機器と通信してデータを収集 広く使われているプロトコルはノンコーディングで利用可能
- 12. © 2020, Amazon Web Services, Inc. or its Affiliates. 3rd party protocol conversion B社製PLC OPC-UA MQTT AWS IoT Greengrass ⼯場 A社製PLC C社製PLC 3rd Party Gateway SW (EdgeCross, KepServerEX, etc) Protocol A Protocol B Protocol C 各社のPLCのデータを汎用的なプロトコルに変換する サードパーティーのGW製品との連携も可能
- 13. © 2020, Amazon Web Services, Inc. or its Affiliates. クラウドからプログラムを配信・運用 工場 A AWS IoT Greengrass (Core) 工場 B AWS IoT Greengrass (Core) PLC システム運⽤者 異常検知 処理 AWS IoT Greengrass (Service) Logs Amazon Cloudwatch PLC • AWS Lambda で開発したプログラムを配信してエッジで実行 • 現地に行く事なく機能のアップデート・ログ監視等の運用が可能
- 14. © 2020, Amazon Web Services, Inc. or its Affiliates. クラウドと Greengrass の Lambda 実行環境の違い On Cloud On Greengrass 実⾏環境 Amazon Linux GGC がインストールされているデバ イスに依存 プログラミング⾔語 Node.js Java Python .NET Core and more… Node.js: v6 / v8 / v12 Python: 3.7 / 2.7 Java: 8 C, C++ イベントソース S3, DynamoDB, Kinesis, …(*1) Local MQTT, GGC 起動時に⾃動起動 タイムアウト設定 最⼤ 900s 上限なし (常駐を指定可能) メモリ設定 最⼩ 128MB 最⼤ 3008MB 上限なし (デバイスに依存) ローカルリソースアクセス (デバイス or ボリューム) 不可 可 (ホワイトリスト⽅式) 課⾦ 実⾏回数と実⾏時間、割り当てたメモリ量 に応じて課⾦ 無料(*2) *1: https://docs.aws.amazon.com/ja_jp/lambda/latest/dg/invoking-lambda-function.html *2: Greengrass ⾃体の課⾦は発⽣します
- 15. © 2020, Amazon Web Services, Inc. or its Affiliates. クラウドへのデータ送信 AWS IoT Core Amazon Kinesis Amazon S3 AWS IoT Analytics MQTTs Https Https HttpsAWS IoT Greengrass AWS クラウド ニアリアルタイムデータ ストリームデータ 画像、ファイル マイクロバッチ ⼯場 • データレイクでの分析やモデルの再学習のため、クラウドにデータを自動送信 • データの種別に応じて適切なサービスを選択可能
- 16. © 2020, Amazon Web Services, Inc. or its Affiliates. オフライン対応 • オフラインになってもエッジでの処理は継続 • クラウドにアップロードすべきデータはキャッシュして、オンラインになっ たタイミングで順次アップロード 生産設備 Local Lambda アラート データ 工場 AWS IoT Core Amazon Kinesis AWS IoT Analytics AWS クラウド データ Greengrass Core オフライン キャッシュ
- 17. © 2020, Amazon Web Services, Inc. or its Affiliates. AWS IoT Greengrass ML Inference クラウドで学習したモデルを 簡単にデプロイし、 エッジで機械学習の推論を⾏う Actuators Sensors AWS IoT Greengrass Core Amazon SageMaker AWS Lambda AWS IoT Greengrass Service 推論結果 Local Lambda ML Model 推論して ローカルで アクション
- 18. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジデバイスでの機械学習に必要な要素 エッジデバイスへのモデルのデプロイ エッジでのデータ収集 エッジでの推論 エッジでのアクション クラウドへのデータ転送
- 19. © 2020, Amazon Web Services, Inc. or its Affiliates. Amazon SageMaker フルマネージドのホ スティング ＆⾃動スケール One-click デプロイメント よくあるシナ リオ向けの ノートブック の提供 ⾼いパフォーマ ンスのビルトイ ンアルゴリズム One-click トレーニング ハイパーパラメー タの最適化 開発 学習 推論 データサイエンティストや開発者が 容易に機械学習モデルを開発・活⽤するための マネージドサービス
- 20. © 2020, Amazon Web Services, Inc. or its Affiliates. Amazon SageMaker Neo • Tensorflow や PyTorch などのモデルを、 EC2 インスタンスや Greengrass デバイス上で高速に動作するように変換するサービス • 従来のDeep Learning フレームワークが 500MB-1GB 程度であるのに対 し、Amazon SageMaker Neo Runtime は 1MB 程度
- 21. © 2020, Amazon Web Services, Inc. or its Affiliates. Amazon SageMaker Ground Truth • データにラベル (Ground Truth) を付与するアノテーションを支援 • 以下の4タスクにはテンプレートが用意されており、自作も可能 • ラベルを付与するワーカーは、Amazon Mechanical Turk、外部ベン ダ、自社のチームの3種類から選択可能 画像のラベル ラベルと位置 文章のラベルピクセル単位のラベル
- 22. © 2020, Amazon Web Services, Inc. or its Affiliates. アーキテクチャ例
- 23. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers AWS IoT Greengrass
- 24. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 1. 蓄積したデータと SageMaker Ground Truth で付与したラベル から学習してモデルを⽣成 AWS IoT Greengrass
- 25. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 2. 学習したモデルを SageMaker Neo で コンパイルして Greengrass にデプロイ AWS IoT Greengrass
- 26. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 AWS IoT Greengrass Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 3. Camera から の画像データを エッジで推論
- 27. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 AWS IoT Greengrass Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 4. 推論結果のみアップ ロードして BI で可視化・ 定期チェック 低レイテンシが必要な アクションを実⾏
- 28. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 AWS IoT Greengrass Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 5. エッジで精度が低 かった画像データを再 学習⽤にアップロード、 ラベリングを依頼
- 29. © 2020, Amazon Web Services, Inc. or its Affiliates. エッジ推論のアーキテクチャ例 AWS IoT Greengrass Actuator Camera Edge AWS Cloud Amazon QuickSight Amazon SageMaker Amazon SageMaker Neo Image Analysis ML Model AWS IoT Core S3 AWS IoT Analytics AWS Lambda Amazon SageMaker Ground Truth Neo Runtime Labelers 6. 精度が低かった画像と正しい ラベルを含めたデータセットで再 学習することで精度改善
- 30. © 2020, Amazon Web Services, Inc. or its Affiliates. まとめ • 外観検査など、現場課題への機械学習ソリューションの導入にはエッ ジ推論が適している • エッジ推論では、エッジデバイスでのデータ収集と推論、データや推 論結果のクラウドへの送信、クラウドでの推論モデル開発と精度改 善、エッジへのデプロイ、といったサイクルを構築する事が重要 • AWSでは、サイクルの構築に必要なサービスとエッジソリューション を全て提供している