GTC 2017 での発表内容まとめ NEWS2019 年 3 月 17 - 21 日 シリコンバレー

日本版

GTC 2019 のエヌビディア発表内容まとめ

日本版

v1.5

世界最大の GPU 技術イベント - GTC 2019多くの先端技術企業が集うシリコンバレーで今年も GPU Technology Conference - GTC が開催されました。世界をリードする 9,000 人もの開発者、研究者そしてビジネスリーダーが集う中、3月18日 (月) 午後2時からの基調講演にはエヌビディアの創業者、CEO であるジェンスン フアンが登壇。コンピューターグラフィックス、AI/HPC、ロボティクス、自動運転など様々な分野にわたる 20 以上の発表を行いました。その中には、クラウド ゲーミングサービス GeForce NOW

への SoftBank の参加、トヨタ・リサーチ・インスティテュート・アドバンスト・デベロップメントとのパートナーシップなど、日本からの重要な発表も含まれています。GTC 2019 はサンノゼ マッケンナリー コンベンションセンターにて 3 月 21 日 (木) まで開催され、600 以上のテクニカルセッションやポスターで最新の技術情報や研究成果が発表されたほか、Deep Learning Institute ワークショップではデータサイエンスや自律動作マシン用の新しいハンズオントレーニングを多くの参加者が受講。そして GTC 史上最大の展示会場では 200 以上の協賛各社による最新技術の展示が行われました。テクニカルセッションの資料や録画はGTC 2019 のサイトで公開されます。この資料では基調講演の発表内容を簡単に紹介します。最新版は bit.ly/gtc19news からダウンロードしていただけます。また、 基調講演の完全な録画の他、GTC 2019 の内容を 4 分間に凝縮したまとめ動画を YouTube で公開しています。是非ご覧ください。

NVIDIA T4 は、2,560 個の CUDA コアと 320 個の Tensor コア、そして16 GB の GDDR6 メモリを備えて高い性能を発揮しながら消費電力を 70W に抑えた Turing 世代のデータセンター向け GPU です。この強力な T4 を搭載するだけでなく、 NGC-Ready システムとしてコンテナイメージの利用を検証済みのサーバーが Cisco、Dell EMC、富士通、HPE、Inspur、Lenovo、Sugon の各社から発表されました。これらのサーバーは、T4 の低い消費電力によって既存のデータセンターにも容易に導入でき、AI の学習と推論、データ分析、そしてGPU 仮想化による仮想デスクトップ基盤に最適です。また、基調講演には AWS のコンピュートサービス担当バイスプレジデントである Matt Garman 氏が登壇。T4 GPU を搭載する新しいGPU インスタンス「G4」のプレビュー提供開始を発表しました。T4 インスタンスの提供は Google Cloud に続いて 2 社目となります。• T4 Enterprise Servers for Every Workload

• Global Computer Companies Announce NVIDIA-Powered Enterprise Servers Optimized for Data Science

• NVIDIA T4 GPUs Coming to Amazon Web Services

NVIDIA T4 GPU がサーバー ベンダー各社と AWS で利用可能に

NVIDIA と TRI-AD、より安全な自動運転の実現に向けて協業

エヌビディアは、自動運転車の開発、学習および検証の分野において、トヨタ・リサーチ・インスティテュート・アドバンスト・デベロップメント株式会社 (以下 「TRI-AD」) と新たに協業することを発表しました。この協業は、NVIDIA DRIVE AGX Xavier™ 車載コンピューターを活用する、トヨタ自動車株式会社との既存の関係を発展させたもので、NVIDIA と日本の TRI-AD、米国の Toyota Research Institute の 3 社による開発活動を元にしています。

今回のパートナーシップに含まれる分野は以下の通りです。• NVIDIA GPU を活用した AI コンピューティング インフラストラクチャ• NVIDIA DRIVE Constellation™ プラットフォームを活用したシミュレーション• DRIVE AGX Xavier あるいは DRIVE AGX Pegasus™ をベースにした、自動運転車の開発に向けた車載コンピューター詳細はこちら▶ NVIDIA と TRI-AD、より安全な自動運転の実現に向けて協業

DGX POD はエヌビディアが自社のスーパーコンピューターである DGX SATURNV 構築の経験を元に、Arista、Cisco、DDN、Dell EMC、IBM Storage、Mellanox、NetApp、Pure Storage といった業界をリードするパートナー企業と共同で策定している AI 基盤のリファレンス アーキテクチャです。今回、パートナー各社から DGX POD に基づいてソリューションについて新たな発表がありました。• NetApp ONTAP AI が DGX-2 をサポート: これまでの DGX-1 に加えて、2ペタフロップスの性能を持つ DGX-2 をサポート• Pure Storage が Hyper-scale AIRI を発表: FlashBlade と DGX-1 および DGX-2 からなる AIRI は最小の 2 ノードから 64 ラッ

クの大規模構成までをサポート• Dell EMC Isilon with NVIDIA DGX-1 が登場: DGX POD エコシステムに Dell EMC の Isilon + DGX-1 が仲間入り• DGX-2 が Red Hat Enterprise Linux (RHEL) の認定ハードウェアに: 従来認定されていた DGX-1 に加え、 DGX-2 のサポー

トが加わることで、エンタープライズで高いシェアを持つ RHEL を大規模な DGX POD ベースシステムで利用可能に

DGX POD エコシステムの拡充 - 各社が DGX-2 に対応、RHEL も利用可能に

CUDA-X - CUDA 上に構築された 40 以上のアクセラレーテッド コンピューティング ライブラリ群

基調講演では AI、HPC、グラフィックス、ロボティクス、メディカルなど様々な用途をカバーするライブラリ群として「CUDA-X」や「CUDA-X

AI」という新しい名前が登場しました。これは CUDA ベースで構築された実績あるライブラリ群の総称です。例えば CUDA-X AI は、cuDNN、DALI、NCCL、Clara SDK、TensorRT、TensorRT Inference Server からなり、グラフィクス系の CUDA-X としては Optix

や VRWorks、ロボティクス向けには Isaac SDK、JetPack、Drive Software 等が含まれます。• NVIDIA Announces CUDA-X AI SDK for GPU-Accelerated Data Science

• NVIDIA CUDA-X AI

NVIDIAは、GeForce NOW Alliance を新たに立ち上げました。これは電気通信事業者のパートナーシップで、最適化された RTX

サーバーを活用して、クラウド ゲーミングのエクスペリエンスを全世界で普及および向上させることを目的としています。5G ネットワークが現実のものとなり、商業での利用が可能になることで、電気通信事業者は、自社のネットワークでクラウド ゲーミングを配信するためのターンキー ソリューションを持つようになります。GTC 2019 の基調講演では、GeForce NOW Alliance のローンチパートナーとして、日本のソフトバンク株式会社が韓国の LG U+と共に参加することが発表されました。詳細はこちら▶ 世界の通信事業者が NVIDIA GeForce NOW Alliance に参加し、5G でクラウド ゲーミングを展開

ソフトバンクが NVIDIA GeForce NOW Alliance に参加し、5G でクラウド ゲーミングを展開

医用画像処理の分野では、スキャンデータからの画像再構成などに従来から GPU が活用されてきました。そして今、AI がこの分野にさらなる進化をもたらそうとしています。 CLARA AI Toolkit は放射線医が行う CT や MRI 画像の読影を、ディープラーニングによる画像解析で強力に支援するためのツールキットで、Clara Train SDK と Clara Deploy SDK という 2 種類のソフトウェア開発者キットから構成されます。Clara Train SDK の主要機能の一つは「AI によるアノテーション支援」です。CT や MRI 機器からは一度の検査で数百の画像スライスが生成され、手動でアノテーションを行うのは大変な労力を要しまが、Clara Train SDK に含まれる 13 の学習済みモデルを活用したアノテーション支援は、臓器のセグメンテーションにおいて手動アノテーションとの比較で最大 10 倍の高速化を実現します。Clara Train SDK のもう一つの重要な機能は転移学習を効率的に行うための Transfer Learning Toolkit (TLT) で、ResNet、AlexNet、GoogLeNet、VGG 等のトレーニング済みモデルと、それらをベースに再トレーニングや枝刈りを行い、TensorRT の推論モデルに変換する機能などを備えます。また Clara Deploy SDK は Train SDK で作成したモデルを使った医用画像処理ワークフローを構築するための、コンテナベースの開発/展開フレームワークで、データ取り込み用の DICOM アダプター、推論を高速に行う TensorRT 推論サーバー、そして可視化のための Web UI

が Kubernetes 上で動作します。• NVIDIA CLARA Platform

• Clara AI Lets Every Radiologist Teach Their Own AI

• Fast AI Assisted Annotation and Transfer Learning with Clara Train

• Create, Manage, and Deploy AI-Enhanced Clinical Workflows with Clara Deploy SDK

CLARA AI Toolkit - 医用画像処理を AI で支援

NVIDIA RTX Server はデータセンター向けグラフィックスサーバーのリファレンス設計です。8U のサイズに 40 基の Turing アーキテクチャGPU を搭載し、主要なサーバーベンダーによって構築および検証されます。想定される用途は次のようなものです。• バッチレンダリングの高速化: 複数のレンダリングジョブを一括処理するバッチレンダリングを GPU で大幅に高速化します。• 仮想ワークステーション: 1 台の NVIDIA RTX Server と Quadro vDWS テクノロジによって、管理の容易な複数の仮想ワークス

テーションや、それら仮想ワークステーションとレンダリング ノードの組み合わせを実現します。• デスクトップ レンダリングの高速化: ユーザーの手元にあるローカル ワークステーションで動作するレンダリング アプリケーションは、負

荷の大きなレンダリング処理を RTX Server にオフロードし、Turing GPU による高速レンダリングの恩恵を受けることができます。• Omniverse: 今回の GTC では、強力なコラボレーション機能を備えた映像作品制作プラットフォームである Omniverse も発表さ

れました。様々なアプリケーション間でのアセット共有を容易に実現し、映像制作者の共同作業をサポートする Omniverse の基盤として RTX Server は最適なハードウェアです。

同時に、RTX Server の大規模展開を想定したリファレンスアーキテクチャである RTX Server POD も発表されました。これは最大 32

ノードの RTX Server を InfiniBand で接続するクラスターで、10ラックに 1,280 GPU を集約します。

NVIDIA RTX Server / RTX Server POD

エヌビディアは世界の主要なコンピューター メーカーと共同で、データ サイエンティストやアナリスト、エンジニア向けの強力なワークステーションを提供します。この「データサイエンス ワークステーション」は Turing 世代のハイエンド GPU である Quadro RTX 8000 または RTX 6000

を 2 基、NVLink ブリッジで結合した状態で搭載し、最新の機械学習モデルが必要とする膨大な演算性能や最大 96GB の GPU メモリを提供します。OEM パートナーによってテストされ高い信頼性を持つこのワークステーションは、NVIDIA CUDA-X AI および RAPIDS データサイエンスライブラリをあらかじめ構成済みで、GPU に最適化された TensorFlow や PyTorch 等をすぐに使い始めることができるだけでなく、エヌビディアによるサポートサービスを追加することも可能です。データサイエンス ワークステーションは Dell、HP、Lenovo といったグローバルパートナーだけでなく、各国のパートナーから提供されます。• NVIDIA Introduces New Breed of High-Performance Workstations for Millions of Data Scientists

• NVIDIA-POWERED DATA SCIENCE WORKSTATION

Quadro RTX GPU を搭載するデータサイエンス ワークステーション

Jetson ファミリーに新しい仲間が加わりました。 GTC 2019 の基調講演で発表された Jetson Nano は 70 x 45mm の小さなモジュールながら 128 CUDA コアの Maxwell アーキテクチャ GPU を搭載し、472 GFLOPS の FP16 性能を発揮するパワフルな CUDA-X AI コンピューターです。4コアの ARM a57 CPU と 4GB メモリを搭載し、省電力は 5-10W、他の Jetson と同様に JetPack によってソフトウェア環境が提供され、Ubuntu ベースの Linux、最新の CUDA、cuDNN、TensorRT を含む CUDA-X AI ライブラリがサポートされます。もちろん、TensorFlow、PyTorch、MXNet、Caffe 2、Darknet 等の主要なディープラーニングフレームワークが動作しますので、画像分類、物体検出などの様々なモデルをロボットやドローンといった種々の自律動作マシンで利用できます。開発者キットは $99 という手頃な価格で、 GTC 2019 の会場では先行して販売されています。日本では代理店の菱洋エレクトロ株式会社、株式会社マクニカ クラビス カンパニー、株式会社ネクスティエレクトロニクスから購入可能です。また同時に、 NVIDIA Isaac SDK の一般提供を近日開始することが発表されました。Isaac SDK はロボット開発者向けのソフトウェアツールボックスで、自動搬送ロボットなどのサンプルアプリケーション、音声認識や障害物の回避、LIDARベースのローカリゼーションなど様々な機能を実現する GEM と呼ばれるモジュール、仮想空間で様々なテストを行うためのシミュレーターなどから構成され、ロボット開発者の負担を大幅に軽減することが可能です。• JETSON NANO - モダン AI のパワーを数百万のデバイスへ• Revving Robotics: NVIDIA Isaac SDK Brings Modern AI to Autonomous Machines

Jetson Nano - $99 のパワフルな CUDA-X AI コンピューター

RTX によるレイトレーシングの広がり

NVIDIA RTX テクノロジではリアルタイム レイトレーシングによる映画並みにリアルなグラフィックスを実現します。GTC 2019 では大手ゲームエンジンにレイトレーシングの機能が搭載されることが発表され、多くの開発者がレイトレーシングを使ったゲームを開発できる環境が整いました。• Epic Games はレイトレーシングに対応した Unreal Engine 4.22 をリリースしました• Unity はバージョン 2019.03 にて、レイトレーシングに対応する実験的なビルドを 4 月 4 日に公開予定ですまた、1997 年にリリースされた「Quake II」に RTX によるリアルな照明効果が追加され、懐かしのゲームが見違えるほどのグラフィックスで蘇り、基調講演の参加者を驚かせました。• 『DRAGON HOUND』 リアルタイム レイトレーシングデモ - GeForce RTX

• 『Quake II』 リアルタイム レイトレーシング デモ (字幕付)

NGC はもはや「単なるコンテナイメージのレジストリ」ではありません。今回の更新で新たに、「学習済みのモデル」と「学習を実行するためのスクリプト」がそのラインナップに加わりました。モデルには Clara SDK 向けの医用画像セグメンテーションや、NVIDIA Transfer Learning Toolkit (TLT)

用の物体検出モデルといった業種別ソリューションが揃っており、スクリプトも BERT for TensorFlow や Transformer for PyTorch など実用性の高いものをすぐに利用できます。また、前述の NGC-Ready システムにエンタープラーズレベルのサポートを提供する「NVIDIA NGC Support

Services」を開始します。これにより NGC-Ready システムのユーザーは素早く問題を解決し、高い生産性を維持することができます。• NVIDIA Expands NGC Software Hub with Tools for Data Scientists to Build Optimized Solutions Faster

NVIDIA GPU Cloud (NGC) - 新たなイメージ、学習済みモデルとスクリプト、エンタープライズレベルのサポート

Facebook: https://www.facebook.com/NVIDIAAI.JP

Twitter: @NVIDIAAIJP / @NVIDIAJapan ハッシュタグ: #GTC19

この資料: bit.ly/gtc19news

作成者: @_ksasaki

GTC 2019 の基調講演で発表された DRIVE AP2X は完全なレベル 2+ の自動運転ソリューションです。自動運転の各種機能を実装する DRIVE AV、インテリジェントコクピットを実現する DRIVE IX と、それらを支える DRIVE WORKS アクセラレーションライブラリ、そしてリアルタイム OS である DRIVE OS からなり、高性能でエネルギー効率の高い NVIDIA Xavier SoC 上で動作します。DRIVE AP2X の重要な機能の一つが DRIVE AV ソフトウェアに含まれる NVIDIA Safety Force Field (SFF) です。SFF は各種のセンサーで自車の周囲の状況を分析し、潜在的な危険や衝突から乗員を保護します。基調講演では、SFF による緊急自動ブレーキ、交差点での対抗左折車 (日本であれば右折車) の認識と衝突回避、激しい渋滞の中での安全な車線変更などがデモされました。SFF

の性能は実世界のデータとそれを元にした精度の高いシミュレーションで検証されています。DRIVE AP2X は継続的に進化を続け、次期リリースである DRIVE AP2X 9.0 ではマッピングと自己位置推定の精度をさらに高めるMapNet や、逆光/泥/雪などでカメラの視界が損なわれたことを認識する ClearSightNetが追加されます。また、自動運転のシミュレーションプラットフォームである DRIVE Constellation の供用開始も発表されました。Drive Constellation は、2 台のサーバーから構成される自動運転シミュレーターです。一方のサーバーでは DRIVE Sim ソフトウェアが走行環境を作り出して仮想車両を走行させ、各種センサーデータを生成します。DRIVE Sim は晴天、雨、吹雪といった気象状況、逆光や夜間走行による視界の変化などを自在に生成できます。実走では危険を伴う状況も、DRIVE Sim では安全に何度でも再現することができるのです。もう一方のサーバーである DRIVE Constellation Vehicle には DRIVE AGX Pegasus コンピューターが搭載され、DRIVE Sim が生成したセンサーデータを受け取って車両の行動を決定し、制御コマンドをシミュレーターへ送り返します。DRIVE Constellation プラットフォームではこのような検証を、様々な状況を設定しながら同時並行的に実施可能です。多数の車両からなるテストフリートを実際に走行させるかのように、シミュレーターで年間数億 km に相当するテストを行うこともできるのです。詳細はこちら▼• NVIDIA Announces DRIVE AP2X – World’s Most Complete Level 2+ Autonomous Vehicle Platform

• The Test Fleet of the Future Is Virtual: DRIVE Constellation Now Available

DRIVE AP2X / DRIVE Constellation

かつて、ディープラーニングの学習処理は単精度浮動小数点 (FP32) で計算されることが一般的でしたが、 Pascal アーキテクチャで FP16

演算がサポートされ、また Volta アーキテクチャでは半精度 (FP16)と FP32 を組み合わせた混合精度で行列積を高速に計算するTensor

コアが導入されました。混合精度演算をディープラーニングの学習に使うメリットとしては、Tensor コアによる主に畳み込み演算の高速化や、FP32 と比べて必要なメモリサイズを削減できる点があります。つまり、より大きなモデルを高速に計算できるポテンシャルがあります。しかしながら、混合精度演算を活用するにはソフトウェア側で主に二つの点に対処しなければなりません。一つは、FP16 を使うようにモデルを修正すること、もう一つは小さな勾配の消失を避けるため、ロス スケーリングという処理を適用することです。Automatic Mixed Precision は、これらをわずかな追加コードで実現する機能で、今回 TensorFlow、PyTorch、MXNet でのサポートが発表されました。TensorFlow は NGC に対応済みイメージが登録済み、PyTorch 用には APEX を使って混合精度演算を行うスクリプトがやはり NGC からダウンロードできます。• Automatic Mixed Precision for Deep Learning

• NVIDIA Apex: Tools for Easy Mixed-Precision Training in PyTorch

混合精度演算の自動適用でディープラーニングを高速化

GPU データサイエンス ライブラリ RAPIDS がより多くの環境で利用可能に

GPU Open Analytics Initiative (GOAI) から発展した RAPIDS は、これまで主に CPU 上で行われていたデータサイエンス タスクを GPU

上で効率的に処理するためのライブラリです。オープンソースプロジェクトである RAPIDS は、 GitHub でソースコードが公開されているほか、Docker Hub や NGC のコンテナイメージ、あるいは Anaconda のパッケージなど様々な形で入手可能です。今回、さらに以下のような様々なサービスで RAPIDS への対応が発表されました。• データサイエンス ワークステーション: CUDA-X AI および RAPIDS が事前構成済みで、すぐに利用できます。• Databricks Unified Analytics Platform: クラウドベースのマネージド Apache Spark サービスである Databricks Unified

Analytics Platform が RAPIDS をサポートしました。• Google Compute Engine: GPU ドライバから RAPIDS まですべて構成済みのDeep Learning VM イメージが用意されています。• Azure Machine Learning サービス: マネージド機械学習サービスである Azure Machine Learning も RAPIDS をサポートしました。

Tensor コアに最適化されたサンプルプログラム TensorRT の最新情報

エヌビディアは主要なディープラーニングフレームワーク向けに Tensor コアの混合精度演算を活用するサンプルプログラムを定期的にリリースしており、今回TensorFlow と PyTorch 用に ResNet50、SSD、NCF、Mask R-CNN、Tacotron2、Transformer、BERT、UNet_Industrialの9種類を追加しました。詳細はこちら▼Deep Learning Examples

GitHub: NVIDIA/DeepLearningExamples

TensorRT 5.1 のリリース - DenseNet や TinyYOLO などの新しいモデルを最適化するために 20 以上の新しいレイヤーと演算子をサポート。また、TensorFlow 2.0 alpha とも統合。

ONNX Runtime が TensorRT をサポート -マイクロソフトが主導する ONNX

Runtime が TensorRT実行プロバイダのプレビューを開始。TensorRT Inference Server 1.0 のリリース - 最初の正式版。API の安定化やステートフルなモデルおよびバックエンド、gRPC ストリーミングのサポート。

仮想 GPU ソフトウェアの最新版 (8.0) が GTC 2019 のタイミングで発表されました。主な新機能は次の通りです。• Quadro RTX 6000、RTX 8000 のサポート - これによりシステム管理者は、RTX Server の強力な GPU 性能を複数の仮想

ワークステーションに割り当てたり、あるいは仮想ワークステーションとレンダリング サーバーのインスタンスを柔軟に組み合わせることが可能になります。 RTX Server 上の Quadro vDWS を利用することで、ユーザーは自分の働く場所やデバイスの種類を問わずに RTX プラットフォームを活用するアプリケーションにアクセスできます。

• NVIDIA Tesla V100 の Live Migration サポート - Citrix Hypervisor (旧称: XenServer) および VMWare vSphere において、Tesla V100 の Live Migration がサポートされました。Tesla V100 を vGPU 環境で利用する場合にも、ユーザーに影響を与えることなくホストのメンテナンスや構成変更を行えます。

• 1B プロファイルでの 4K ディスプレイ サポート - NVIDIA GRID vPC が1台の 4K ディスプレイを 1B プロファイルでサポートします。• Windows 10 October 2018 Update (1809) のサポート - 最新の Windows 10, version 1809 と Windows Server

2019 をサポートします。詳細はこちら▼• Quadro Virtual Workstation Streams from NVIDIA RTX Server

• NVIDIA QUADRO vDWS

• 仮想化のためのNVIDIA TESLA GPU

NVIDIA VIRTUAL GPU SOFTWARE MARCH 2019 RELEASE (GRID 8.0)