GraalVMを3つの主機能から眺めてみよう（Oracle Groundbreakers APAC Virtual Tour 2020 講演資料）

© 2020 NTT DATA Corporation
GraalVMを3つの主機能から眺めてみよう
2020年10月22日 Oracle Groundbreakers APAC Virtual Tour 2020
株式会社NTTデータ技術開発本部
阪田浩一

© 2020 NTT DATA Corporation 2
自己紹介
• 阪田浩一（さかた -）
• 通称じゅくちょー
• JVMになりたい人
• NTTデータでJava/OpenJDK + GraalVMの
研究開発とそのサポート業に従事しています
• OpenJDK Author
jyukutyo

このセッションの役割
GraalVMの
真の力に目覚める！
（3つの主機能について、
その開発経緯を踏まえながら
概要を理解する）

真の力…？
GraalVMって、
ネイティブイメージ作って
起動を速くする
ツールじゃないの…？？

GraalVMの3つの主機能
1. 新JITコンパイラによるパフォーマンス向上
2. JavaScript、Ruby、Pythonといった
（JVM言語でない）言語を実行可能
3. アプリケーションをネイティブイメージにして
JVMなしで実行可能
（JVMでの実行時とは異なる特性を持つ）

結論として
GraalVMは
ネイティブイメージ生成用ツール
ではありません

GraalVMで検索するとネイティブイメージのことばかりなので…
このセッションでは
JITコンパイラと多言語実行に
比重を置きます

1. 新JITコンパイラ

GraalVM JITコンパイラは
Javaで書かれた
新しいJITコンパイラ

そのJITコンパイラを
HotSpot VM上に搭載

GraalVMとHotSpot VM
• GraalVMはHotSpot VMがベース
HotSpot VM
Compiler Interface
C2C1
HotSpot VM
C++
GraalVM
Compiler
Interface
GraalVM
JITコンパイラC1
HotSpot VM
JVMCI
Java

GraalVMは
JVMの機能を
すべて包含します

既存のJVMにできることは
すべてできます

Oracle Labsが
開発

GraalVMの2つのエディション
https://www.graalvm.org/

GraalVMの2つのエディション
1. Community Edition (CE)
• OSS (クラスパス例外付き GPL v2)
2. Enterprise Edition (EE)
• ライセンス契約が必要 (評価は無償)
• CEより実行パフォーマンスがよい
• CEよりネイティブコードのセキュリティを強化している

以降は
CEを前提にします

GraalVM JITコンパイラの
利点は？

アロケーションの多い
アプリケーションには、
GraalVM JITコンパイラが
有効

たとえば
リアクティブストリーム
で構築したものや

Scalaなど
関数型プログラミング
モデルで構築したもの

C2コンパイラより
パフォーマンスが
向上する場合がある

ベンチマーク
https://renaissance.dev/
Higher is better

Twitter社の事例
• OpenJDKベースの独自JDKにGraalVM JITコンパイラを
バックポート
• 2017年ですでに本番環境で活用
• 数千台のサーバ、Scalaアプリケーション
• サーバリソースを削減し、台数削減
• 大きなコスト削減になった
• 事例発表動画
• Twitter’s Quest for a Wholly Graal Runtime
(JavaOne 2017) https://www.youtube.com/watch?v=G-vlQaPMAxg

GraalVM JITコンパイラの利点
1. Javaで書かれている
• C++で書かれたC2コンパイラは
長年の変更で複雑化
• 新規に開発することで新機能追加、設計改善
• Javaに変更することで開発参加の門戸を広く
• 以前はこのJITコンパイラをGraalと呼んでいた

参考：OpenJDKにもポートされている（Experimental）
http://openjdk.java.net/jeps/317

2. このJITコンパイラ向けに作られた
言語実装用フレームワーク Truffle がある
• このライブラリを用いて実装した言語は、
すべてGraalVM上で実行できる
• トラフル (英)、トリュフ (仏)

2. 多言語実行環境

2. このJITコンパイラ向けに作られた
言語実装用フレームワーク Truffle がある
• このライブラリを用いて実装した言語は、
すべてGraalVM上で実行できる
• トラフル (英)、トリュフ (仏)

サポートする言語
GraalVM バージョン20.1.0時点のもの
言語プロダクト名ステータス対応バージョン
Java - - OpenJDK 8もしくは11から選択
JavaScript graaljs GA ECMAScript 2020準拠
Ruby TruffleRuby Experimental 2.6.2ベース
R FastR Experimental 3.6.1ベース
Python GraalPython Experimental 3.7ベース
WebAssembly GraalWasm Experimental WebAssembly MVP仕様
LLVM Sulong Experimental bitcodeバージョン3.8～9.0を実行可能

(なお、Java 11で
Nashornは非推奨に
なりました)

Truffleでの言語実装
HotSpot VM
JVMCI
GraalVM JITコンパイラ
JVM Lang Truffle
LLVMJS R Ruby
C C++
Fortran
Interpreter

言語実装の仕組み
対象言語の
ASTインタプリタを
Truffle APIを用いて
Javaで実装する

他言語でも高パフォーマンス
対象言語コードのASTと
インタプリタの両方を
JITコンパイラに評価させ
高性能のコードを生成

ゴールドマン・サックス社の事例
• 1990年代初め、独自に言語を開発
• 現在までコードが増え続ける
• 言語自体の運用開発が課題に

ゴールドマン・サックス社の事例
• その言語をTruffleベースに移行
• 他言語との相互呼び出しが可能に
• メトリクス取得やデバッグが容易に
• 実行パフォーマンスが向上
• 事例発表動画
• One VM to Rule Them All? Lessons Learned with
Truffle and Graal (Oracle Code One 2018)
https://www.youtube.com/watch?v=MUECwHdr07Q

究極的には
自分で実装した
プログラミング言語を
GraalVMで実行できる

言語実装サンプル
• GraalVMのリポジトリ内
• SimpleLanguage
• https://github.com/graalvm/simplelanguage
• Simpleとあるけれど、読むのは簡単ではない

私もやってみました（古いバージョンでの実装です）
https://github.com/jyukutyo/JVM-Math-Language

サポートする言語
GraalVM バージョン20.1.0時点のもの
言語プロダクト名ステータス対応バージョン
Java - - OpenJDK 8もしくは11から選択
JavaScript graaljs GA ECMAScript 2020準拠
Ruby TruffleRuby Experimental 2.6.2ベース
R FastR Experimental 3.6.1ベース
Python GraalPython Experimental 3.7ベース
WebAssembly GraalWasm Experimental WebAssembly MVP仕様
LLVM Sulong Experimental bitcodeバージョン3.8～9.0を実行可能

参考：GraalPythonの検証
• 実プロジェクトでの利用は（まだ）現実的ではない
• C拡張しているライブラリの利用するとエラーが発生する可能性があり、
確実性に不安が残る
• Pythonコードの実行が長い
たとえばインポート文の処理に時間がかかる
• Pandasであれば、インポートが数十秒単位であった
• SSLをサポートしておらず、
PythonコードでのHTTPSのAPI呼び出しはできない
• 20.2でpycファイルによるキャッシュ機能が導入されたが、
パフォーマンスは不十分である

デモ（Python3とGraalPythonでのPandasの実行）

Pythonに関しては
やはりまだ
Experimental

単に各言語を
実行できるだけでは
ない

Interoperability
パフォーマンスを大幅に
低下させることなく、
言語間で
相互呼び出しができる

Java <-> Truffle言語
はもちろん

Truffle言語間でも
(Ruby <-> JavaScriptなど)

GraalVMのビジョン
パフォーマンスを
犠牲にせず、
言語間の抽象化をする

あの処理、
別の言語のライブラリを
使うとすぐできるのに…

Javaから先ほどのPandasコードを呼び出す例

開発ツールの
サポートもある

Google Chrome DevToolsでのデバッグ

デモ（Chrome DevToolsでのデバッグ）

Graal VisualVM

3. ネイティブイメージ生成機能

GraalVMのネイティブイメージ生成
• ネイティブイメージ
(実行可能なバイナリ) を生成する機能
• 生成したイメージ (ファイル) だけで実行可能
• つまり、起動にJVM (JDK/JRE) が不要

Oracle Database
• ユーザ定義関数をJavaで作成できる
しかし、
• GraalVM自体をデータベースに組み込めば、
Javaはもちろん、他言語も使える
• 機能の更新をGraalVM側に任せられる

Oracle Databaseに
GraalVMを組み込む

Oracle Databaseへ組み込むには
• JVMが課題
• サイズが大きい
• 初期化処理が長い
• メモリ使用量が大きい
• そのままではデータベースでの利用はできない

GraalVM自体を
ネイティブイメージに
する！

ネイティブイメージにすると
• JVMが不要
• サイズが小さく済む
• 起動時間が短くなる
• メモリ使用量が少なくなる
• ただし、同じプラットフォームでしか動作しない

参考：Oracle Database MLE
• MLE: Multilingal Engine
• https://www.oracle.com/technetwork/database/multilingual-
engine/overview/index.html
select
validator.isEmail('alice@example.com’)
from dual;

こうした経緯で開発した
ネイティブイメージ
生成機能が
GraalVMの機能の1つ
となった

ネイティブイメージの現状
• Experimental
• サポートプラットフォーム
• x86 64ビットシステム
• Linux、macOS、Windows

ネイティブイメージ生成プロセス
アプリケーション
ライブラリ
JDK
SubstrateVM
下記の繰り返し:
解析ポイント
↓
初期化処理実行
↓
ヒープのスナップショット生成
ELFファイル
コード
(textセクション)
イメージヒープ
(dataセクション)

生成時に
初期化処理を実行し、
起動時間を
短縮する

デモ（ネイティブイメージ生成）

ネイティブイメージ対応フレームワーク
• Micronaut
• Quarkus
• Helidon
• Spring Framework, Bootも対応作業中
(現在はExperimental)

ネイティブイメージのメリットまとめ
• 起動時間が短くなる
• メモリ使用量が少なくなる
• サイズが小さくなる

どんなアプリケーション
でも、
ネイティブイメージに
する方がよいのか？

JITコンパイル (JVM)
と
AOTコンパイル (GraalVM)

GraalVMのネイティブイメージ機能
• AOT（Ahead-of-Time：事前）コンパイル
「実行前」に
機械語へコンパイル！

JITコンパイル
「実行中」に
JVM

超簡略化して考えると…
❌
「実行中」に
「実行前」に

同じようなことを
やっているように
見えませんか？

2つのコンパイラの処理は
重なる部分があるため、
JITコンパイラを元にして
ネイティブイメージ生成機能を
作ることができた

https://openjdk.java.net/jeps/295

ネイティブコンパイルを採用するトレードオフ
• 事前にコンパイルしたものを使うので、
利用できない機能が出てくる
• コードのinstrumentation
• 動的な再最適化
• 性能のトレードオフ
https://twitter.com/thomaswue/status/1145603781108928513

ネイティブイメージが適切なケース
• FaaS
• 起動してすぐに終了する
• クラウドで実行する
大規模アプリケーション
• リソースを節約し、コストを削減する

GraalVMの2つのモード
• JITモード
• JVMとGraalVM JITコンパイラで
アプリケーションを実行
• AOTモード
• ネイティブイメージを生成し、JVMなしで
アプリケーションを実行
• どちらのモードのことなのか、意識する

4. GraalVMとOpenJDK

Project Metropolis
OpenJDK: Metropolis https://openjdk.java.net/projects/metropolis/

JVMを
再実装する！
（ランタイムの重要な部分中心）

再実装とは？
C++の既存実装
↓
Javaで再実装

Project Metropolisの現在
• 現在：Java 15ベースのEAビルドがある
• https://jdk.java.net/metropolis/
• GraalVM JITコンパイラがデフォルトコンパイラ
• ネイティブコンパイル済み
• 次にどのコンポーネントがJava on Javaとなるのかは明らかでない
• たとえばGCは難しいだろうと言われている

JITコンパイラが
Javaで書かれていると

JITコンパイラの
Javaコードも
JITコンパイルする
必要がある

つまり
アプリケーション起動時に
その分の時間がかかる

JITコンパイラの
コードをAOTコンパイル
（ネイティブコンパイル）
してしまえば
ある程度解決できる

JITコンパイラコードのコンパイル
JavaでJITコンパイラを書く
↓
そうなるとJITコンパイラのJavaコードを
JITコンパイルすることが必要
↓
あらかじめJITコンパイラのJavaコードを
ネイティブコンパイルしておく
（libgraal/libjvmcicompiler）

JVMとGraalVMは
互いに影響を
及ぼし合っている

ただし、互いに
独立した開発
となっている

GraalVMの3つの主機能
1. 新JITコンパイラによるパフォーマンス向上
2. JavaScript、Ruby、Pythonといった
（JVM言語でない）言語を実行可能
3. アプリケーションをネイティブイメージにして
JVMなしで実行可能
（JVMでの実行時とは異なる特性を持つ）
みんなのJava OpenJDKから始まる大変革期！ https://gihyo.jp/book/2020/978-4-297-11199-1

GraalVMを3つの主機能から眺めてみよう（Oracle Groundbreakers APAC Virtual Tour 2020 講演資料）

More Related Content

What's hot (20)

Similar to GraalVMを3つの主機能から眺めてみよう（Oracle Groundbreakers APAC Virtual Tour 2020 講演資料） (20)

More from NTT DATA Technology & Innovation (20)

GraalVMを3つの主機能から眺めてみよう（Oracle Groundbreakers APAC Virtual Tour 2020 講演資料）