컴퓨팅 분야 신규 서비스 - 조상만, AWS 솔루션즈 아키텍트 :: AWS re:Invent re:Cap 2021

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved.
컴퓨팅 분야 신규 서비스
조상만
솔루션즈 아키텍트
AWS

• 2022 기준 AWS EC2 인스턴스 개요
• Intel 기반의 신규 인스턴스 소개
• AMD 기반의 신규 인스턴스 소개
• ARM 기반의 신규 인스턴스 소개
• 특화 신규 인스턴스 소개
Agenda

2022년 기준 AWS EC2 인스턴스의 개요

2006년 VS 2022년

많은 고객들이 이미 EC2 인스턴스를
사용하고 있습니다!
60 million instances
launched / day*
* in 2021 (double 2019 daily avg)
Amazon EC2

AWS EC2 인스턴스 표기법
인스턴스 패밀리
(Family)
인스턴스 크기
(Size)
인스턴스 세대
(Generation)
C 5 d . 9xlarge
Additional
capabilities
• 인스턴스 패밀리
§ 인스턴스 타입(메모리, 컴퓨팅,..)
• 인스턴스 세대
§ 최신 세대일수록 가성비가 좋음
• Additional capability
§ d : Local NVMe SSD
§ n : 네트워크 특화
§ z : 클럭스피드 특화
§ i : Intel
§ a : AMD
§ g : Graviton
• 인스턴스 크기
§ T-shirt 사이즈 개념과 유사

Intel 기반의 신규 인스턴스 소개

Intel 기반의 대표적 인스턴스 타입
인스턴스 패밀리 Intel
M General Purpose (4:1) M6i
C Compute Intensive (2:1) C6i
R Memory Optimized (8:1) R6i
X In Memory (>=16:1) X2idn
T Burstable T3
I High IO (SSD) I4i
D Dense Storage (HSD) D3
G Graphic Intensive G4dn
정식 출시
Preview

컴퓨팅에 특화된 인텔 기반의 인스턴스, C6i
6
t
h
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
C
o
m
p
u
t
e
O
p
t
i
m
i
z
e
d
C 6 i
P
r
o
c
e
s
s
o
r
I
n
t
e
l
• 3세대 인텔 제온 스케일러블 프로세서
(코드명 아이스 레이크) 기반 인스턴스
• 올코어 최대 3.5GHz로 구동
§ C5 인스턴스보다 최대 15% 가성비 향상
• 최대 128 vCPU, 256GB 메모리 제공
• 최대 50Gbps 네트워크 성능
§ 이전 세대 대비 2배 향상
• 10개 인스턴스 사이즈 선택 가능

C6i : Siemems SimCenter STAR-CCM + Le Mans
벤치마크
$10
$15
$20
$25
$30
$35
$40
$45
$50
0 1000 2000 3000 4000
Cost
per
simulation
($)
Cores
Amazon EC2
c5n.18xlarge
Amazon EC2
c6i.32xlarge
10
110
210
310
410
510
610
710
0 1000 2000 3000 4000
Iterations
per
minute
Cores
Amazon EC2
c5n.18xlarge
Amazon EC2
c6i.32xlarge
20% performance improvement per core and 35% less cost
자동차 유체 역학 시뮬레이션 벤치마크

대용량 메모리를 제공하는 X2i 인스턴스 (Preview)
C
a
t
e
g
o
r
y
H
i
g
h
M
e
m
o
r
y
X 2 i d n
2
n
d
G
e
n
e
r
a
t
i
o
n
A
d
d
i
t
i
o
n
L
o
c
a
l
S
t
o
r
a
g
e
N
e
t
w
o
r
k
O
p
t
i
m
i
z
e
d
P
r
o
c
e
s
s
o
r
I
n
t
e
l
C
a
t
e
g
o
r
y
H
i
g
h
M
e
m
o
r
y
X 2 i e
2
n
d
G
e
n
e
r
a
t
i
o
n
A
d
d
i
t
i
o
n
E
x
t
r
a
M
e
m
o
r
y
P
r
o
c
e
s
s
o
r
I
n
t
e
l
n
d
N
e
t
w
o
r
k
O
p
t
i
m
i
z
e
d
L
o
c
a
l
S
t
o
r
a
g
e
C
a
t
e
g
o
r
y
H
i
g
h
M
e
m
o
r
y
X 2 i e
2
n
d
G
e
n
e
r
a
t
i
o
n
A
d
d
i
t
i
o
n
E
x
t
r
a
M
e
m
o
r
y
P
r
o
c
e
s
s
o
r
I
n
t
e
l
n
z
N
e
t
w
o
r
k
O
p
t
i
m
i
z
e
d
H
i
g
h
F
r
e
q
u
e
n
c
y
‘e’ 추가
‘z’ 추가, ‘d’ 삭제

AMD 기반의 신규 인스턴스 소개

AMD 기반의 대표적 인스턴스 타입
인스턴스 패밀리 AMD
M General Purpose (4:1) M6a
C Compute Intensive (2:1) C5a
R Memory Optimized (8:1) R5a
X In Memory (>=16:1)
T Burstable T3a
I High IO (SSD)
D Dense Storage (HSD)
G Graphic Intensive G5
정식 출시
Preview

범용 인스턴스, M6a
6
t
h
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
G
e
n
e
r
a
l
P
u
r
p
o
s
e
M 6 a
P
r
o
c
e
s
s
o
r
A
M
D
• 3세대 AMD EPYC(Milan) 프로세서 기반
§ 192vCPU, 768GB 메모리, 3.6GHz 클럭 스피드
• M5a 인스턴스에 비해 최대 35% 가성비 향상
• Intel 인스턴스에 비해 10% 비용 이점 계속 유지
• SAP 인증
§ 이전 세대에서는 C5a 인스턴스만 SAP 인증
• 50Gbps 네트워크 성능 제공 (M5 대비 2.5배 증가)
§ 48xlarge에서는 EFA 가능
• 10개 인스턴스 사이즈 선택 가능

ARM 기반의 신규 인스턴스 소개

아마존이 자체 칩을 계속 개발 하는 이유?
기존 기성 칩으로는 고객에게 가성비
있는 인스턴스를 제공하기 어렵다.
AWS는 Graviton2 프로세서로 구동되는
12개의 EC2 인스턴스를 이미 출시했습니다.

Graviton 인스턴스로 최적화된
다양한 AWS 서비스들..
Lambda 런타임 세팅

Graviton 기반의 대표적 인스턴스 타입
인스턴스 패밀리 Graviton
M General Purpose (4:1) M6g
C Compute Intensive (2:1) C7g
R Memory Optimized (8:1) R6g
X In Memory (>=16:1) X2gd
T Burstable T4g
I High IO (SSD) Im4gn
D Dense Storage (HSD)
G Graphic Intensive G5g
정식 출시
Preview

Graviton3 기반의 컴퓨팅 특화 인스턴스, C7g
(Preview)
7
t
h
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
C
o
m
p
u
t
e
o
p
t
i
m
i
z
e
d
C 7 g
P
r
o
c
e
s
s
o
r
G
r
a
v
i
t
o
n
• Graviton2(C6g)에 비해
§ 최대 25% 향상된 컴퓨팅 성능
§ 최대 두 배의 부동 소수점 연산 및 암호화 성능 제공
§ 기계 학습 측면에서 Graviton3는 bfloat16 데이터에
대한 지원을 포함하며 최대 3배 더 나은 성능 제공
• 클라우드 업계 최초로 50%의 추가 대역폭을 제공하는
DDR5 메모리 탑재
• 유사한 x86 인스턴스에 비해 에너지 소비량 60% 감소
• AWS Graviton2 기반 인스턴스에 비해 20% 더 높은
네트워킹 대역폭 기능 제공

Graviton2 기반의 스토리지 특화 (‘I’ 타입) 인스턴스
• ‘I’ 타입의 4세대 인스턴스
• AWS에서 설계한 AWS Nitro SSD에서 최대 30TB의 NVMe 스토리지(인스턴스 스토어)를
사용하여 I/O 집약적 워크로드의 스토리지 성능을 극대화하도록 설계
• AWS가 Nitro SSD에서 FTL 최적화 작업 수행(AWS 자체 FTL 개발)
• 이전 세대 I3/I3en 인스턴스와 비교 시, I/O 지연 시간이 60% 더 낮음

S
u
b
c
a
t
e
g
o
r
y
G
e
n
e
r
a
l
P
u
r
p
o
s
e
(
4
:
1
)
C
a
t
e
g
o
r
y
L
o
c
a
l
D
i
s
k
o
p
t
i
m
i
z
e
d
(
S
S
D
)
I m 4 g n
4
t
h
G
e
n
e
r
a
t
i
o
n
P
r
o
c
e
s
s
o
r
G
r
a
v
i
t
o
n
N
e
t
w
o
r
k
O
p
t
i
m
i
z
e
d
• M 범주 또는 4:1의 메모리 대 vCPU 비율
• I3 인스턴스에 비해 가격 대비 성능이 최대
40% 향상되고, TB당 비용이 최대 44% 저렴

S
u
b
c
a
t
e
g
o
r
y
M
o
r
e
M
e
m
o
r
y
(
6
:
1
)
C
a
t
e
g
o
r
y
L
o
c
a
l
D
i
s
k
o
p
t
i
m
i
z
e
d
(
S
S
D
)
I s 4 g e n
4
t
h
G
e
n
e
r
a
t
i
o
n
P
r
o
c
e
s
s
o
r
G
r
a
v
i
t
o
n
A
d
d
i
t
i
o
n
s
E
x
t
r
a
S
t
o
r
a
g
e
N
e
t
w
o
r
k
O
p
t
i
m
i
z
e
d
• "s"를 "6(Six)"으로 생각하면, 6:1의 메모리 대
vCPU 비율
• ‘e’ : Is4gen은 8xlarge 크기에서 이미 30TB에
도달하는 반면, Im4gn은 16xlarge 크기에서
30TB 도달
• Is4gen 인스턴스는 I3en 인스턴스에 비해
TB당 비용이 15% 더 낮고 컴퓨팅 성능은
48% 우수

Graviton2 기반의 GPU 최적화 인스턴스, G5g
5
t
h
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
G
P
U
o
p
t
i
m
i
z
e
d
G 5 g
P
r
o
c
e
s
s
o
r
G
r
a
v
i
t
o
n
• Graviton2 + NVIDIA Tensor Core GPU
• 머신 러닝 추론 또는 그래픽 처리에 적합
• x86 기반 GPU 인스턴스보다 Android 게임 스트리밍에 대해
시간당 스트리밍 별 최대 30% 더 저렴한 비용 제공
• CPU 성능에 민감한 모델에서 머신러닝 추론을 위한 비용
효율적인 인스턴스

특화 인스턴스 소개

대표적 특화 인스턴스
인스턴스 패밀리 Spcialized
Mac Mac OS Mac2
DL Deep Learning Training DL1
Trn Trainium Trn1
Inf Inferentia Inf1
P Machine Learning & HPC P4
F FPGA F1
VT Video Transcoding VT1
U High Memory U-
Z High Frequency Z1d
정식 출시
Preview

AWS에서 제공하는 AI/ML 용 인스턴스

딥러닝 트레이닝을 위한
AWS Tranium 기반 인스턴스 (Preview)
1
s
t
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
A
W
S
T
r
a
n
i
u
m
Trn 1
• AWS가 개발한 두번 째 기계 학습 전용 칩 기반 인스턴스
• 최신 P4d 인스턴스와 비교하여 딥러닝 모델을 교육하는 데
드는 비용을 최대 40%까지 절감
• 클라우드에서 가장 빠르고 저렴한 AI/ML 트레이닝 가능
• 800Gbps EFA 네트워킹 대역폭(최신 EC2 GPU 기반
인스턴스보다 2배 높음) 제공
• EC2 UltraClusters(일종의 머신러닝 전용 슈퍼컴퓨터)에
배포하면 Trn1을 수만 개의 가속기로 확장 가능

Trn1 성능 (GPT3 기준)

Trn1을 이용한 UltraClusters 의 구성
• 고객에게 슈퍼컴퓨팅 급
성능에 대한 온디맨드
액세스를 제공
• 규모면에서 P4d 기반
UltraClusters 대비 2.5배
• 10,000 개 이상의 Trn1
연결 가능

M1 프로세서 기반의 신규 Mac 인스턴스 (Preview)
2
n
d
G
e
n
e
r
a
t
i
o
n
C
a
t
e
g
o
r
y
M
a
c
O
S
Mac 2
• Apple의 M1 프로세서를 기반으로 하는 새로운 Mac2
인스턴스
• ARM64 macOS 환경을 AWS에 처음으로 사용하여 Apple
애플리케이션을 개발, 구축, 테스트, 배포 및 실행
• x86 기반 EC2 Mac 인스턴스(1세대 macOS 인스턴스)
대비 최대 60% 나은 가격 성능 제공

Summary
1. 인스턴스 수의 폭발적 증가 : 현재 475개
2. 인스턴스 표기법만 잘 이해하면, 인스턴스의 특성을 파악 할 수 있다!
3. 인텔 기반의 인스턴스가 더 이상 de facto 인스턴스가 아님
4. AWS에서는 고객에게 가성비 있는 인스턴스 제공을 위해 자체 칩을 꾸준히 출시

여러분의 소중한 피드백을 기다립니다.
행사 종료 후, 행사 및 강연 평가에 참여해 주세요!

감사합니다

컴퓨팅 분야 신규 서비스 - 조상만, AWS 솔루션즈 아키텍트 :: AWS re:Invent re:Cap 2021

More Related Content

What's hot (20)

Similar to 컴퓨팅 분야 신규 서비스 - 조상만, AWS 솔루션즈 아키텍트 :: AWS re:Invent re:Cap 2021 (20)

More from Amazon Web Services Korea (20)

컴퓨팅 분야 신규 서비스 - 조상만, AWS 솔루션즈 아키텍트 :: AWS re:Invent re:Cap 2021