SlideShare a Scribd company logo
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
제 3 회 | 금 융 고 객 을 위 한 R E : I N V E N T 2 0 2 4 R E : C A P E V E N T
성공적인 2025년을 위해 금융사가
알아야 할 re:Invent 2024의 주요
테크니컬 업데이트
Myeongsu Jeon
Senior Solutions Architect
Amazon Web Services
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
• Keynotes
• Generative AI
• Compute & Containers
• Analytics & Databases
• Security & Compliance
• Migration & Networking
Agenda
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Keynotes
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
re:Invent 2024 키노트 스피커
12/2 (Mon) 12/3 (Tue) 12/4 (Wed) 12/5 (Thu)
Peter DeSantis
AWS 유틸리티 컴퓨팅 부문 수석
부사장
Matt Garman
AWS CEO
Dr. Swami Sivasubramanian
AWS 데이터 및 AI 부문 부사장
Dr. Werner Vogels
아마존닷컴 부사장 겸 CTO
Dr. Ruba Borno
AWS 글로벌 스페셜리스트 및 파트너
부문 부사장
Andy Jassy
아마존 사장 겸 CEO
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Peter DeSantis 키노트 요약
• 컴퓨팅 혁신
• Graviton4: 최근 2년간 새로 추가된 CPU
용량의 50% 이상이 Graviton
• Nitro: 유연성, 제조 단계부터의 보안
• 스토리지 혁신
• Nitro 기반 분산 스토리지
• AI 전용 인프라
• Trainium2(Trn2): 20.8 FP8 PFLOPS, 1.5TB
HBM
• AI 전용 네트워크 개발 적용 Trn2 UltraServers
• Trn2 적용 Amazon Bedrock latency-
optimized inference
• Anthropic과의 협업
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Matt Garman 키노트 요약
• 컴퓨트
• Trn2 GA,Trn3 예고(내년)
• P6(Blackwell) 예고(내년 초)
• 스토리지
• S3 Tables, S3 Metadata
• 데이터베이스
• Aurora DSQL
• 인퍼런스
• Bedrock, Q, SageMaker
업데이트 등
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Matt Garman 키노트 요약
• 아마존의 AI 접근 방식
• 25년간 AI를 광범위하게 적용해 왔음
• 기술 자체가 아닌 “실용적 AI” 추구
• 아마존 내부 AI 활용 사례
• CS 챗봇 사용 시점 기반 의도 예측, 감정 파악으로
상담원 연결
• Seller 상품 등록 도구; 키워드, 이미지, URL을 통해
상품 속성 추출 자동 입력
• 쇼핑 도우미(Rufus): 검색, 비교, 추천 등
• 그외 재고관리, 로봇, Prime 적용 사례 공유
• Amazon Nova 발표
• 이후 계획
• Speech to Speech(내년 1분기)
• Any to Any(내년 중반)
Andy Jassy, 아마존 사장 겸 CEO
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Dr. Swami Sivasubramanian 키노트 요약
• Amazon SageMaker 업데이트
• Amazon Bedrock 업데이트
• Amazon Q 업데이트
• Autodesk 3D 디자인 GenAI 적용사례
• SageMaker, DDB, EKS, EMR, Glue…
• Rocket Companies Bedrock 적용사례
• 모기지 절차에서 70% 인터액션을
자동화
• Luma AI SageMaker HyperPod
적용사례
• Ray2(비디오 생성 모델) Bedrock에
포함될 예정
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Dr. Werner Vogels 키노트 요약
• 시스템이 커질수록 복잡성을 피하기 어려움
• 복잡성을 다루기 위한 관리가 필요함
복잡성을 다루기 위한 6가지 교훈 제시
1. 진화 가능성(Evolvability)을 요구사항으로 설정
2. 복잡성을 작은 단위로 분해
3. 조직을 아키텍처에 맞추기
4. Cell 기반 아키텍처
5. 예측 가능한 시스템 설계
6. 복잡성의 자동화
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Technical updates
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024에서 공개된 내용들
124
re:Invent (Dec 1st – Dec 6th)
422
pre-re:Invent (Oct 30th – Nov 30th)
546
updates (Oct 30th – Dec 6th)
Source: aws-news.com/stats
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Generative AI
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
생산성 향상을 위한 애플리케이션
생성형 AI 앱 구축을 위한 모델과 도구
AI 모델 구축 및 학습을 위한 인프라
Amazon Q Business
인사이트 및 자동화
Amazon SageMaker
관리형(MANAGED) 인프라
Amazon Bedrock
AMAZON MODELS | PARTNER MODELS
Amazon Q Developer
소프트웨어 개발 수명주기
GPUs
AWS Trainium
AWS Inferentia
고성능 컴퓨팅
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
생성형 AI 앱 구축을 위한 모델과 도구
Amazon Bedrock
AMAZON MODELS | PARTNER MODELS
최적의 모델 선택
비용, 지연 시간, 정확성을 위한 최적화
Amazon Nova
Luma AI’s Ray2
Prompt caching
Intelligent Prompt Routing
Poolside’s malibu and point
Stability AI’s Stable Diffusion 3.5 Large
Amazon Bedrock Marketplace
데이터로 최적화
Knowledge Bases
GenAI Index in Amazon Kendra
Structured data retrieval
GraphRAG
Data Automation
Model Distillation
책임 있는 AI
Automated Reasoning checks
Multimodal Toxicity Detection
Agents
multi-agent collaboration
Model evaluation LLM-as-a-judge
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
3 Regions
최 첨 단 인 공 지 능 과 업 계 최 고 의 가 격 대 비 성 능
Amazon Nova: New Foundation Models
• Amazon에서 개발한 차세대 최첨단 파운데이션 모델(FM) 제품군
• 최첨단 인텔리전스와 업계 최고의 가격 성능을 제공
• Amazon Bedrock에서만 독점 사용 가능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon Nova Foundation Models
최첨단 인공지능과 업계 최고의 가격 대비 성능을 제공하는 최첨단 파운데이션 모델
Amazon Nova
Pro
Amazon Nova
Lite
Amazon Nova
Micro
G E N E R A L L Y A V A I L A B L E G E N E R A L L Y A V A I L A B L E G E N E R A L L Y A V A I L A B L E
Amazon Nova
Premier
복잡한 추론
작업과 맞춤형
모델 도출을 위한
최고의 교사로
사용하기에 가장
적합한 멀티모달
모델
C O M I N G S O O N
U n d e r s t a n d i n g m o d e l s
Amazon Nova
Reel
최첨단 비디오
생성 모델
G E N E R A L L Y A V A I L A B L E
Amazon Nova
Canvas
최첨단 이미지
생성 모델
G E N E R A L L Y A V A I L A B L E
C r e a t i v e c o n t e n t g e n e r a t i o n m o d e l s
매우 낮은
비용으로 가장
짧은 지연 시간
응답을 제공하는
텍스트 전용 모델
이미지, 비디오,
텍스트 입력
처리가 매우 빠른
저가형 멀티모달
모델
다양한 작업을 위한
정확성, 속도, 비용의
최상의 조합을 갖춘
고성능 멀티모달 모델
Increasing
Intelligence
Lower Cost
& Latency
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AMAZON NOVA
JAMBA CLAUDE COMMAND
EMBED
RERANK
LLAMA
LUMA RAY 2
긴 컨텍스트
윈도우에 대한
효과적인 추론
및 신속한 분석
대규모로 쉽게
배포할 수 있는
고품질 AI
이미지 생성
고급 이미지 및
언어 추론
지식 요약,
전문가 에이전트
및 코드 완성
텍스트와
이미지로
고품질 동영상
생성
대규모
엔터프라이즈
를 위한
소프트웨어
엔지니어링 AI
STABLE DIFFUSION
STABLE IMAGE
MISTRAL
MIXTRAL
MALIBU
POINT
지연 시간이 짧은
프론티어
멀티모달
인텔리전스,
에이전트 및 RAG
애플리케이션,
고품질 이미지 및
비디오 생성
컴퓨터 사용
기술을 포함한
고급 추론 및
코딩 능력
다국어 지식
에이전트를
지원하는
멀티모달 검색 및
고급 검색 기능
Amazon Bedrock
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
1 Region
생 성 형 A I 응 답 의 정 확 성 을 수 학 적 으 로 검 증 하 는 기 능
Automated Reasoning in Bedrock Guardrails
생성형 AI의 정확성 보장
• Automated Reasoning 검사는 LLM(대규모
언어 모델) 응답에서 환각(부정확한 정보
생성)을 탐지
• 모델 응답의 정확성을 수학적 기법을 통해
검증하며, 예측이나 추측 없이 신뢰할 수 있는
증거 제공
• 자동 추론 정책(Automated Reasoning
Policy)에 따라 응답이 검증되고, 정확성의
근거를 설명
환각 문제 해결 및 투명성 향상
• LLM이 생성하는 설득력 있는 잘못된 답변은
검출이 어려워 생성형 AI 도입 속도를 저해
• Automated Reasoning 검사는 이러한 문제를
완화하며, 특히 정확성이 중요한 사용
사례에서 신뢰성을 높임
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
10 Regions
🇰🇷
이 미 지 콘 텐 츠 멀 티 모 달 유 해 성 검 출 지 원
Multimodal toxicity detection in Guardrails
이미지 데이터 유해성 검출
• Bedrock Guardrails는 이미지 콘텐츠에서 불쾌하거나 유해할
수 있는 항목을 검출하고 필터링할 수 있는 포괄적인 솔루션을
제공합니다
• 텍스트와 이미지 데이터를 모두 포함한 콘텐츠 필터를 단일
솔루션에서 활용 가능
• 카테고리별 탐지: 증오(hate), 모욕(insults), 성적
콘텐츠(sexual), 폭력(violence) 등
다양한 산업군에서 활용
• 의료, 제조, 금융 서비스, 미디어 및 광고, 운송, 마케팅, 교육 등
여러 산업에서 책임감 있는 AI 정책을 기반으로 생성형 AI
애플리케이션 구축 가능
• 고객 맞춤형 필터 임계값 설정을 통해 적합한 콘텐츠만
유지하며 유해 콘텐츠를 필터링
글로벌 멀티모달 모델 지원
• Amazon Bedrock의 모든 이미지를 지원하는 파운데이션
모델(FM)과 통합
• Fine-tuned 모델에서도 작동하여 고객 맞춤형 요구사항 충족
가능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
생산성 향상을 위한 애플리케이션
생성형 AI 앱 구축을 위한 모델과 도구
AI 모델 구축 및 학습을 위한 인프라
Amazon Q Business
인사이트 및 자동화
Amazon SageMaker
관리형(MANAGED) 인프라
Amazon Bedrock
AMAZON MODELS | PARTNER MODELS
Amazon Q Developer
소프트웨어 개발 수명주기
GPUs
AWS Trainium
AWS Inferentia
고성능 컴퓨팅
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
AI 모델 구축 및 학습을 위한 인프라
Amazon SageMaker
관리형(MANAGED) 인프라
GPUs
AWS Trainium
AWS Inferentia
고성능 컴퓨팅
차세대 Amazon SageMaker
Amazon SageMaker platform Amazon SageMaker Hyperpod
Unified Studio
Lakehouse
Training plans
Task governance
Amazon SageMaker AI
Partner AI Apps
Q Developer in SageMaker Canvas
AWS Trainium
Trn2 instances
Trn2 UltraServers
Trainium3 AI Chip
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
SageMaker Unified Studio (Preview)
Machine
Learning
SQL
Analytics
Data
Processing
Streaming
Gen AI
Development
Business
Intelligence
Search
coming soon
coming soon coming soon
Lakehouse
3rd Party Data
Data
Open Data Access ( Iceberg REST Catalog API )
Zero-ETL: ingestion, replication, federation Zero-ETL: ingestion, replication, federation
Data Source
Amazon DynamoDB
(preview)
Amazon Redshift
Google BigQuery
MySQL
PostgreSQL
Snowflake (preview)
데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
SageMaker Unified Studio (Preview)
Machine
Learning
SQL
Analytics
Data
Processing
Streaming
Gen AI
Development
Business
Intelligence
Search
coming soon
coming soon coming soon
Amazon EMR
AWS Glue
Amazon Athena
Amazon Redshift Amazon SageMaker AI Amazon Bedrock Amazon QuickSight Amazon OpenSearch Amazon MSK
Amazon Kinesis
Data & AI Governance
Lakehouse
데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
A single data and AI development environment
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
프로젝트의 코드,
데이터, ML,
컴퓨팅을 하나의
view 에서 확인
익숙한 AWS
도구에서 노트북,
쿼리, 모델 등으로
작업 가능
Amazon Q로
구동되는 Gen AI
지원 환경
Amazon SageMaker Unified Studio
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
5 Regions
데 이 터 , 분 석 , A I 를 통 합 적 으 로 관 리 할 수 있 는 환 경 을 제 공
Next generation of Amazon SageMaker
Amazon SageMaker Unified Studio (프리뷰)
• 기존의 Amazon EMR, AWS Glue, Amazon Redshift,
Amazon Bedrock, 및 SageMaker Studio 기능을 통합
• 데이터 탐색 및 활용을 단일 환경에서 수행, 데이터 및 AI
작업에 최적화된 도구 제공
Amazon SageMaker Lakehouse
• Amazon S3 데이터 레이크, Amazon Redshift 데이터
웨어하우스, 써드파티 및 연합 데이터 소스를 통합
• Apache Iceberg 호환 도구 및 엔진으로 데이터 접근 및 쿼리
수행 가능
Amazon SageMaker Data and AI Governance
• 데이터 및 AI 워크플로우에 대한 안전한 탐색, 거버넌스, 협업
지원
Amazon Q Developer
• 소프트웨어 개발을 위한 생성형 AI 어시스턴트로, 데이터 처리,
SQL 분석, 모델 개발을 가속화
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
14 Regions
🇰🇷
A M A Z O N S 3 데 이 터 레 이 크 와 A M A Z O N R E D S H I F T 데 이 터 웨 어 하 우 스 의 데 이 터 를 통 합
Amazon SageMaker Lakehouse
AWS News Blog Post
데이터 통합 및 쿼리
• Apache Iceberg 오픈 표준을 사용해 데이터를 그대로
조회하고, Amazon EMR, AWS Glue, Amazon Redshift,
Apache Spark 등 다양한 엔진과 통합
• SageMaker Unified Studio(프리뷰)에서 데이터를 직접
쿼리할 수 있음
세분화된 데이터 보안
• 데이터 분석 및 ML 도구와 엔진 전반에서 일관성 있게
적용되는 세밀한 권한 설정 제공
기존 데이터 활용 및 ETL 간소화
• 기존 Redshift 데이터 웨어하우스를 분석 및 AI/ML에 활용
가능
• Redshift Managed Storage(RMS)를 활용해 최적화된 데이터
레이크 생성 가능
• Zero-ETL 통합으로 운영 데이터베이스, 스트리밍 서비스,
애플리케이션에서 데이터를 손쉽게 가져올 수 있음
• federated 쿼리를 통해 데이터의 in-place data 분석 가능
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
생산성 향상을 위한 애플리케이션
생성형 AI 앱 구축을 위한 모델과 도구
AI 모델 구축 및 학습을 위한 인프라
Amazon Q Business
인사이트 및 자동화
Amazon SageMaker
관리형(MANAGED) 인프라
Amazon Bedrock
AMAZON MODELS | PARTNER MODELS
Amazon Q Developer
소프트웨어 개발 수명주기
GPUs
AWS Trainium
AWS Inferentia
고성능 컴퓨팅
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Generative AI Stack
생산성 향상을 위한 애플리케이션
Amazon Q Business
인사이트 및 자동화
Amazon Q Developer
소프트웨어 개발 수명주기
Amazon Q Business Amazon Q Developer
Amazon Q in QuickSight scenarios
Amazon Q index
AI-powered workflow automation
Agent capabilities
Transformation capabilities
Operational Investigation Capability
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
All Regions
🇰🇷
5 0 + 액 션 통 합 , 워 크 플 로 우 자 동 화 , A M A Z O N Q I N D E X
Amazon Q Business at re:Invent
AWS News Blog Post
CS
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
Amazon Q index와 ISV와의 통합
• Q 인덱스에서 시맨틱 및 키워드 검색 결과를 반환하는 검색 API를 통해 ISV Apps의 RAG 에서 활용
Ref : https://aws.amazon.com/blogs/aws/new-capabilities-from-amazon-q-business-enable-isvs-to-enhance-generative-ai-experiences/
User(s)
index
Generative AI
Application
Amazon
Q
integrations
and more...
Customer Environment
Cross-app
data
Amazon Q Business
Product
Application Environment
Amazon Q Business
Data accessor
Product managed
large language model
RAG
생 성 형 A I 애 플 리 케 이 션 에 C R O S S - A P P 의 인 사 이 트 추 가
CS
re:Invent
All Regions
🇰🇷
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
All Regions
🇰🇷
A I 기 반 에 이 전 트 로 . N E T 포 팅 , 메 인 프 레 임 현 대 화 , V M W A R E 마 이 그 레 이 션 등 대 규 모 엔 터 프 라 이 즈 워 크 로 드 전 환
Amazon Q Developer의 변환 기능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Compute & Containers
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
Limited
Regions
S T O R A G E 및 G P U 기 반 E C 2 인 스 턴 스 제 품 군 에 대 한 업 데 이 트
Amazon EC2의 새로운 인스턴스
• i8g: AWS Graviton4 및 3세대 AWS Nitro SSD로
구동 (2 regions)
• i7ie: Intel Xeon 및 low-latency NVMe 스토리지
포함(6 regions)
• p5en: NVIDIA H200 Tensor Core GPU 및 EFA v3
네트워킹 포함(3 regions)
• p6: NVIDIA Blackwell GPU를 탑재(coming soon)
CS
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS
생성형 AI와 ML 학습을 위해
만들어진 3세대 chip
HBM Capacity HBM Bandwidth
Dense Compute Sparse Compute
Ref : https://aws.amazon.com/blogs/aws/amazon-ec2-trn2-instances-and-trn2-ultraservers-for-aiml-training-and-inference-is-now-available/
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
세 계 최 대 규 모 의 A I 모 델 에 대 한 A W S 의 지 원
Specification Trn1 P5 P5e Trn2 u-trn2x64
# of chips per server 16 8 8 16 64
System Memory (TB) 1.5 2 2 2 8
Peak PFLOPs (BF16) 3.04 7.92 7.92 10.4 41.6
Peak PFLOPs (FP8) 3.04 15.84 15.84 20.8 83.2
HBM capacity (GB) 512 640 1128 1536 6144
HBM BW (TB/s) 13.12 26.8 38.4 46 184
InterChip Interconnect (TB/s) 0.79 0.9 0.9 1 5.2
Networking Bandwidth (Gbps) 1600 3200 3200 3200 12800
FP PFlops / $ $2.83 $2.52 $2.18 $1.65
가장 빠른 Gen AI의 학습과 추론 성능 제공
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
DENSE COMPUTE
HBM CAPACITY
HBM BANDWIDTH
Trn2 Instance
NeuronLink
Bandwidth
ML 훈련 및 추론을 위한 가장 강력한 인스턴스
EFAv3
SPARSE COMPUTE
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon EC2 Trn2 UltraServer
EC2에서 가장 높은 성능의 ML 컴퓨팅을 제공하는 NeuronLink-v3를 통해
연결된 2개의 랙, 4개의 서버
SPARSE COMPUTE
DENSE COMPUTE HBM BANDWIDTH
NEURONLINK
BANDWIDTH
EFAv3 BANDWIDTH
HBM CAPACITY
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
단일 교육 클러스터에서 가장 많은
exaFLOP를 제공하는 수십만 개의 AWS
Trainium2 칩
Anthropic의 두 번째로 큰
학습 클러스터보다 5배 더
많은 컴퓨팅
Project Rainier
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Anthropic이 Amazon Bedrock을 통해 제공되는 Trn2
기반의 Claude Haiku 3.5를 출시하여 기존 대비 60%
빠른 응답 속도로 고객 생산성을 향상
Poolside는 AWS Trainium2를 통해 개발자들에게 비용
효율적인 generative AI 서비스를 제공하며, 향후 모델
학습에서 40%의 비용 절감을 기대
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
pre-re:Invent
All Regions
🇰🇷
과 도 한 프 로 비 저 닝 을 줄 이 고 가 용 성 을 개 선 하 면 서 클 러 스 터 를 사 전 에 확 장
Amazon ECS의 예측 확장
• Amazon ECS 서비스 Auto Scaling 내의 새로운 확장 정책
• 머신 러닝(ML) 알고리즘을 사용하여 수요 급증을 예측
• 급증에 앞서 서비스를 확장하여 과도한 프로비저닝을 줄임
• 애플리케이션 응답성과 가용성 개선
AWS Containers Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
All Regions
🇰🇷
클 릭 한 번 으 로 프 로 비 저 닝 부 터 유 지 관 리 까 지
Amazon EKS Auto Mode
• 컴퓨팅, 스토리지 및 네트워킹을 위한
Kubernetes 클러스터 관리를
간소화합니다.
• 단 한 번의 클릭으로 프로비저닝에서
유지 관리까지 가능합니다.
• 새 클러스터를 만들거나 기존 클러스터에
대해 활성화할 수 있습니다.
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
기존의 EKS 책임 공유 모델
AWS Global
Infrastructure
Foundation
Services
EKS Cluster
Control Plane
Cluster
Capabilities
Cluster EC2
Instances
Storage Networking Monitoring
Compute
Regions Local Zones Edge Locations
K8s API Server X-ENIs K8s Etcd Database
Pod Networking
/ Network Policy
Elastic Load
Balancing
Storage Drivers
Compute
Autoscaling
System Agents,
Kubelet,
Container Runtime
Application containers: Availability, security, monitoring
VPC infrastructure, cluster configuration, add-ons
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Managed by
Customers
Managed by
Amazon
Web Services
Patching Monitoring
Health
and Repair
Operating
System
Lifecycle
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
EKS Auto Mode의 책임 공유 모델
AWS Global
Infrastructure
Foundation
Services
EKS Cluster
Control Plane
Cluster
Capabilities
Cluster EC2
Instances
Storage Networking Monitoring
Compute
Regions Local Zones Edge Locations
K8s API Server X-ENIs K8s Etcd Database
Pod Networking
/ Network Policy
Elastic Load
Balancing
Storage Drivers
Compute
Autoscaling
Patching Monitoring
Health
and Repair
Operating
System
Lifecycle
System Agents,
Kubelet,
Container Runtime
Application containers: Availability, security, monitoring
VPC infrastructure, cluster configuration, add-ons
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Managed by
Customers
Managed by
Amazon
Web Services
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
All Regions
🇰🇷
클 라 우 드 의 E K S 클 러 스 터 에 온 프 레 미 스 및 에 지 인 프 라 를 노 드 로 연 결
Amazon EKS 하이브리드 노드
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Analytics
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
SageMaker Unified Studio (Preview)
Machine
Learning
SQL
Analytics
Data
Processing
Streaming
Gen AI
Development
Business
Intelligence
Search
coming soon
coming soon coming soon
Lakehouse
3rd Party Data
Data
Open Data Access ( Iceberg REST Catalog API )
Zero-ETL: ingestion, replication, federation Zero-ETL: ingestion, replication, federation
Data Source
Amazon DynamoDB
(preview)
Amazon Redshift
Google BigQuery
MySQL
PostgreSQL
Snowflake (preview)
데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
3 Regions
Open Source
A P A C H E I C E B E R G 로 구 동 되 는 분 석 워 크 로 드 에 최 적 화 된 스 토 리 지
Amazon S3 Tables
• Apache Iceberg 테이블을
저장하는 분석 창고 역할
• 저장 계층으로 Apache
Parquet 형식을 사용
• 동시에 분석 워크로드에 맞게
최적화된 동일한 S3 버킷
기능 제공
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
3 Regions
Open Source
O B J E C T 들 의 메 타 데 이 터 를 관 리 하 고 쿼 리 하 는 가 장 쉽 고 빠 른 방 법
Amazon S3 Metadata
• S3 버킷에서 객체 메타데이터를
캡처하기 위한 완전 관리형 자동화
방식
• 객체가 추가되고 수정될 때
메타데이터를 저장하는 버킷
레벨별 옵트인 메커니즘
• 20개 이상의 필드를 포함
• AWS 분석 서비스 및 Apache
Spark와 같은 오픈 소스 도구에서
액세스할 수 있는 스키마가 있는
Apache Iceberg 테이블에 이를
저장
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
All Regions
🇰🇷
A M A Z O N C L O U D W A T C H 와 A M A Z O N O P E N S E A R C H 서 비 스 통 합
통합된 분석 경험
• Amazon CloudWatch와
Amazon OpenSearch
Service 간의 Zero-ETL 통합
• 데이터 중복 없이 로그
데이터 분석 및 시각화를
간소화
• 기술적 오버헤드와 운영
비용을 줄이는 동시에 로그
관리 간소화
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
14 Regions
🇰🇷
A M A Z O N S A G E M A K E R U N I F I E D S T U D I O , L A K E H O U S E 및 S P A R K 3 . 5 . 2 지 원
AWS Glue 5.0
• 성능이 개선되고 보안이 강화
• Amazon Sagemaker Unified Studio,
Amazon SageMaker Lakehouse에
대한 지원이 제공
• 다음과 같은 런타임 및 종속성
업데이트 제공
§ Apache Spark 3.5.2
§ Python 3.11
§ Java 17
§ Apache Hudi 0.15.0
§ Apache Iceberg 1.6.1
§ Delta Lake 3.2.0
AWS Announcement
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Databases
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
P
re:Invent
1 Region
완 전 관 리 형 및 A W S 기 반 O R A C L E E X A D A T A D A T A B A S E 서 비 스
Oracle Database@AWS
• AWS 데이터 센터 내의 Oracle Cloud
Infrastructure(OCI) 관리 Exadata
인프라에서 Oracle Database Services에
액세스 가능
• Oracle Real Application Clusters(RAC)
워크로드를 포함한 Oracle Database
워크로드를 최소한의 변경 또는 변경
없이 AWS 내의 Oracle Exadata
Database Service로 쉽고 빠르게
마이그레이션 가능
AWS Announcement
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
PP
re:Invent
3 Regions
서 버 리 스 , P O S T G R E S Q L 호 환 데 이 터 베 이 스 W I T H 멀 티 리 전 액 티 브 - 액 티 브 설 정
Amazon Aurora DSQL
• 다중 지역 액티브-액티브 기능을 갖춘
서버리스 분산 SQL 데이터베이스
• PostgreSQL과 호환되며 액티브-액티브
분산 아키텍처
• 단일 장애 지점 없이 99.99% 단일 지역 및
99.999% 다중 지역 가용성을 위해 설계
• 자동화된 장애 복구
• 모든 지역 엔드포인트에 대한 모든 읽기 및
쓰기가 강력하게 일관되고 내구성 보장
AWS Database Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
pre-re:Invent
10 Regions
G E N E R A L A V A I L A B I L I T Y O F L I M I T L E S S C L U S T E R S
Amazon Aurora PostgreSQL Limitless
• 사용자 정의 애플리케이션
로직을 만들거나 여러
데이터베이스를 관리할 필요
없음
• 단일 작성자 인스턴스의 한계를
넘어 Amazon Aurora에서
관계형 데이터베이스
워크로드를 확장
• 스토리지 계층을 샤딩할
• 워크로드 사용에 따라 자동으로
컴퓨팅을 확장 및 축소
• 재프로비저닝 필요 없음
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Security & Compliance
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
pre-re:Invent
All Regions
🇰🇷
새 로 운 관 리 형 권 한 부 여 정 책 을 사 용 하 여 A W S 리 소 스 에 대 한 액 세 스 를 중 앙 에 서 제 한
Resource Control Policies (RCPs)
• AWS Organizations의
새로운 정책 유형
• 조직의 리소스에 대해 사용
가능한 최대 권한 제어
• 조직 루트, OU(조직 단위),
또는 구성원 계정에 적용
가능
• 위임된 관리 지원
• 추가 비용 없이 이용 가능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
pre-re:Invent
All Regions
🇰🇷
U S I N G A W S O R G A N I Z A T I O N S
Centralized Management of Root Access
• IAM 루트 자격 증명을 중앙에서 관리 :
• 각 맴버 계정에 대해 개별적으로
MFA를 활성화할 필요 없음
• 관리자는 AWS 조직의 구성원
계정에서 루트 사용자 자격 증명을
삭제할 수 있음
• 반드시 루트 권한이 필요한 작업에
대해서는 중앙에서 수행 하도록 지원
• 모든 상용 리전, GCR 및
GovCloud에서 이용 가능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon Virtual Private Cloud Block public access
모든 VPC의 인터넷
트래픽을 강제로 차단할 수
있는 원클릭 선언적 제어
중앙 집중식 퍼블릭
액세스 정책 구현 가능
Security Inspection VPC를 제외한
모든 VPC에서 IGW를 통한 직접적인
인터넷 접근을 방지하는 가드레일
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Migration & Networking
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
P
re:Invent
Private
Preview
A M A Z O N V P C 내 에 서 V M W A R E C L O U D F O U N D A T I O N ( V C F ) 을 실 행 하 기 위 한 기 본 A W S 서 비 스
Amazon Elastic VMware Service (EVS)
• AWS에서 VMware 기반 워크로드를
마이그레이션하고 현대화하여
클라우드의 확장성, 민첩성 및 비용
이점을 얻을 수 있는 기본 경로를 제공
• AWS는 VMware 고객에게 클라우드에서
VMware 기반 워크로드를 실행할 때 가장
많은 선택권과 유연성을 제공하고자
노력하고 있으며, 고객의 요구 사항을
지원하기 위해 마이그레이션 및 현대화
경로, 프로그램 및 파트너십을 계속 확장
AWS M&M Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
GA
re:Invent
21 Regions
🇰🇷
그 리 고 A W S S T E P F U N C T I O N S 또 는 A M A Z O N E V E N T B R I D G E 와 직 접 통 합 합 니 다 .
AWS PrivateLink를 통한 VPC 리소스에 액세스
• Amazon EC2 인스턴스, Amazon ECS 및
Amazon EKS 컨테이너 서비스와 같은
AWS 리소스와 Amazon VPC 및 AWS
계정 경계를 넘나드는 자체 HTTPS
서비스를 공유
• Amazon EventBridge를 통해 이벤트
기반 앱을 빌드하고 AWS Step
Functions로 워크플로 조정 가능
AWS News Blog Post
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Thank you!
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
세션 종료 후 설문에서 꼭
세션 평가를 남겨주세요.
Myeongsu Jeon
Myeongsu@amazon.com
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024:
Launch Summary
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024 Launch Summary (1/5)
Analytics
Announcing scenarios analysis capability of Amazon Q in
QuickSight (preview)
Announcing Amazon S3 Metadata (Preview) – Easiest
and fastest way to manage your metadata
Amazon DynamoDB zero-ETL integration with Amazon
SageMaker Lakehouse
AWS expands data connectivity for Amazon SageMaker
Lakehouse and AWS Glue
Amazon S3 Access Grants now integrate with AWS Glue
Amazon SageMaker Lakehouse integrated access
controls now available in Amazon Athena federated
queries
Introducing AWS Glue 5.0
Introducing the next generation of Amazon SageMaker
AWS announces Amazon SageMaker Lakehouse
Amazon SageMaker Lakehouse and Amazon Redshift
support for zero-ETL integrations from eight
applications
AWS Glue Data catalog now automates generating
statistics for new tables
Analytics
Introducing Amazon SageMaker Data and AI Governance
Announcing the preview of Amazon SageMaker Unified
Studio
Data Lineage is now generally available in Amazon
DataZone and next generation of Amazon SageMaker
Amazon Q in QuickSight unifies insights from structured
and unstructured data
Amazon Q Business now provides insights from your
databases and data warehouses (preview)
Amazon OpenSearch Service zero-ETL integration with
Amazon Security Lake
AWS Clean Rooms now supports multiple clouds and
data sources
Application Integration
Amazon SageMaker Lakehouse and Amazon Redshift
support for zero-ETL integrations from eight
applications
Amazon Bedrock now supports multi-agent
collaboration
Amazon EventBridge and AWS Step Functions announce
integration with private APIs
Business Applications
Amazon Q Business now provides insights from your
databases and data warehouses (preview)
Amazon Connect Contact Lens now supports external
voice
Amazon Connect now supports external voice transfers
Amazon Connect Contact Lens now automatically
categorizes your contacts using generative AI
Amazon Connect launches AI guardrails for Amazon Q in
Connect
Amazon Connect launches new intraday forecast
dashboards
Amazon Connect launches AI assistant for customer
segments and trigger-based campaigns
Amazon Connect now supports WhatsApp Business
messaging
Amazon Connect Contact Lens now automates agent
performance evaluations using generative AI
Amazon Connect launches generative AI-powered self-
service with Amazon Q in Connect
AWS announces Salesforce Contact Center with Amazon
Connect (Preview)
73
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024 Launch Summary (2/5)
Compute
Amazon EC2 Trn2 instances are generally available
Announcing Amazon Elastic VMware Service (Preview)
Deploy GROW with SAP on AWS from AWS Marketplace
Amazon EC2 P5en instances, optimized for generative AI
and HPC, are generally available
Announcing Amazon EC2 I8g instances
Amazon Web Services announces declarative policies
Amazon CloudWatch Container Insights launches
enhanced observability for Amazon ECS
Introducing Amazon EC2 next generation high density
Storage Optimized I7ie instances
AWS Marketplace now offers EC2 Image Builder
components from independent software vendors
Amazon EC2 introduces Allowed AMIs to enhance AMI
governance
Announcing Amazon EKS Auto Mode
Announcing Amazon EKS Hybrid Nodes
AWS simplifies the use of third-party block storage
arrays with AWS Outposts
Containers
VPC Lattice now includes TCP support with VPC
Resources
Announcing Amazon EKS Auto Mode
Announcing Amazon EKS Hybrid Nodes
Customer Engagement
Introducing the AWS Digital Sovereignty Competency
Amazon Connect now provides the ability to record
audio during IVR and other automated interactions
Amazon Connect Contact Lens now supports external
voice
Amazon Connect now supports external voice transfers
Amazon Connect launches AI guardrails for Amazon Q in
Connect
Amazon Connect Contact Lens launches built-in
dashboards to analyze conversational AI bot
performance
Databases
Announcing Amazon Aurora DSQL (Preview)
Amazon DynamoDB global tables previews multi-Region
strong consistency
AWS DMS Schema Conversion now uses generative AI
Announcing the general availability of Amazon
MemoryDB Multi-Region
Oracle Database@AWS is now in limited preview
Amazon Bedrock Knowledge Bases now supports
GraphRAG (preview)
Amazon DynamoDB zero-ETL integration with Amazon
SageMaker Lakehouse
Amazon Connect launches simplified conversational AI
bot creation
Amazon Connect now supports WhatsApp Business
messaging
Amazon Connect launches generative AI-powered self-
service with Amazon Q in Connect
Amazon Connect now makes it easier to collect sensitive
customer data within chats
74
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024 Launch Summary (3/5)
Databases (continued)
Amazon Q Business now provides insights from your
databases and data warehouses (preview)
Announcing Amazon EC2 I8g instances
AWS DMS Schema Conversion now uses generative AI
Amazon Bedrock Data Automation now available in
preview
Amazon Bedrock Knowledge Bases now supports
GraphRAG (preview)
Announcing Amazon SageMaker HyperPod recipes
Amazon Bedrock Knowledge Bases now processes
multimodal data
Announcing GenAI Index in Amazon Kendra
Amazon Q Developer adds operational investigation
capability (Preview)
Amazon Q Developer can now automate code reviews
Amazon Bedrock Model Distillation is now available in
preview
Amazon Q Business introduces over 50 actions for
popular business applications and platforms
Amazon SageMaker Lakehouse and Amazon Redshift
support for zero-ETL integrations from eight
applications
Amazon Bedrock now supports multi-agent
collaboration
Amazon Bedrock Guardrails now supports Automated
Reasoning checks (Preview)
Developer Tools
Amazon Q Developer adds operational investigation
capability (Preview)
Amazon Q Developer now provides transformation
capabilities for .NET porting (Preview)
Amazon Q Developer can now automate code reviews
Announcing GitLab Duo with Amazon Q (Preview)
Amazon Q Developer can now generate documentation
within your source code
Amazon Q Developer transformation capabilities for
mainframe modernization are now available (Preview)
Front End Web & Mobile
Storage Browser for Amazon S3 is now generally
available
Amazon Connect now supports WhatsApp Business
messaging
Machine Learning
Amazon Bedrock Knowledge Bases now supports
structured data retrieval
Task governance is now generally available for Amazon
SageMaker HyperPod
AWS announces Amazon SageMaker Partner AI Apps
Amazon Bedrock Guardrails supports multimodal toxicity
detection for image content (Preview)
Announcing new AWS AI Service Cards to advance
responsible generative AI
Amazon SageMaker HyperPod now provides flexible
training plans
Amazon Bedrock Marketplace brings over 100 models to
Amazon Bedrock
Amazon Bedrock announces preview of prompt caching
Amazon Q Developer can now guide SageMaker Canvas
users through ML development
75
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024 Launch Summary (4/5)
Machine Learning (continued)
Introducing Amazon SageMaker Data and AI Governance
Data Lineage is now generally available in Amazon
DataZone and next generation of Amazon SageMaker
Amazon Q in QuickSight unifies insights from structured
and unstructured data
Amazon Q Developer can now generate documentation
within your source code
Announcing Amazon Bedrock IDE in preview as part of
Amazon SageMaker Unified Studio
Announcing Amazon Nova foundation models available
today in Amazon Bedrock
Amazon Q Business now provides insights from your
databases and data warehouses (preview)
Amazon Q Developer transformation capabilities for
mainframe modernization are now available (Preview)
Amazon EC2 P5en instances, optimized for generative AI
and HPC, are generally available
Introducing latency-optimized inference for foundation
models in Amazon Bedrock
Amazon Bedrock Knowledge Bases now supports RAG
evaluation (Preview)
Amazon Bedrock Model Evaluation now includes LLM-
as-a-judge (Preview)
Amazon Bedrock Knowledge Bases now provides auto-
generated query filters for improved retrieval
Amazon Q Business adds support to extract insights
from visual elements within documents
Amazon Bedrock Knowledge Bases now supports
streaming responses
Amazon Bedrock now supports Rerank API to improve
accuracy of RAG applications
Amazon Bedrock Knowledge Bases now supports
custom connectors and ingestion of streaming data
PartyRock improves app discovery and announces
upcoming free daily use
Announcing Amazon Q Developer transformation
capabilities for VMware (Preview)
The Amazon Q index enhances software vendors’ AI
experiences
Customer Engagement
Amazon Web Services announces declarative policies
Amazon CloudWatch and Amazon OpenSearch Service
launch an integrated analytics experience
Amazon CloudWatch adds network performance
monitoring for AWS workloads using flow monitors
Amazon CloudWatch Container Insights launches
enhanced observability for Amazon ECS
AWS Control Tower launches managed controls using
declarative policies
AWS announces Amazon CloudWatch Database Insights
Migration and Transfer
Announcing AWS Transfer Family web apps
Announcing Amazon Q Developer transformation
capabilities for VMware (Preview)
Networking & Content
Delivery
AWS announces access to VPC resources over AWS
PrivateLink
76
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent 2024 Launch Summary (5/5)
Serverless
Amazon OpenSearch Service zero-ETL integration with
Amazon Security Lake
Nova
(Generative AI)
Announcing Amazon Nova foundation models available
today in Amazon Bedrock
Partner
Buy with AWS accelerates solution discovery and
procurement on AWS Partner websites
Respond and recovery more quickly with AWS Security
Incident Response Partners
Start collaborating on multi-partner opportunities with
Partner Connections (Preview)
Introducing the AWS Digital Sovereignty Competency
New streamlined deployment experience for Databricks
on AWS
Introducing the AWS Consumer Goods Competency
AWS Marketplace now offers EC2 Image Builder
components from independent software vendors
Security, Identity &
Compliance
AWS announces AWS Security Incident Response
for general availability
Amazon Bedrock Guardrails supports multimodal
toxicity detection for image content (Preview)
Introducing the Amazon Security Lake Ready
Specialization
Respond and recovery more quickly with AWS
Security Incident Response Partners
Introducing the AWS Digital Sovereignty
Competency
AWS Security Competency Update: New AI Security
Category
Amazon Bedrock Guardrails now supports
Automated Reasoning checks (Preview)
Amazon Web Services announces declarative
policies
Amazon OpenSearch Service zero-ETL integration
with Amazon Security Lake
AWS Verified Access now supports secure access to
resources over non-HTTP(S) protocols (Preview)
Amazon GuardDuty introduces GuardDuty
Extended Threat Detection
AWS announces AWS Security Incident Response
for general availability
Storage
Amazon S3 Access Grants now integrate with AWS Glue
Announcing Amazon S3 Metadata (Preview) – Easiest and
fastest way to manage your metadata
Announcing Amazon S3 Tables – Fully managed Apache
Iceberg tables optimized for analytics workloads
Announcing Amazon EC2 I8g instances
Amazon S3 adds new default data integrity protections
Storage Browser for Amazon S3 is now generally
available
Introducing Amazon EC2 next generation high density
Storage Optimized I7ie instances
Announcing Amazon FSx Intelligent-Tiering, a new
storage class for FSx
Announcing AWS Transfer Family web apps
Amazon S3 launches storage classes for AWS Dedicated
Local Zones
77

More Related Content

PPTX
Improving throughput with the Theory of Constraints and Queuing Theory
PPTX
Sesyon-4_WEN_Pagbaybay-na-Pasulat.pptx
PDF
영어 논문 단어수 줄이는 10가지 방법
PDF
[금융사를 위한 AWS Generative AI Day 2023] 3_AWS Generative AI 기술특징과 접근...
PDF
[금융사를 위한 AWS Generative AI Day 2023] 4_AWS Generative AI 서비스의 활용 방ᄇ...
PDF
[25D2S04]_Amazon Nova와 Bedrock을 활용한 멀티모달 에이전트 기반 비즈ᄂ...
PDF
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 04_금융사가 알아야 할 reInvent 20...
PDF
[25D2S07]_Amazon Nova를 이용해 향샹된 RAG 활용하기.pdf
Improving throughput with the Theory of Constraints and Queuing Theory
Sesyon-4_WEN_Pagbaybay-na-Pasulat.pptx
영어 논문 단어수 줄이는 10가지 방법
[금융사를 위한 AWS Generative AI Day 2023] 3_AWS Generative AI 기술특징과 접근...
[금융사를 위한 AWS Generative AI Day 2023] 4_AWS Generative AI 서비스의 활용 방ᄇ...
[25D2S04]_Amazon Nova와 Bedrock을 활용한 멀티모달 에이전트 기반 비즈ᄂ...
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 04_금융사가 알아야 할 reInvent 20...
[25D2S07]_Amazon Nova를 이용해 향샹된 RAG 활용하기.pdf

Similar to [제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 3_성공적인 2025년을 위해 금융사가 알아야 할 re:Invent 2024의 주요 테크니컬 업데이트Jeon.pdf (20)

PDF
핵심 미래 분석 기술! 시계열 분석을 활용한 수요예측과 재고관리 최적화 사례 – 김형일 AWS 솔루션즈 아키텍트, 이환기 신세계아이앤씨 A...
PDF
VUCA 시대의 디지털 네이티브 리더가 알아야할 AWS의 기술 ::: AWS ExecLeaders Korea 2023
PDF
[25D2S06]_Amazon Bedrock으로 구현하는 멀티모달 데이터 자동화와 비정형 ...
PDF
[OpenLAB] AWS reInvent를 통해 바라본 글로벌 Cloud 기술동향.pdf
PDF
데이터 과학자를 위한 신규 인공지능 서비스 - 김대근, 이유동, AWS AI/ML 스페셜리스트 솔루션즈 아키텍트 / 소성운, 카카오스타일 ...
PDF
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 2_금융 비즈니스 관점에서 보는 re:Invent 2...
PDF
2021년, 위기를 기회로 만든 미디어 & 엔터테인먼트의 메가트렌드와 글로벌 혁신사례 - 이봉무 AWS 미디어 사업개발 담당 :: AWS ...
PDF
인공지능 / 기계학습 기반의 디지털 트랜스포메이션 및 글로벌 사례 - 김선수 사업개발 담당, AWS / 정진환 팀장, SK텔레콤 / 구태훈...
PDF
AWS Summit Seoul 2023 | AWS의 개발자를 위한 신규 서비스 소개 Amazon CodeCatalyst & Amazon C...
PDF
기업의 미래를 바꾸는 AI 플랫폼
PPTX
제조업의 AI/ML 고객 사례::남궁영환::AWS Summit Seoul 2018
PDF
AWS re:Invent 2018를 통해 본 개발자들이 원하는 4가지 클라우드 동향 :: 윤석찬 - AWS Community Day 2019
PDF
AWS의 비용 효율적 고성능기계학습(ML) 플랫폼 뛰어들기 - 윤석찬 수석 테크 에반젤리스트, AWS :: AWS Innovate 2019
PDF
AWS Summit Seoul 2023 | 비즈니스 경쟁에서 승리하기 위한 AWS AI/ML 서비스
PDF
[D3T1S01] Gen AI를 위한 Amazon Aurora 활용 사례 방법
PDF
[보험사를 위한 AWS Data Analytics Day] 5_KB금융그룹과 계열사의 AWS 기ᄇ...
PDF
[보험사를 위한 AWS Data Analytics Day] 5_KB금융그룹과 계열사의 AWS 기ᄇ...
PDF
세션 2: 제조업의 Digital Transformation과 AWS의 주요 기술
PDF
클라우드를 활용한 디지털 제조(Digital Manufacturing)실현 방법 및 사례 소개 - 윤석찬 (AWS 테크에반젤리스트) :: ...
PDF
개발자를 위한 AWS re:Invent 신규 서비스 - 윤석찬 (AWS수석테크에반젤리스트) :: AWS Community Day 2020
핵심 미래 분석 기술! 시계열 분석을 활용한 수요예측과 재고관리 최적화 사례 – 김형일 AWS 솔루션즈 아키텍트, 이환기 신세계아이앤씨 A...
VUCA 시대의 디지털 네이티브 리더가 알아야할 AWS의 기술 ::: AWS ExecLeaders Korea 2023
[25D2S06]_Amazon Bedrock으로 구현하는 멀티모달 데이터 자동화와 비정형 ...
[OpenLAB] AWS reInvent를 통해 바라본 글로벌 Cloud 기술동향.pdf
데이터 과학자를 위한 신규 인공지능 서비스 - 김대근, 이유동, AWS AI/ML 스페셜리스트 솔루션즈 아키텍트 / 소성운, 카카오스타일 ...
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 2_금융 비즈니스 관점에서 보는 re:Invent 2...
2021년, 위기를 기회로 만든 미디어 & 엔터테인먼트의 메가트렌드와 글로벌 혁신사례 - 이봉무 AWS 미디어 사업개발 담당 :: AWS ...
인공지능 / 기계학습 기반의 디지털 트랜스포메이션 및 글로벌 사례 - 김선수 사업개발 담당, AWS / 정진환 팀장, SK텔레콤 / 구태훈...
AWS Summit Seoul 2023 | AWS의 개발자를 위한 신규 서비스 소개 Amazon CodeCatalyst & Amazon C...
기업의 미래를 바꾸는 AI 플랫폼
제조업의 AI/ML 고객 사례::남궁영환::AWS Summit Seoul 2018
AWS re:Invent 2018를 통해 본 개발자들이 원하는 4가지 클라우드 동향 :: 윤석찬 - AWS Community Day 2019
AWS의 비용 효율적 고성능기계학습(ML) 플랫폼 뛰어들기 - 윤석찬 수석 테크 에반젤리스트, AWS :: AWS Innovate 2019
AWS Summit Seoul 2023 | 비즈니스 경쟁에서 승리하기 위한 AWS AI/ML 서비스
[D3T1S01] Gen AI를 위한 Amazon Aurora 활용 사례 방법
[보험사를 위한 AWS Data Analytics Day] 5_KB금융그룹과 계열사의 AWS 기ᄇ...
[보험사를 위한 AWS Data Analytics Day] 5_KB금융그룹과 계열사의 AWS 기ᄇ...
세션 2: 제조업의 Digital Transformation과 AWS의 주요 기술
클라우드를 활용한 디지털 제조(Digital Manufacturing)실현 방법 및 사례 소개 - 윤석찬 (AWS 테크에반젤리스트) :: ...
개발자를 위한 AWS re:Invent 신규 서비스 - 윤석찬 (AWS수석테크에반젤리스트) :: AWS Community Day 2020
Ad

More from AWS Korea 금융산업팀 (20)

PDF
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 1_참가자로부터 직접 듣는, re:Invent 202...
PDF
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 4_오늘의 요약과 정리_KungFun No.pdf
PDF
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 r...
PDF
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 02_reInvent 2023 이벤트 스케치와 실...
PDF
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 01_Opening_Kung Fun No.pdf
PDF
[금융사를 위한 AWS Generative AI Day 2023] 8_Wrap-up과 QnA_금융사의 AI와 관련하...
PDF
[금융사를 위한 AWS Generative AI Day 2023] 7_다양한 AI 워크로드를 위한 최적의 ...
PDF
[금융사를 위한 AWS Generative AI Day 2023] 2_세상을 바꾸고 있는 Generative AI에...
PDF
[금융사를 위한 AWS Generative AI Day 2023] 1_Opening_Updates on AWS GenAI_Luke Ande...
PDF
[보험사를 위한 AWS Data Analytics Day] 1_데이터 경영으로 보험 산업의 ...
PDF
[보험사를 위한 AWS Data Analytics Day] 4_신한금융그룹의 데이터 댐_Do...
PDF
[보험사를 위한 AWS Data Analytics Day] 2_금융의 핵심자산 Data, 글로ᄇ...
PDF
[보험사를 위한 AWS Data Analytics Day] 3_교보생명의 빅데이터 플랫폼 ...
PDF
[보험사를 위한 AWS Data Analytics Day] 7_데이터 경영을 위한 실행 프ᄅ...
PDF
[보험사를 위한 AWS Data Analytics Day] 6_Data Analytics의 현재와 미래-토ᄉ...
PDF
한국투자증권의 디지털 플랫폼 구현 사례.pdf
PDF
[금융 고객을 위한 Resiliency in the Cloud] Open Discussion
PDF
[금융고객을 위한 Resiliency in the Cloud] AWS를 활용한 금융사 Resiliency 구성...
PDF
[금융고객을 위한 Resiliency in the Cloud] 최근 대규모 장애 사태 여파에 따른 DR 도...
PDF
[금융고객을 위한 Resiliency in the Cloud] 금융사의 Resiliency를 위한 AWS Solutio...
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 1_참가자로부터 직접 듣는, re:Invent 202...
[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 4_오늘의 요약과 정리_KungFun No.pdf
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 r...
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 02_reInvent 2023 이벤트 스케치와 실...
[금융 고객을 위한 re:Invent 2023 re:Cap Event] 01_Opening_Kung Fun No.pdf
[금융사를 위한 AWS Generative AI Day 2023] 8_Wrap-up과 QnA_금융사의 AI와 관련하...
[금융사를 위한 AWS Generative AI Day 2023] 7_다양한 AI 워크로드를 위한 최적의 ...
[금융사를 위한 AWS Generative AI Day 2023] 2_세상을 바꾸고 있는 Generative AI에...
[금융사를 위한 AWS Generative AI Day 2023] 1_Opening_Updates on AWS GenAI_Luke Ande...
[보험사를 위한 AWS Data Analytics Day] 1_데이터 경영으로 보험 산업의 ...
[보험사를 위한 AWS Data Analytics Day] 4_신한금융그룹의 데이터 댐_Do...
[보험사를 위한 AWS Data Analytics Day] 2_금융의 핵심자산 Data, 글로ᄇ...
[보험사를 위한 AWS Data Analytics Day] 3_교보생명의 빅데이터 플랫폼 ...
[보험사를 위한 AWS Data Analytics Day] 7_데이터 경영을 위한 실행 프ᄅ...
[보험사를 위한 AWS Data Analytics Day] 6_Data Analytics의 현재와 미래-토ᄉ...
한국투자증권의 디지털 플랫폼 구현 사례.pdf
[금융 고객을 위한 Resiliency in the Cloud] Open Discussion
[금융고객을 위한 Resiliency in the Cloud] AWS를 활용한 금융사 Resiliency 구성...
[금융고객을 위한 Resiliency in the Cloud] 최근 대규모 장애 사태 여파에 따른 DR 도...
[금융고객을 위한 Resiliency in the Cloud] 금융사의 Resiliency를 위한 AWS Solutio...
Ad

[제 3 회 | 금융 고객을 위한 re:Invent 2024 re:Cap Event] 3_성공적인 2025년을 위해 금융사가 알아야 할 re:Invent 2024의 주요 테크니컬 업데이트Jeon.pdf

  • 1. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 제 3 회 | 금 융 고 객 을 위 한 R E : I N V E N T 2 0 2 4 R E : C A P E V E N T 성공적인 2025년을 위해 금융사가 알아야 할 re:Invent 2024의 주요 테크니컬 업데이트 Myeongsu Jeon Senior Solutions Architect Amazon Web Services
  • 2. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Keynotes • Generative AI • Compute & Containers • Analytics & Databases • Security & Compliance • Migration & Networking Agenda
  • 3. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Keynotes
  • 4. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. re:Invent 2024 키노트 스피커 12/2 (Mon) 12/3 (Tue) 12/4 (Wed) 12/5 (Thu) Peter DeSantis AWS 유틸리티 컴퓨팅 부문 수석 부사장 Matt Garman AWS CEO Dr. Swami Sivasubramanian AWS 데이터 및 AI 부문 부사장 Dr. Werner Vogels 아마존닷컴 부사장 겸 CTO Dr. Ruba Borno AWS 글로벌 스페셜리스트 및 파트너 부문 부사장 Andy Jassy 아마존 사장 겸 CEO
  • 5. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Peter DeSantis 키노트 요약 • 컴퓨팅 혁신 • Graviton4: 최근 2년간 새로 추가된 CPU 용량의 50% 이상이 Graviton • Nitro: 유연성, 제조 단계부터의 보안 • 스토리지 혁신 • Nitro 기반 분산 스토리지 • AI 전용 인프라 • Trainium2(Trn2): 20.8 FP8 PFLOPS, 1.5TB HBM • AI 전용 네트워크 개발 적용 Trn2 UltraServers • Trn2 적용 Amazon Bedrock latency- optimized inference • Anthropic과의 협업
  • 6. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Matt Garman 키노트 요약 • 컴퓨트 • Trn2 GA,Trn3 예고(내년) • P6(Blackwell) 예고(내년 초) • 스토리지 • S3 Tables, S3 Metadata • 데이터베이스 • Aurora DSQL • 인퍼런스 • Bedrock, Q, SageMaker 업데이트 등
  • 7. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Matt Garman 키노트 요약 • 아마존의 AI 접근 방식 • 25년간 AI를 광범위하게 적용해 왔음 • 기술 자체가 아닌 “실용적 AI” 추구 • 아마존 내부 AI 활용 사례 • CS 챗봇 사용 시점 기반 의도 예측, 감정 파악으로 상담원 연결 • Seller 상품 등록 도구; 키워드, 이미지, URL을 통해 상품 속성 추출 자동 입력 • 쇼핑 도우미(Rufus): 검색, 비교, 추천 등 • 그외 재고관리, 로봇, Prime 적용 사례 공유 • Amazon Nova 발표 • 이후 계획 • Speech to Speech(내년 1분기) • Any to Any(내년 중반) Andy Jassy, 아마존 사장 겸 CEO
  • 8. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Dr. Swami Sivasubramanian 키노트 요약 • Amazon SageMaker 업데이트 • Amazon Bedrock 업데이트 • Amazon Q 업데이트 • Autodesk 3D 디자인 GenAI 적용사례 • SageMaker, DDB, EKS, EMR, Glue… • Rocket Companies Bedrock 적용사례 • 모기지 절차에서 70% 인터액션을 자동화 • Luma AI SageMaker HyperPod 적용사례 • Ray2(비디오 생성 모델) Bedrock에 포함될 예정
  • 9. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Dr. Werner Vogels 키노트 요약 • 시스템이 커질수록 복잡성을 피하기 어려움 • 복잡성을 다루기 위한 관리가 필요함 복잡성을 다루기 위한 6가지 교훈 제시 1. 진화 가능성(Evolvability)을 요구사항으로 설정 2. 복잡성을 작은 단위로 분해 3. 조직을 아키텍처에 맞추기 4. Cell 기반 아키텍처 5. 예측 가능한 시스템 설계 6. 복잡성의 자동화
  • 10. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Technical updates
  • 11. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024에서 공개된 내용들 124 re:Invent (Dec 1st – Dec 6th) 422 pre-re:Invent (Oct 30th – Nov 30th) 546 updates (Oct 30th – Dec 6th) Source: aws-news.com/stats
  • 12. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Generative AI
  • 13. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack 생산성 향상을 위한 애플리케이션 생성형 AI 앱 구축을 위한 모델과 도구 AI 모델 구축 및 학습을 위한 인프라 Amazon Q Business 인사이트 및 자동화 Amazon SageMaker 관리형(MANAGED) 인프라 Amazon Bedrock AMAZON MODELS | PARTNER MODELS Amazon Q Developer 소프트웨어 개발 수명주기 GPUs AWS Trainium AWS Inferentia 고성능 컴퓨팅
  • 14. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack 생성형 AI 앱 구축을 위한 모델과 도구 Amazon Bedrock AMAZON MODELS | PARTNER MODELS 최적의 모델 선택 비용, 지연 시간, 정확성을 위한 최적화 Amazon Nova Luma AI’s Ray2 Prompt caching Intelligent Prompt Routing Poolside’s malibu and point Stability AI’s Stable Diffusion 3.5 Large Amazon Bedrock Marketplace 데이터로 최적화 Knowledge Bases GenAI Index in Amazon Kendra Structured data retrieval GraphRAG Data Automation Model Distillation 책임 있는 AI Automated Reasoning checks Multimodal Toxicity Detection Agents multi-agent collaboration Model evaluation LLM-as-a-judge
  • 15. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent 3 Regions 최 첨 단 인 공 지 능 과 업 계 최 고 의 가 격 대 비 성 능 Amazon Nova: New Foundation Models • Amazon에서 개발한 차세대 최첨단 파운데이션 모델(FM) 제품군 • 최첨단 인텔리전스와 업계 최고의 가격 성능을 제공 • Amazon Bedrock에서만 독점 사용 가능 AWS News Blog Post
  • 16. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Nova Foundation Models 최첨단 인공지능과 업계 최고의 가격 대비 성능을 제공하는 최첨단 파운데이션 모델 Amazon Nova Pro Amazon Nova Lite Amazon Nova Micro G E N E R A L L Y A V A I L A B L E G E N E R A L L Y A V A I L A B L E G E N E R A L L Y A V A I L A B L E Amazon Nova Premier 복잡한 추론 작업과 맞춤형 모델 도출을 위한 최고의 교사로 사용하기에 가장 적합한 멀티모달 모델 C O M I N G S O O N U n d e r s t a n d i n g m o d e l s Amazon Nova Reel 최첨단 비디오 생성 모델 G E N E R A L L Y A V A I L A B L E Amazon Nova Canvas 최첨단 이미지 생성 모델 G E N E R A L L Y A V A I L A B L E C r e a t i v e c o n t e n t g e n e r a t i o n m o d e l s 매우 낮은 비용으로 가장 짧은 지연 시간 응답을 제공하는 텍스트 전용 모델 이미지, 비디오, 텍스트 입력 처리가 매우 빠른 저가형 멀티모달 모델 다양한 작업을 위한 정확성, 속도, 비용의 최상의 조합을 갖춘 고성능 멀티모달 모델 Increasing Intelligence Lower Cost & Latency
  • 17. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AMAZON NOVA JAMBA CLAUDE COMMAND EMBED RERANK LLAMA LUMA RAY 2 긴 컨텍스트 윈도우에 대한 효과적인 추론 및 신속한 분석 대규모로 쉽게 배포할 수 있는 고품질 AI 이미지 생성 고급 이미지 및 언어 추론 지식 요약, 전문가 에이전트 및 코드 완성 텍스트와 이미지로 고품질 동영상 생성 대규모 엔터프라이즈 를 위한 소프트웨어 엔지니어링 AI STABLE DIFFUSION STABLE IMAGE MISTRAL MIXTRAL MALIBU POINT 지연 시간이 짧은 프론티어 멀티모달 인텔리전스, 에이전트 및 RAG 애플리케이션, 고품질 이미지 및 비디오 생성 컴퓨터 사용 기술을 포함한 고급 추론 및 코딩 능력 다국어 지식 에이전트를 지원하는 멀티모달 검색 및 고급 검색 기능 Amazon Bedrock
  • 18. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent 1 Region 생 성 형 A I 응 답 의 정 확 성 을 수 학 적 으 로 검 증 하 는 기 능 Automated Reasoning in Bedrock Guardrails 생성형 AI의 정확성 보장 • Automated Reasoning 검사는 LLM(대규모 언어 모델) 응답에서 환각(부정확한 정보 생성)을 탐지 • 모델 응답의 정확성을 수학적 기법을 통해 검증하며, 예측이나 추측 없이 신뢰할 수 있는 증거 제공 • 자동 추론 정책(Automated Reasoning Policy)에 따라 응답이 검증되고, 정확성의 근거를 설명 환각 문제 해결 및 투명성 향상 • LLM이 생성하는 설득력 있는 잘못된 답변은 검출이 어려워 생성형 AI 도입 속도를 저해 • Automated Reasoning 검사는 이러한 문제를 완화하며, 특히 정확성이 중요한 사용 사례에서 신뢰성을 높임 AWS News Blog Post
  • 19. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent 10 Regions 🇰🇷 이 미 지 콘 텐 츠 멀 티 모 달 유 해 성 검 출 지 원 Multimodal toxicity detection in Guardrails 이미지 데이터 유해성 검출 • Bedrock Guardrails는 이미지 콘텐츠에서 불쾌하거나 유해할 수 있는 항목을 검출하고 필터링할 수 있는 포괄적인 솔루션을 제공합니다 • 텍스트와 이미지 데이터를 모두 포함한 콘텐츠 필터를 단일 솔루션에서 활용 가능 • 카테고리별 탐지: 증오(hate), 모욕(insults), 성적 콘텐츠(sexual), 폭력(violence) 등 다양한 산업군에서 활용 • 의료, 제조, 금융 서비스, 미디어 및 광고, 운송, 마케팅, 교육 등 여러 산업에서 책임감 있는 AI 정책을 기반으로 생성형 AI 애플리케이션 구축 가능 • 고객 맞춤형 필터 임계값 설정을 통해 적합한 콘텐츠만 유지하며 유해 콘텐츠를 필터링 글로벌 멀티모달 모델 지원 • Amazon Bedrock의 모든 이미지를 지원하는 파운데이션 모델(FM)과 통합 • Fine-tuned 모델에서도 작동하여 고객 맞춤형 요구사항 충족 가능 AWS News Blog Post
  • 20. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack 생산성 향상을 위한 애플리케이션 생성형 AI 앱 구축을 위한 모델과 도구 AI 모델 구축 및 학습을 위한 인프라 Amazon Q Business 인사이트 및 자동화 Amazon SageMaker 관리형(MANAGED) 인프라 Amazon Bedrock AMAZON MODELS | PARTNER MODELS Amazon Q Developer 소프트웨어 개발 수명주기 GPUs AWS Trainium AWS Inferentia 고성능 컴퓨팅
  • 21. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack AI 모델 구축 및 학습을 위한 인프라 Amazon SageMaker 관리형(MANAGED) 인프라 GPUs AWS Trainium AWS Inferentia 고성능 컴퓨팅 차세대 Amazon SageMaker Amazon SageMaker platform Amazon SageMaker Hyperpod Unified Studio Lakehouse Training plans Task governance Amazon SageMaker AI Partner AI Apps Q Developer in SageMaker Canvas AWS Trainium Trn2 instances Trn2 UltraServers Trainium3 AI Chip
  • 22. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. SageMaker Unified Studio (Preview) Machine Learning SQL Analytics Data Processing Streaming Gen AI Development Business Intelligence Search coming soon coming soon coming soon Lakehouse 3rd Party Data Data Open Data Access ( Iceberg REST Catalog API ) Zero-ETL: ingestion, replication, federation Zero-ETL: ingestion, replication, federation Data Source Amazon DynamoDB (preview) Amazon Redshift Google BigQuery MySQL PostgreSQL Snowflake (preview) 데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
  • 23. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. SageMaker Unified Studio (Preview) Machine Learning SQL Analytics Data Processing Streaming Gen AI Development Business Intelligence Search coming soon coming soon coming soon Amazon EMR AWS Glue Amazon Athena Amazon Redshift Amazon SageMaker AI Amazon Bedrock Amazon QuickSight Amazon OpenSearch Amazon MSK Amazon Kinesis Data & AI Governance Lakehouse 데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
  • 24. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. A single data and AI development environment
  • 25. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 프로젝트의 코드, 데이터, ML, 컴퓨팅을 하나의 view 에서 확인 익숙한 AWS 도구에서 노트북, 쿼리, 모델 등으로 작업 가능 Amazon Q로 구동되는 Gen AI 지원 환경 Amazon SageMaker Unified Studio
  • 26. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent 5 Regions 데 이 터 , 분 석 , A I 를 통 합 적 으 로 관 리 할 수 있 는 환 경 을 제 공 Next generation of Amazon SageMaker Amazon SageMaker Unified Studio (프리뷰) • 기존의 Amazon EMR, AWS Glue, Amazon Redshift, Amazon Bedrock, 및 SageMaker Studio 기능을 통합 • 데이터 탐색 및 활용을 단일 환경에서 수행, 데이터 및 AI 작업에 최적화된 도구 제공 Amazon SageMaker Lakehouse • Amazon S3 데이터 레이크, Amazon Redshift 데이터 웨어하우스, 써드파티 및 연합 데이터 소스를 통합 • Apache Iceberg 호환 도구 및 엔진으로 데이터 접근 및 쿼리 수행 가능 Amazon SageMaker Data and AI Governance • 데이터 및 AI 워크플로우에 대한 안전한 탐색, 거버넌스, 협업 지원 Amazon Q Developer • 소프트웨어 개발을 위한 생성형 AI 어시스턴트로, 데이터 처리, SQL 분석, 모델 개발을 가속화 AWS News Blog Post
  • 27. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent 14 Regions 🇰🇷 A M A Z O N S 3 데 이 터 레 이 크 와 A M A Z O N R E D S H I F T 데 이 터 웨 어 하 우 스 의 데 이 터 를 통 합 Amazon SageMaker Lakehouse AWS News Blog Post 데이터 통합 및 쿼리 • Apache Iceberg 오픈 표준을 사용해 데이터를 그대로 조회하고, Amazon EMR, AWS Glue, Amazon Redshift, Apache Spark 등 다양한 엔진과 통합 • SageMaker Unified Studio(프리뷰)에서 데이터를 직접 쿼리할 수 있음 세분화된 데이터 보안 • 데이터 분석 및 ML 도구와 엔진 전반에서 일관성 있게 적용되는 세밀한 권한 설정 제공 기존 데이터 활용 및 ETL 간소화 • 기존 Redshift 데이터 웨어하우스를 분석 및 AI/ML에 활용 가능 • Redshift Managed Storage(RMS)를 활용해 최적화된 데이터 레이크 생성 가능 • Zero-ETL 통합으로 운영 데이터베이스, 스트리밍 서비스, 애플리케이션에서 데이터를 손쉽게 가져올 수 있음 • federated 쿼리를 통해 데이터의 in-place data 분석 가능
  • 28. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack 생산성 향상을 위한 애플리케이션 생성형 AI 앱 구축을 위한 모델과 도구 AI 모델 구축 및 학습을 위한 인프라 Amazon Q Business 인사이트 및 자동화 Amazon SageMaker 관리형(MANAGED) 인프라 Amazon Bedrock AMAZON MODELS | PARTNER MODELS Amazon Q Developer 소프트웨어 개발 수명주기 GPUs AWS Trainium AWS Inferentia 고성능 컴퓨팅
  • 29. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Generative AI Stack 생산성 향상을 위한 애플리케이션 Amazon Q Business 인사이트 및 자동화 Amazon Q Developer 소프트웨어 개발 수명주기 Amazon Q Business Amazon Q Developer Amazon Q in QuickSight scenarios Amazon Q index AI-powered workflow automation Agent capabilities Transformation capabilities Operational Investigation Capability
  • 30. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent All Regions 🇰🇷 5 0 + 액 션 통 합 , 워 크 플 로 우 자 동 화 , A M A Z O N Q I N D E X Amazon Q Business at re:Invent AWS News Blog Post CS
  • 31. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA Amazon Q index와 ISV와의 통합 • Q 인덱스에서 시맨틱 및 키워드 검색 결과를 반환하는 검색 API를 통해 ISV Apps의 RAG 에서 활용 Ref : https://aws.amazon.com/blogs/aws/new-capabilities-from-amazon-q-business-enable-isvs-to-enhance-generative-ai-experiences/ User(s) index Generative AI Application Amazon Q integrations and more... Customer Environment Cross-app data Amazon Q Business Product Application Environment Amazon Q Business Data accessor Product managed large language model RAG 생 성 형 A I 애 플 리 케 이 션 에 C R O S S - A P P 의 인 사 이 트 추 가 CS re:Invent All Regions 🇰🇷
  • 32. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent All Regions 🇰🇷 A I 기 반 에 이 전 트 로 . N E T 포 팅 , 메 인 프 레 임 현 대 화 , V M W A R E 마 이 그 레 이 션 등 대 규 모 엔 터 프 라 이 즈 워 크 로 드 전 환 Amazon Q Developer의 변환 기능 AWS News Blog Post
  • 33. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Compute & Containers
  • 34. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent Limited Regions S T O R A G E 및 G P U 기 반 E C 2 인 스 턴 스 제 품 군 에 대 한 업 데 이 트 Amazon EC2의 새로운 인스턴스 • i8g: AWS Graviton4 및 3세대 AWS Nitro SSD로 구동 (2 regions) • i7ie: Intel Xeon 및 low-latency NVMe 스토리지 포함(6 regions) • p5en: NVIDIA H200 Tensor Core GPU 및 EFA v3 네트워킹 포함(3 regions) • p6: NVIDIA Blackwell GPU를 탑재(coming soon) CS
  • 35. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 생성형 AI와 ML 학습을 위해 만들어진 3세대 chip HBM Capacity HBM Bandwidth Dense Compute Sparse Compute Ref : https://aws.amazon.com/blogs/aws/amazon-ec2-trn2-instances-and-trn2-ultraservers-for-aiml-training-and-inference-is-now-available/
  • 36. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 세 계 최 대 규 모 의 A I 모 델 에 대 한 A W S 의 지 원 Specification Trn1 P5 P5e Trn2 u-trn2x64 # of chips per server 16 8 8 16 64 System Memory (TB) 1.5 2 2 2 8 Peak PFLOPs (BF16) 3.04 7.92 7.92 10.4 41.6 Peak PFLOPs (FP8) 3.04 15.84 15.84 20.8 83.2 HBM capacity (GB) 512 640 1128 1536 6144 HBM BW (TB/s) 13.12 26.8 38.4 46 184 InterChip Interconnect (TB/s) 0.79 0.9 0.9 1 5.2 Networking Bandwidth (Gbps) 1600 3200 3200 3200 12800 FP PFlops / $ $2.83 $2.52 $2.18 $1.65 가장 빠른 Gen AI의 학습과 추론 성능 제공
  • 37. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. DENSE COMPUTE HBM CAPACITY HBM BANDWIDTH Trn2 Instance NeuronLink Bandwidth ML 훈련 및 추론을 위한 가장 강력한 인스턴스 EFAv3 SPARSE COMPUTE
  • 38. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon EC2 Trn2 UltraServer EC2에서 가장 높은 성능의 ML 컴퓨팅을 제공하는 NeuronLink-v3를 통해 연결된 2개의 랙, 4개의 서버 SPARSE COMPUTE DENSE COMPUTE HBM BANDWIDTH NEURONLINK BANDWIDTH EFAv3 BANDWIDTH HBM CAPACITY
  • 39. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 단일 교육 클러스터에서 가장 많은 exaFLOP를 제공하는 수십만 개의 AWS Trainium2 칩 Anthropic의 두 번째로 큰 학습 클러스터보다 5배 더 많은 컴퓨팅 Project Rainier
  • 40. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Anthropic이 Amazon Bedrock을 통해 제공되는 Trn2 기반의 Claude Haiku 3.5를 출시하여 기존 대비 60% 빠른 응답 속도로 고객 생산성을 향상 Poolside는 AWS Trainium2를 통해 개발자들에게 비용 효율적인 generative AI 서비스를 제공하며, 향후 모델 학습에서 40%의 비용 절감을 기대
  • 41. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA pre-re:Invent All Regions 🇰🇷 과 도 한 프 로 비 저 닝 을 줄 이 고 가 용 성 을 개 선 하 면 서 클 러 스 터 를 사 전 에 확 장 Amazon ECS의 예측 확장 • Amazon ECS 서비스 Auto Scaling 내의 새로운 확장 정책 • 머신 러닝(ML) 알고리즘을 사용하여 수요 급증을 예측 • 급증에 앞서 서비스를 확장하여 과도한 프로비저닝을 줄임 • 애플리케이션 응답성과 가용성 개선 AWS Containers Blog Post
  • 42. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent All Regions 🇰🇷 클 릭 한 번 으 로 프 로 비 저 닝 부 터 유 지 관 리 까 지 Amazon EKS Auto Mode • 컴퓨팅, 스토리지 및 네트워킹을 위한 Kubernetes 클러스터 관리를 간소화합니다. • 단 한 번의 클릭으로 프로비저닝에서 유지 관리까지 가능합니다. • 새 클러스터를 만들거나 기존 클러스터에 대해 활성화할 수 있습니다. AWS News Blog Post
  • 43. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 기존의 EKS 책임 공유 모델 AWS Global Infrastructure Foundation Services EKS Cluster Control Plane Cluster Capabilities Cluster EC2 Instances Storage Networking Monitoring Compute Regions Local Zones Edge Locations K8s API Server X-ENIs K8s Etcd Database Pod Networking / Network Policy Elastic Load Balancing Storage Drivers Compute Autoscaling System Agents, Kubelet, Container Runtime Application containers: Availability, security, monitoring VPC infrastructure, cluster configuration, add-ons © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Managed by Customers Managed by Amazon Web Services Patching Monitoring Health and Repair Operating System Lifecycle
  • 44. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. EKS Auto Mode의 책임 공유 모델 AWS Global Infrastructure Foundation Services EKS Cluster Control Plane Cluster Capabilities Cluster EC2 Instances Storage Networking Monitoring Compute Regions Local Zones Edge Locations K8s API Server X-ENIs K8s Etcd Database Pod Networking / Network Policy Elastic Load Balancing Storage Drivers Compute Autoscaling Patching Monitoring Health and Repair Operating System Lifecycle System Agents, Kubelet, Container Runtime Application containers: Availability, security, monitoring VPC infrastructure, cluster configuration, add-ons © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Managed by Customers Managed by Amazon Web Services
  • 45. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent All Regions 🇰🇷 클 라 우 드 의 E K S 클 러 스 터 에 온 프 레 미 스 및 에 지 인 프 라 를 노 드 로 연 결 Amazon EKS 하이브리드 노드 AWS News Blog Post
  • 46. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Analytics
  • 47. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. SageMaker Unified Studio (Preview) Machine Learning SQL Analytics Data Processing Streaming Gen AI Development Business Intelligence Search coming soon coming soon coming soon Lakehouse 3rd Party Data Data Open Data Access ( Iceberg REST Catalog API ) Zero-ETL: ingestion, replication, federation Zero-ETL: ingestion, replication, federation Data Source Amazon DynamoDB (preview) Amazon Redshift Google BigQuery MySQL PostgreSQL Snowflake (preview) 데이터, 분석 및 AI의 중심지, 차세대 Amazon SageMaker
  • 48. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent 3 Regions Open Source A P A C H E I C E B E R G 로 구 동 되 는 분 석 워 크 로 드 에 최 적 화 된 스 토 리 지 Amazon S3 Tables • Apache Iceberg 테이블을 저장하는 분석 창고 역할 • 저장 계층으로 Apache Parquet 형식을 사용 • 동시에 분석 워크로드에 맞게 최적화된 동일한 S3 버킷 기능 제공 AWS News Blog Post
  • 49. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent 3 Regions Open Source O B J E C T 들 의 메 타 데 이 터 를 관 리 하 고 쿼 리 하 는 가 장 쉽 고 빠 른 방 법 Amazon S3 Metadata • S3 버킷에서 객체 메타데이터를 캡처하기 위한 완전 관리형 자동화 방식 • 객체가 추가되고 수정될 때 메타데이터를 저장하는 버킷 레벨별 옵트인 메커니즘 • 20개 이상의 필드를 포함 • AWS 분석 서비스 및 Apache Spark와 같은 오픈 소스 도구에서 액세스할 수 있는 스키마가 있는 Apache Iceberg 테이블에 이를 저장 AWS News Blog Post
  • 50. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent All Regions 🇰🇷 A M A Z O N C L O U D W A T C H 와 A M A Z O N O P E N S E A R C H 서 비 스 통 합 통합된 분석 경험 • Amazon CloudWatch와 Amazon OpenSearch Service 간의 Zero-ETL 통합 • 데이터 중복 없이 로그 데이터 분석 및 시각화를 간소화 • 기술적 오버헤드와 운영 비용을 줄이는 동시에 로그 관리 간소화 AWS News Blog Post
  • 51. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent 14 Regions 🇰🇷 A M A Z O N S A G E M A K E R U N I F I E D S T U D I O , L A K E H O U S E 및 S P A R K 3 . 5 . 2 지 원 AWS Glue 5.0 • 성능이 개선되고 보안이 강화 • Amazon Sagemaker Unified Studio, Amazon SageMaker Lakehouse에 대한 지원이 제공 • 다음과 같은 런타임 및 종속성 업데이트 제공 § Apache Spark 3.5.2 § Python 3.11 § Java 17 § Apache Hudi 0.15.0 § Apache Iceberg 1.6.1 § Delta Lake 3.2.0 AWS Announcement
  • 52. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Databases
  • 53. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. P re:Invent 1 Region 완 전 관 리 형 및 A W S 기 반 O R A C L E E X A D A T A D A T A B A S E 서 비 스 Oracle Database@AWS • AWS 데이터 센터 내의 Oracle Cloud Infrastructure(OCI) 관리 Exadata 인프라에서 Oracle Database Services에 액세스 가능 • Oracle Real Application Clusters(RAC) 워크로드를 포함한 Oracle Database 워크로드를 최소한의 변경 또는 변경 없이 AWS 내의 Oracle Exadata Database Service로 쉽고 빠르게 마이그레이션 가능 AWS Announcement
  • 54. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. PP re:Invent 3 Regions 서 버 리 스 , P O S T G R E S Q L 호 환 데 이 터 베 이 스 W I T H 멀 티 리 전 액 티 브 - 액 티 브 설 정 Amazon Aurora DSQL • 다중 지역 액티브-액티브 기능을 갖춘 서버리스 분산 SQL 데이터베이스 • PostgreSQL과 호환되며 액티브-액티브 분산 아키텍처 • 단일 장애 지점 없이 99.99% 단일 지역 및 99.999% 다중 지역 가용성을 위해 설계 • 자동화된 장애 복구 • 모든 지역 엔드포인트에 대한 모든 읽기 및 쓰기가 강력하게 일관되고 내구성 보장 AWS Database Blog Post
  • 55. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA pre-re:Invent 10 Regions G E N E R A L A V A I L A B I L I T Y O F L I M I T L E S S C L U S T E R S Amazon Aurora PostgreSQL Limitless • 사용자 정의 애플리케이션 로직을 만들거나 여러 데이터베이스를 관리할 필요 없음 • 단일 작성자 인스턴스의 한계를 넘어 Amazon Aurora에서 관계형 데이터베이스 워크로드를 확장 • 스토리지 계층을 샤딩할 • 워크로드 사용에 따라 자동으로 컴퓨팅을 확장 및 축소 • 재프로비저닝 필요 없음 AWS News Blog Post
  • 56. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Security & Compliance
  • 57. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA pre-re:Invent All Regions 🇰🇷 새 로 운 관 리 형 권 한 부 여 정 책 을 사 용 하 여 A W S 리 소 스 에 대 한 액 세 스 를 중 앙 에 서 제 한 Resource Control Policies (RCPs) • AWS Organizations의 새로운 정책 유형 • 조직의 리소스에 대해 사용 가능한 최대 권한 제어 • 조직 루트, OU(조직 단위), 또는 구성원 계정에 적용 가능 • 위임된 관리 지원 • 추가 비용 없이 이용 가능 AWS News Blog Post
  • 58. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA pre-re:Invent All Regions 🇰🇷 U S I N G A W S O R G A N I Z A T I O N S Centralized Management of Root Access • IAM 루트 자격 증명을 중앙에서 관리 : • 각 맴버 계정에 대해 개별적으로 MFA를 활성화할 필요 없음 • 관리자는 AWS 조직의 구성원 계정에서 루트 사용자 자격 증명을 삭제할 수 있음 • 반드시 루트 권한이 필요한 작업에 대해서는 중앙에서 수행 하도록 지원 • 모든 상용 리전, GCR 및 GovCloud에서 이용 가능 AWS News Blog Post
  • 59. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Virtual Private Cloud Block public access 모든 VPC의 인터넷 트래픽을 강제로 차단할 수 있는 원클릭 선언적 제어 중앙 집중식 퍼블릭 액세스 정책 구현 가능 Security Inspection VPC를 제외한 모든 VPC에서 IGW를 통한 직접적인 인터넷 접근을 방지하는 가드레일
  • 60. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Migration & Networking
  • 61. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. P re:Invent Private Preview A M A Z O N V P C 내 에 서 V M W A R E C L O U D F O U N D A T I O N ( V C F ) 을 실 행 하 기 위 한 기 본 A W S 서 비 스 Amazon Elastic VMware Service (EVS) • AWS에서 VMware 기반 워크로드를 마이그레이션하고 현대화하여 클라우드의 확장성, 민첩성 및 비용 이점을 얻을 수 있는 기본 경로를 제공 • AWS는 VMware 고객에게 클라우드에서 VMware 기반 워크로드를 실행할 때 가장 많은 선택권과 유연성을 제공하고자 노력하고 있으며, 고객의 요구 사항을 지원하기 위해 마이그레이션 및 현대화 경로, 프로그램 및 파트너십을 계속 확장 AWS M&M Blog Post
  • 62. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. GA re:Invent 21 Regions 🇰🇷 그 리 고 A W S S T E P F U N C T I O N S 또 는 A M A Z O N E V E N T B R I D G E 와 직 접 통 합 합 니 다 . AWS PrivateLink를 통한 VPC 리소스에 액세스 • Amazon EC2 인스턴스, Amazon ECS 및 Amazon EKS 컨테이너 서비스와 같은 AWS 리소스와 Amazon VPC 및 AWS 계정 경계를 넘나드는 자체 HTTPS 서비스를 공유 • Amazon EventBridge를 통해 이벤트 기반 앱을 빌드하고 AWS Step Functions로 워크플로 조정 가능 AWS News Blog Post
  • 63. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
  • 64. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 세션 종료 후 설문에서 꼭 세션 평가를 남겨주세요. Myeongsu Jeon Myeongsu@amazon.com
  • 65. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024: Launch Summary
  • 66. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 Launch Summary (1/5) Analytics Announcing scenarios analysis capability of Amazon Q in QuickSight (preview) Announcing Amazon S3 Metadata (Preview) – Easiest and fastest way to manage your metadata Amazon DynamoDB zero-ETL integration with Amazon SageMaker Lakehouse AWS expands data connectivity for Amazon SageMaker Lakehouse and AWS Glue Amazon S3 Access Grants now integrate with AWS Glue Amazon SageMaker Lakehouse integrated access controls now available in Amazon Athena federated queries Introducing AWS Glue 5.0 Introducing the next generation of Amazon SageMaker AWS announces Amazon SageMaker Lakehouse Amazon SageMaker Lakehouse and Amazon Redshift support for zero-ETL integrations from eight applications AWS Glue Data catalog now automates generating statistics for new tables Analytics Introducing Amazon SageMaker Data and AI Governance Announcing the preview of Amazon SageMaker Unified Studio Data Lineage is now generally available in Amazon DataZone and next generation of Amazon SageMaker Amazon Q in QuickSight unifies insights from structured and unstructured data Amazon Q Business now provides insights from your databases and data warehouses (preview) Amazon OpenSearch Service zero-ETL integration with Amazon Security Lake AWS Clean Rooms now supports multiple clouds and data sources Application Integration Amazon SageMaker Lakehouse and Amazon Redshift support for zero-ETL integrations from eight applications Amazon Bedrock now supports multi-agent collaboration Amazon EventBridge and AWS Step Functions announce integration with private APIs Business Applications Amazon Q Business now provides insights from your databases and data warehouses (preview) Amazon Connect Contact Lens now supports external voice Amazon Connect now supports external voice transfers Amazon Connect Contact Lens now automatically categorizes your contacts using generative AI Amazon Connect launches AI guardrails for Amazon Q in Connect Amazon Connect launches new intraday forecast dashboards Amazon Connect launches AI assistant for customer segments and trigger-based campaigns Amazon Connect now supports WhatsApp Business messaging Amazon Connect Contact Lens now automates agent performance evaluations using generative AI Amazon Connect launches generative AI-powered self- service with Amazon Q in Connect AWS announces Salesforce Contact Center with Amazon Connect (Preview) 73
  • 67. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 Launch Summary (2/5) Compute Amazon EC2 Trn2 instances are generally available Announcing Amazon Elastic VMware Service (Preview) Deploy GROW with SAP on AWS from AWS Marketplace Amazon EC2 P5en instances, optimized for generative AI and HPC, are generally available Announcing Amazon EC2 I8g instances Amazon Web Services announces declarative policies Amazon CloudWatch Container Insights launches enhanced observability for Amazon ECS Introducing Amazon EC2 next generation high density Storage Optimized I7ie instances AWS Marketplace now offers EC2 Image Builder components from independent software vendors Amazon EC2 introduces Allowed AMIs to enhance AMI governance Announcing Amazon EKS Auto Mode Announcing Amazon EKS Hybrid Nodes AWS simplifies the use of third-party block storage arrays with AWS Outposts Containers VPC Lattice now includes TCP support with VPC Resources Announcing Amazon EKS Auto Mode Announcing Amazon EKS Hybrid Nodes Customer Engagement Introducing the AWS Digital Sovereignty Competency Amazon Connect now provides the ability to record audio during IVR and other automated interactions Amazon Connect Contact Lens now supports external voice Amazon Connect now supports external voice transfers Amazon Connect launches AI guardrails for Amazon Q in Connect Amazon Connect Contact Lens launches built-in dashboards to analyze conversational AI bot performance Databases Announcing Amazon Aurora DSQL (Preview) Amazon DynamoDB global tables previews multi-Region strong consistency AWS DMS Schema Conversion now uses generative AI Announcing the general availability of Amazon MemoryDB Multi-Region Oracle Database@AWS is now in limited preview Amazon Bedrock Knowledge Bases now supports GraphRAG (preview) Amazon DynamoDB zero-ETL integration with Amazon SageMaker Lakehouse Amazon Connect launches simplified conversational AI bot creation Amazon Connect now supports WhatsApp Business messaging Amazon Connect launches generative AI-powered self- service with Amazon Q in Connect Amazon Connect now makes it easier to collect sensitive customer data within chats 74
  • 68. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 Launch Summary (3/5) Databases (continued) Amazon Q Business now provides insights from your databases and data warehouses (preview) Announcing Amazon EC2 I8g instances AWS DMS Schema Conversion now uses generative AI Amazon Bedrock Data Automation now available in preview Amazon Bedrock Knowledge Bases now supports GraphRAG (preview) Announcing Amazon SageMaker HyperPod recipes Amazon Bedrock Knowledge Bases now processes multimodal data Announcing GenAI Index in Amazon Kendra Amazon Q Developer adds operational investigation capability (Preview) Amazon Q Developer can now automate code reviews Amazon Bedrock Model Distillation is now available in preview Amazon Q Business introduces over 50 actions for popular business applications and platforms Amazon SageMaker Lakehouse and Amazon Redshift support for zero-ETL integrations from eight applications Amazon Bedrock now supports multi-agent collaboration Amazon Bedrock Guardrails now supports Automated Reasoning checks (Preview) Developer Tools Amazon Q Developer adds operational investigation capability (Preview) Amazon Q Developer now provides transformation capabilities for .NET porting (Preview) Amazon Q Developer can now automate code reviews Announcing GitLab Duo with Amazon Q (Preview) Amazon Q Developer can now generate documentation within your source code Amazon Q Developer transformation capabilities for mainframe modernization are now available (Preview) Front End Web & Mobile Storage Browser for Amazon S3 is now generally available Amazon Connect now supports WhatsApp Business messaging Machine Learning Amazon Bedrock Knowledge Bases now supports structured data retrieval Task governance is now generally available for Amazon SageMaker HyperPod AWS announces Amazon SageMaker Partner AI Apps Amazon Bedrock Guardrails supports multimodal toxicity detection for image content (Preview) Announcing new AWS AI Service Cards to advance responsible generative AI Amazon SageMaker HyperPod now provides flexible training plans Amazon Bedrock Marketplace brings over 100 models to Amazon Bedrock Amazon Bedrock announces preview of prompt caching Amazon Q Developer can now guide SageMaker Canvas users through ML development 75
  • 69. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 Launch Summary (4/5) Machine Learning (continued) Introducing Amazon SageMaker Data and AI Governance Data Lineage is now generally available in Amazon DataZone and next generation of Amazon SageMaker Amazon Q in QuickSight unifies insights from structured and unstructured data Amazon Q Developer can now generate documentation within your source code Announcing Amazon Bedrock IDE in preview as part of Amazon SageMaker Unified Studio Announcing Amazon Nova foundation models available today in Amazon Bedrock Amazon Q Business now provides insights from your databases and data warehouses (preview) Amazon Q Developer transformation capabilities for mainframe modernization are now available (Preview) Amazon EC2 P5en instances, optimized for generative AI and HPC, are generally available Introducing latency-optimized inference for foundation models in Amazon Bedrock Amazon Bedrock Knowledge Bases now supports RAG evaluation (Preview) Amazon Bedrock Model Evaluation now includes LLM- as-a-judge (Preview) Amazon Bedrock Knowledge Bases now provides auto- generated query filters for improved retrieval Amazon Q Business adds support to extract insights from visual elements within documents Amazon Bedrock Knowledge Bases now supports streaming responses Amazon Bedrock now supports Rerank API to improve accuracy of RAG applications Amazon Bedrock Knowledge Bases now supports custom connectors and ingestion of streaming data PartyRock improves app discovery and announces upcoming free daily use Announcing Amazon Q Developer transformation capabilities for VMware (Preview) The Amazon Q index enhances software vendors’ AI experiences Customer Engagement Amazon Web Services announces declarative policies Amazon CloudWatch and Amazon OpenSearch Service launch an integrated analytics experience Amazon CloudWatch adds network performance monitoring for AWS workloads using flow monitors Amazon CloudWatch Container Insights launches enhanced observability for Amazon ECS AWS Control Tower launches managed controls using declarative policies AWS announces Amazon CloudWatch Database Insights Migration and Transfer Announcing AWS Transfer Family web apps Announcing Amazon Q Developer transformation capabilities for VMware (Preview) Networking & Content Delivery AWS announces access to VPC resources over AWS PrivateLink 76
  • 70. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS re:Invent 2024 Launch Summary (5/5) Serverless Amazon OpenSearch Service zero-ETL integration with Amazon Security Lake Nova (Generative AI) Announcing Amazon Nova foundation models available today in Amazon Bedrock Partner Buy with AWS accelerates solution discovery and procurement on AWS Partner websites Respond and recovery more quickly with AWS Security Incident Response Partners Start collaborating on multi-partner opportunities with Partner Connections (Preview) Introducing the AWS Digital Sovereignty Competency New streamlined deployment experience for Databricks on AWS Introducing the AWS Consumer Goods Competency AWS Marketplace now offers EC2 Image Builder components from independent software vendors Security, Identity & Compliance AWS announces AWS Security Incident Response for general availability Amazon Bedrock Guardrails supports multimodal toxicity detection for image content (Preview) Introducing the Amazon Security Lake Ready Specialization Respond and recovery more quickly with AWS Security Incident Response Partners Introducing the AWS Digital Sovereignty Competency AWS Security Competency Update: New AI Security Category Amazon Bedrock Guardrails now supports Automated Reasoning checks (Preview) Amazon Web Services announces declarative policies Amazon OpenSearch Service zero-ETL integration with Amazon Security Lake AWS Verified Access now supports secure access to resources over non-HTTP(S) protocols (Preview) Amazon GuardDuty introduces GuardDuty Extended Threat Detection AWS announces AWS Security Incident Response for general availability Storage Amazon S3 Access Grants now integrate with AWS Glue Announcing Amazon S3 Metadata (Preview) – Easiest and fastest way to manage your metadata Announcing Amazon S3 Tables – Fully managed Apache Iceberg tables optimized for analytics workloads Announcing Amazon EC2 I8g instances Amazon S3 adds new default data integrity protections Storage Browser for Amazon S3 is now generally available Introducing Amazon EC2 next generation high density Storage Optimized I7ie instances Announcing Amazon FSx Intelligent-Tiering, a new storage class for FSx Announcing AWS Transfer Family web apps Amazon S3 launches storage classes for AWS Dedicated Local Zones 77