[금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 reInvent 2023의 요약과 정리_Nayoung Kim and Jongho Lee.pdf

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
금융 고객을 위한 RE:INVENT 2023 RE:CAP EVENT
금융 비즈니스 관점에서 보는
re:Invent 2023의 요약과 정리
김나영
금융사업개발부문 총괄
AWS

2023 re:Invent 금융트랙 주제 분석
높은 복원력을 갖춘 IT인프라 구축
데이터 수집, 분석 및 액세스
고객경험 증진
손쉽고 빠른 확장성
생성형AI

© 2023년, 아마존 웹 서비스 주식회사 또는 그 계열사. 판권 소유.
NatWest가 초개인화에
생성형AI를 사용한 사례

NatWest 은행 소개
• 1,900만명의 고객을
보유한 영국 4대은행 중
하나
• 점포보다는 디지털 채널
확장에 집중 (훨씬 싸다!)
• 디지털 채널 활성화를
위한 컨텐츠 개발에
생성형AI를 사용

기존의 AI/ML경험 축적이 생성형AI 도입의 열쇠
• AWS를 활용하여 탄탄한
AI/ML 인프라 토대 구축
• AI/ML 활용 경험으로 인한
리스크관리 및 고객 효과에
대한 경험치 축적
• 이를 기반으로 100가지 이상의
생성형AI 사용분야 정의

고객경험 향상에 필요한 초개인화된 컨텐츠 작성
• 생성형AI의 활용분야로
모바일앱에 들어가는
초개인화된 컨텐츠 작성 선택
• “고객군”을 정의하던 시대는
끝났다고 판단
• 초개인화 컨텐츠는 AI가 주체,
인간은 보조적인 역할

생성형AI로 컨텐츠 작성 및 규제적합성 판별
생성형AI가 캠페인에 맞는 컨텐츠 작성
생성형AI가 규제/내규 적합여부
검토하여 수정안 제안

대고객 컨텐츠 작성 프로세스의 중심에 생성형AI를
• 모바일앱 컨텐츠 작성에
생성형AI를 도입함으로 인해
확장성있는 초개인화가 가능
• 컨텐츠 작성, 확인에서
고객에게 전달되기까지의 모든
과정의 자동화 가능 (단,
내용의 최종검수는 여전히
직원들이 수행)

초개인화 컨텐츠로 인한 효과
• 2백만 이상 고객의 첫 예금계좌
개설
• 고금리예금 가입신청이 900%
증가
• 메세지 클릭비율이 4배 증가

J.P.Morgan이 AWS를 활용하여
데이터관리 솔루션인 Fusion을
개발한 사례

Capital One의
회복탄력성있는 IT 인프라 구축

100% AWS상에서 운영되는 Capital One 인프라
• 2012년 “테크를 하는
은행이 아닌 은행업을 하는
테크기업이 되겠다” 선언
• 2020년 100% AWS 이관
완료
• 2022 S/W 출시
• 2023 Site Reliability
Engineering 도입

B/O
채널계
분석계
정보계
계정계, 공통업무

시스템별 가용성이 높아도 의존도가 개입되면…
• 고가용성 서비스라도 복수의
서비스가 상호 의존적인 경우
전체적인 가용성은 떨어짐
• 그러나 금융은 상호 의존적인
다수의 서비스가 정상
작동해야 고객에게 가치 제공

관건은 일관성,가용성 및 파티션 한도 사이의 균형
• 아키텍처 설계단계에서
일관성, 가용성 및 파티션
한도 사이의 균형을 어떻게
잡을지 정해야 함
• 그러나 이러한 조건들은
같은 워크로드에서도
상황에 따라 중요도가
달라짐
• 따라서 이러한 중요도를
미리 정의하는게 중요함

장애가 일어난다는 가정 하에 디자인하라

장애 시나리오는 최대한 세밀하게 작성한다
• 장애를 대비한 매뉴얼의
필요성 강조
• 최대한 세부적인 사항까지
고려하여 작성
• 고객의 입장에서 보이는
화면/정보는 무엇일지?
• 모니터링의 중요성 강조

의존성있는 제3자 시스템 장애에 대한 대비도 가능
• API콜에 응하는 외부
시스템과의 의존성 존재
• 이러한 제3자시스템
중에서는 메인프레임
사용중인 파트너도 있음
(RTO 약 6시간)
• 제3자장애로 인한
데이터송신 실패를 막기
위해 active로 DynamoDB에
데이터 저장

그렇다고 모든 데이터를 무턱대고 복제할순 없음
• 불필요한 대량의 데이터
이동으로 인한 API장애를
방지하기 위해 GraphQL을
이용

멀티리전에 멀티가용영역으로 복원성 향상
• 멀티가용영역은 기본,
멀티리전으로 복원력 향상
• 각 리전에서 모든 리전의
어플리케이션의 상태 점검
가능
• 상태에 따라 Route53로
라우팅

중요시스템의 경우 active/active를 사용
• 신용카드결제 등의
중요업무 처리를 위한
시스템은 active/active를
사용
• 의도적인 오버프로비져닝
• $$$, 그러나 무중단요건
업무를 위해서는 필요
• 비용과 업무 중요도를 감안

컨트롤플레인의 중요성은 쉽게 잊어버리는듯
• 장애상황에서
컨트롤플레인마저
장애가 난다면 자동화가
불가능
• 가시성이 떨어지면
트러블슈팅이 불가능
• 따라서 컨트롤플레인의
항상성 및 복원가능성이
중요

장애는 대응이 아니라 예방하는 것

Sun Life가 GenAI를 사용하여
비즈니스 가치를 제공하는 방법

Re:Invent 2023 - GenAI로 시작해서 GenAI로 마무리
1,885
172 Generative AI
85 Analytics
Break out Session
145 AI/ML
92 Cloud Operation
96 Storage

GenAI 효과와 Risk 축소방안을 동시에 확인 중
직원 업무 효율성
증진
제품 혁신, 시장 감시,
코멘트 및 감정 분석
고객경험
향상

다양한 이해관계자가 참여하는 커뮤니티에서 출발
혁 신 과 리 스 크 관 리 사 이 의 건 강 한 긴 장 감 을 유 지 하 되 , “ U N K N O W N ” 리 스 크 를 완 화 하 기 위 해 서 내 부 활 용 에 집 중
GenAI 커뮤니티 운영
GenAI를 활용하여
직원들의
생산성을 어떻게
향상시킬 수 있을까 ?

Guiding Principal - Show, don’t tell
Experience-Based Accelerator를 통해
6개월 동안 14개 GenAI 실험을 완료하고
이중 4개는 연말까지 직원들에게 제공될 예정
EBA는 AWS 메커니즘으로,
다양한 부서가 협업하여 수 일내에
결과물을 만들어 내도록 지원

How?
커뮤니티 활동,
파트너쉽을
통한 지식
내재화
High value
기회 도출
신속한
실험
제외
새로운 상품과
기능을 소규모
그룹에
적용
결과
측정
확대
Generative AI
flywheel

AWS GenAI 서비스를 활용한 다양한 실험 진행

What Sun Life learned
실 험 을 통 해 L L M 이 직 원 들 의 생 산 성 을 높 이 는 상 당 한 잠 재 력 을 갖 고 있 음 을 확 인 , G E N A I 를 운 영 환 경 에 적 용 하 는 과 정 은 복 잡
LLM behavior
• LLM 모델 간 응답은 소스 콘텐츠와 프롬프팅에 따라 일관성 떨어짐
• Amazon Bedrock을 통해 다양한 LLM을 VPC Zone을 통해 안전하게 점검
• 모델 테스트를 확대함에 따라 "Human in The Loop＂의 중요성을 확인
Mitigating hallucinations
• 진행된 모든 실험에서 환각효과를 최소화 하기 위해서 RAG 사용
• RAG는 환각효과의 제거에는 한계 확인, 파인튜닝, 프롬프트를 통해 최소화 방안 고도화
Models matter
• 모든 모델이 동일한 방식으로 생성되지 않음, 모델의 검토와 선정은 비즈니스와 함께 진행
• 일부 시나리오에서는 간단한 모델이 큰 LLM보다 맞거나 성능이 좋을 수 있음

Sun Life의 GenAI 로드맵
S U N L I F E 는 G E N A I 도 입 로 드 맵 을 3 단 계 로 계 획 하 고 있 으 며 , 현 재 H O R I Z O N 1 에 서 2 단 계 로 전 환 하 고 있 습 니 다 .

Summary
§ 금융산업 전반에 GenAI가 폭 넓게 활용
- Unknown Lisk와 Hallucination 우려로 내부 업무에 우선 적용
- AI/ML 기술 Stack을 확보 후 HITL(Human In The Loop)을 활용하여 GenAI 정확도 개선
§ GenAI 도입을 위한 체계적 접근
- 커뮤니티, AWS EBA를 활용하여 GenAI 도입에 대한 전사적 공감대 형성
- VPC + Amazon Bedrock을 활용하여 다양한 LLM을 안전하고 신속하게 실험하고 적용
§ Cloud 서비스를 활용한 Reliable하고 Scalable 한 인프라 구축
- AWS Native 서비스를 활용하여 일관되고 확장 가능한 데이터 관리체계 구축
- AWS 멀티 가용용역, 멀티 리전을 활용하여 중요 시스템의 이중화

Thank you!

[금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 reInvent 2023의 요약과 정리_Nayoung Kim and Jongho Lee.pdf

More Related Content

What's hot (20)

Similar to [금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 reInvent 2023의 요약과 정리_Nayoung Kim and Jongho Lee.pdf (20)

More from AWS Korea 금융산업팀 (20)

[금융 고객을 위한 re:Invent 2023 re:Cap Event] 03_금융 비즈니스 관점에서 보는 reInvent 2023의 요약과 정리_Nayoung Kim and Jongho Lee.pdf