SlideShare a Scribd company logo
Computing Paradigm
Yong Heui Cho @ Mokwon University
Some of slides are referred to and all credits should go to:
[1] K. Chandrasekaran, Essentials of Cloud Conputing, CRC Press, 2015.
2
High-Performance Computing
• Shortly, HPC
• A pool of processors
– HW: connected (networked) CPUs or nodes
– SW: control of many processors
3
Example of HPC HW
CPU + GPU + cluster
4
Example of HPC SW
• OpenMP (CPU)
• CUDA (GPU)
• MPI (cluster)
5
Parallel Computing
• Actual implementation of HPC
– Multiple processors
– Divide and conquer the jobs through a series
of instructions
– Simultaneous execution of instructions
6
Concept of Parallel Processing
• Conventional method
• Parallel method
– Memory sharing & process sync.
• CPU Core, shared memory
OpenMP
• Compute node, distributed memory
MPI
• GPU Core, GPU memory
CUDA
7
Open Multiple Processing
• Parallel method using CPU multi-core
and shared memory
7
OpenMP
OpenMP
8
Message Passing Interface
MPI
MPI
• Standard messaging method to manage
the compute node and distributed
memory
9
Compute Unified Device
Architecture
• GPU (Graphics Processing Unit) API
model made by NVIDIA
98 SMX×192 cores = 1,536 cores
GPC: GP Clusters
SMX: NG Streaming MP
CUDA
10
Distributed Computing
• Computing system that consists of multiple
computers or nodes connected through a
network: run as a single system
MPI Cluster
11
Grid Computing
• Network of computing to access and use
the remote resources
– Electrical power grid
• Grid service
– Management of grid resources through
middleware
12
Cloud Computing
• Computing trend moves toward cloud
from grid computing.
• Cloud computing delivers a unified service
to the end user.
– Grid computing focuses the resources.
13
Internet
14
Amazon
15
Jeff Bezos in Office, 1999
16
베조스의 2002년 명령
1. 모든 팀들은 데이터와 기능들을 서비스 인터페이스로
연결시켜라.
2. 팀들은 이 인터페이스를 통해서 연락해야 한다.
3. 다른 어떤 커뮤니케이션 방법도 허용되지 않는다. 직접
링크를 보내거나 다른 팀의 스토리지에 직접 접근해서도 안
되며, 공유 메모리나 백도어 같은 것도 안 된다. 모든
커뮤니케이션은 네트워크를 통한 서비스 인터페이스로
이루어져야 한다.
4. 어떤 기술을 쓰든 상관없다. HTTP, Cobra, Pubsub, 독자
프로토콜...그건 상관없다. 베조스는 그런데 관심 없다.
5. 모든 서비스 인터페이스는 예외 없이 외부에서 이용
가능하게 만들어져야 한다. 그 말은 팀들은 외부 개발자들이
인터페이스를 이용할 수 있게 해야 한다는 것이다. 예외는
없다.
6. 이를 실천하지 않는 사람은 누구든 해고될 것이다.
← http://eggry.egloos.com/3763434

More Related Content

PPTX
Computing Paradigm - rev1
PPTX
Linux one brief_edm_202002
PDF
[2018] 클라우드로 서비스할 때 고려할 것들
PPTX
PDF
[OpenStack Days Korea 2016] Track2 - 데이터센터에 부는 오픈 소스 하드웨어 바람
PDF
Dkos(mesos기반의 container orchestration)
PDF
서버를 위한 동시성 모델과 Staged eventdrivenarchitecture
PDF
[OpenInfra Days Korea 2018] (삼성전자) Evolution to Cloud Native
Computing Paradigm - rev1
Linux one brief_edm_202002
[2018] 클라우드로 서비스할 때 고려할 것들
[OpenStack Days Korea 2016] Track2 - 데이터센터에 부는 오픈 소스 하드웨어 바람
Dkos(mesos기반의 container orchestration)
서버를 위한 동시성 모델과 Staged eventdrivenarchitecture
[OpenInfra Days Korea 2018] (삼성전자) Evolution to Cloud Native

What's hot (7)

PDF
[2018] 오픈스택 5년 운영의 경험
PDF
Nginx Architecture
DOCX
TestCloud2018-1(answer)
PDF
해외 사례로 보는 Billing for OpenStack Solution
PPTX
iBiz 2011
PDF
[OpenInfra Days Korea 2018] (Track 2) 오픈스택 기반 온프레미스 및 멀티클라우드 연동 사례: IXcloud KDX
PDF
005. 소셜앱 개발 노하우 라이포인터렉티브 김보경 대표
[2018] 오픈스택 5년 운영의 경험
Nginx Architecture
TestCloud2018-1(answer)
해외 사례로 보는 Billing for OpenStack Solution
iBiz 2011
[OpenInfra Days Korea 2018] (Track 2) 오픈스택 기반 온프레미스 및 멀티클라우드 연동 사례: IXcloud KDX
005. 소셜앱 개발 노하우 라이포인터렉티브 김보경 대표
Ad

Similar to Computing Paradigm (20)

PDF
Definition and Tendency of Fabric Computing (패브릭 컴퓨팅의 정의와 현재 경향)
PPTX
__Cloud_CNA_MSA_Service+Data+InferenceMesh 소개-박문기@메가존클라우드-20230320.pptx
PDF
designing, implementing and delivering microservices with event storming, spr...
PDF
2012 07 28_cloud_reference_architecture_openplatform
PPTX
Cloud based NGS framework
PPTX
클라우드와 미래혁명
PDF
Journey to the cloud for Higher Edu.
PDF
MSA 전략 2: 마이크로서비스, 어떻게 구현할 것인가?
PDF
[OpenInfra Days Korea 2018] (Track 2) Microservice Architecture, DevOps 그리고 5...
PDF
클라우드 컴퓨팅 기본 사항 (Fundamentals)
PPTX
AWS 클라우드를 통한 마이크로서비스 구현 방법 - 조상만 :: AWS 현대적 애플리케이션 개발
PPTX
Cloud 강의자료 20151012_정욱재
PPTX
Ahems lab cloud view-final
PDF
Monolith to Microservices: 클라우드 네이티브 어플리케이션 설계 - 정영준 :: AWS 클라우드 마이그레이션 온라인
PDF
[열린기술공방] Container기반의 DevOps - 클라우드 네이티브
PDF
마이크로서비스 아키텍처의 이해 - 부산대 소프트웨어 공학 연구실 강의 자료
PPT
Cloud review 1011_서울대
PPTX
4. 대용량 아키텍쳐 설계 패턴
PDF
[오픈소스컨설팅]Fault Tolerance Architecture by Netflix
PDF
클라우드 컴퓨팅의 글로벌 리더를 꿈꾼다
Definition and Tendency of Fabric Computing (패브릭 컴퓨팅의 정의와 현재 경향)
__Cloud_CNA_MSA_Service+Data+InferenceMesh 소개-박문기@메가존클라우드-20230320.pptx
designing, implementing and delivering microservices with event storming, spr...
2012 07 28_cloud_reference_architecture_openplatform
Cloud based NGS framework
클라우드와 미래혁명
Journey to the cloud for Higher Edu.
MSA 전략 2: 마이크로서비스, 어떻게 구현할 것인가?
[OpenInfra Days Korea 2018] (Track 2) Microservice Architecture, DevOps 그리고 5...
클라우드 컴퓨팅 기본 사항 (Fundamentals)
AWS 클라우드를 통한 마이크로서비스 구현 방법 - 조상만 :: AWS 현대적 애플리케이션 개발
Cloud 강의자료 20151012_정욱재
Ahems lab cloud view-final
Monolith to Microservices: 클라우드 네이티브 어플리케이션 설계 - 정영준 :: AWS 클라우드 마이그레이션 온라인
[열린기술공방] Container기반의 DevOps - 클라우드 네이티브
마이크로서비스 아키텍처의 이해 - 부산대 소프트웨어 공학 연구실 강의 자료
Cloud review 1011_서울대
4. 대용량 아키텍쳐 설계 패턴
[오픈소스컨설팅]Fault Tolerance Architecture by Netflix
클라우드 컴퓨팅의 글로벌 리더를 꿈꾼다
Ad

More from Yong Heui Cho (20)

PPTX
Android - Sensor Manager
PPTX
Android - Broadcast Receiver
PPTX
Android - Message
PPTX
Cloud Computing
DOCX
TestBCD2018-2(answer)
DOCX
TestSDS2018-2(answer)
DOCX
TestEC2018-2(answer)
DOCX
TestEC2018-1(answer)
DOCX
TestBCD2018-1(answer)
DOCX
TestSDS2018-1(answer)
PPTX
BJT - Analysis of Bias
DOCX
TestCloud2018-2(answer)
DOCX
TestECD2018-1(answer)
DOCX
Test-SDIC2018-2(answer)
PPTX
Cloud Service Model
DOCX
Test-SDIC2018-1(Answer)
DOCX
RF 증폭기 설계(Design of RF Amplifier)-rev1
PPTX
Cloud Deployment Model
PPTX
Cloud Computing Architecture
PPTX
Cloud Computing Fundamentals
Android - Sensor Manager
Android - Broadcast Receiver
Android - Message
Cloud Computing
TestBCD2018-2(answer)
TestSDS2018-2(answer)
TestEC2018-2(answer)
TestEC2018-1(answer)
TestBCD2018-1(answer)
TestSDS2018-1(answer)
BJT - Analysis of Bias
TestCloud2018-2(answer)
TestECD2018-1(answer)
Test-SDIC2018-2(answer)
Cloud Service Model
Test-SDIC2018-1(Answer)
RF 증폭기 설계(Design of RF Amplifier)-rev1
Cloud Deployment Model
Cloud Computing Architecture
Cloud Computing Fundamentals

Computing Paradigm

  • 1. Computing Paradigm Yong Heui Cho @ Mokwon University Some of slides are referred to and all credits should go to: [1] K. Chandrasekaran, Essentials of Cloud Conputing, CRC Press, 2015.
  • 2. 2 High-Performance Computing • Shortly, HPC • A pool of processors – HW: connected (networked) CPUs or nodes – SW: control of many processors
  • 3. 3 Example of HPC HW CPU + GPU + cluster
  • 4. 4 Example of HPC SW • OpenMP (CPU) • CUDA (GPU) • MPI (cluster)
  • 5. 5 Parallel Computing • Actual implementation of HPC – Multiple processors – Divide and conquer the jobs through a series of instructions – Simultaneous execution of instructions
  • 6. 6 Concept of Parallel Processing • Conventional method • Parallel method – Memory sharing & process sync. • CPU Core, shared memory OpenMP • Compute node, distributed memory MPI • GPU Core, GPU memory CUDA
  • 7. 7 Open Multiple Processing • Parallel method using CPU multi-core and shared memory 7 OpenMP OpenMP
  • 8. 8 Message Passing Interface MPI MPI • Standard messaging method to manage the compute node and distributed memory
  • 9. 9 Compute Unified Device Architecture • GPU (Graphics Processing Unit) API model made by NVIDIA 98 SMX×192 cores = 1,536 cores GPC: GP Clusters SMX: NG Streaming MP CUDA
  • 10. 10 Distributed Computing • Computing system that consists of multiple computers or nodes connected through a network: run as a single system MPI Cluster
  • 11. 11 Grid Computing • Network of computing to access and use the remote resources – Electrical power grid • Grid service – Management of grid resources through middleware
  • 12. 12 Cloud Computing • Computing trend moves toward cloud from grid computing. • Cloud computing delivers a unified service to the end user. – Grid computing focuses the resources.
  • 15. 15 Jeff Bezos in Office, 1999
  • 16. 16 베조스의 2002년 명령 1. 모든 팀들은 데이터와 기능들을 서비스 인터페이스로 연결시켜라. 2. 팀들은 이 인터페이스를 통해서 연락해야 한다. 3. 다른 어떤 커뮤니케이션 방법도 허용되지 않는다. 직접 링크를 보내거나 다른 팀의 스토리지에 직접 접근해서도 안 되며, 공유 메모리나 백도어 같은 것도 안 된다. 모든 커뮤니케이션은 네트워크를 통한 서비스 인터페이스로 이루어져야 한다. 4. 어떤 기술을 쓰든 상관없다. HTTP, Cobra, Pubsub, 독자 프로토콜...그건 상관없다. 베조스는 그런데 관심 없다. 5. 모든 서비스 인터페이스는 예외 없이 외부에서 이용 가능하게 만들어져야 한다. 그 말은 팀들은 외부 개발자들이 인터페이스를 이용할 수 있게 해야 한다는 것이다. 예외는 없다. 6. 이를 실천하지 않는 사람은 누구든 해고될 것이다. ← http://eggry.egloos.com/3763434