SlideShare a Scribd company logo
KYUNGPOOK
NATIONAL UNIVERSITY
KYUNGPOOK
NATIONAL UNIVERSITY
Universities in Korea
432
University & Colleges
20%
(80% Private)
National/Public
189
4-year university
Daegu
Seoul
1hr
Flight
Train 1.7hr
Bus 4hr
Gyeongbuk
Province
Daegu Pohan
g
Ulsa
n
Gum
i
Universities in Korea
KNU
Spring
KNU 4Seasons
Summer
KNU 4Seasons
Fall
KNU 4Seasons
Winter
KNU 4Seasons
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Winter
KNU 4Seasons
우리의 한계를 가두는
벽을 부수자!!!
Kyungpook National University
누구나 돈을
쫓는다.
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
가트너의 '신기술 하이프 사이클'은 새로운 기술이 시장에서 어떻게 성숙하고 수용되는지를 5단계로 설명하는
모델입니다.
각 단계는 다음과 같습니다:
1. 기술 촉발 (Technology Trigger): 새로운 기술이 등장하여 초기 개념 증명이나 미디어의 관심을 받기 시작하는
단계입니다. 아직 상용화된 제품은 없으며, 상업적 가치도 증명되지 않은 상태입니다.
2. 부풀려진 기대의 정점 (Peak of Inflated Expectations): 초기 성공 사례와 미디어의 과장된 보도로 인해 기술에
대한 기대가 최고조에 달하는 시기입니다. 일부 기업은 실제 사업에 착수하지만, 대부분은 관망하는 단계입니다.
3. 환멸의 계곡 (Trough of Disillusionment): 기대에 미치지 못하는 결과로 인해 관심이 줄어들고, 초기 투자자들이
실망하는 단계입니다. 기술의 한계와 문제점이 부각되며, 시장의 관심이 감소합니다.
4. 계몽의 단계 (Slope of Enlightenment): 기술의 실제 활용 가능성과 이점이 명확해지기 시작하는 시기입니다. 더
많은 기업이 기술을 도입하고, 실질적인 사용 사례가 나타나며, 기술의 이해도가 높아집니다.
5. 생산성의 안정기 (Plateau of Productivity): 기술이 성숙하여 시장에 널리 보급되고, 상업적으로 성공을 거두는
단계입니다. 기술의 이점이 명확하게 입증되며, 표준화와 최적화가 이루어집니다.
이러한 5단계를 통해 가트너의 하이프 사이클은 신기술의 도입과 성숙 과정을 시각적으로 표현하여, 기업과 조직이
기술 채택에 대한 전략을 수립하는 데 도움을 줍니다.
2007
2008
2009
2010
2016
2017
2022
2023
2024
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Gartner Top 10 Strategic Technology Trends for 2025
✔첫 번째 테마: 자체적으로 조직을 보호하기 위해 알아둬야 할 AI의 위험과 의무 사항
1⃣ AI 에이전트(Agentic AI)
: 사용자가 설정한 목표에 따라 AI가 자율적으로 그에 걸맞은 조치를 취할 수 있음. 다만, 사용자
의도에 맞춰진 산출물을 위해 강력한 보호 장치가 요구됨.
2⃣ AI 거버넌스 플랫폼(AI governance platforms)
: AI의 법적, 윤리적, 운영적인 성과를 관리하도록 관련 정책을 수립할 수 있음. 다만 해당
가이드라인은 지역과 산업에 따라 편차가 있을 수 있음으로 일반화되기 어려울 수 있음.
3⃣ 허위 정보 보안(Disinformation security)
: 신원 확인을 통해 사기와 같은 문제를 줄이고, 지속적으로 신뢰 있는 모델을 모니터링 및 관리할 수
있음. 다만, 다층적이고 적응적인 팀 기반 접근 방식이 요구됨.
Gartner Top 10 Strategic Technology Trends for 2025
✔두 번째 테마: 새로운 지평을 열기 위해 고려해야 할 컴퓨팅 방식
4⃣ 포스트 양자 암호화(Post-quantum cryptography, PQC)
: 양자 컴퓨팅으로 인해 발생할 수 있는 보안 위험으로부터 보호하기 위한 기술임. 다만, 기존의
비대칭 알고리즘을 대체할 수는 없기 때문에 몇 차례 테스트가 요구됨.
5⃣ 엠비언트 인텔리전스(Ambient invisible intelligence)
: 저비용으로 실시간 추적 및 감지를 통해 가시성과 효율성을 개선할 수 있고, 위조 불가능한 출처
증명, 사물의 신원 등을 보고하는 새로운 방법이 될 수 있음. 다만, 이 기술을 사용하기 위해선
사용자 개인정보 보호에 대한 문제를 미리 해결해야 함.
6⃣ 에너지 효율 컴퓨팅(Energy-efficient computing)
: 탄소 발자국을 줄이고 지속 가능성을 개선하는 접근 방식으로, 보다 효율적으로 아키텍처,
알고리즘을 구성하도록 함. 다만, 이에 따른 새로운 컴퓨팅 플랫폼이 필요한데 그 플랫폼을 위한
비용은 많이 들고, 작업도 복잡한 편임. 따라서 오히려 에너지가 더욱 많이 발생할 수 있음.
7⃣ 하이브리드 컴퓨팅(Hybrid computing)
: 고효율, 고속의 혁신적인 환경, 기술의 한계를 뛰어넘는 AI, 높은 수준의 자동화를 기반으로,
자율적으로 비즈니스 작업을 진행할 수 있도록 함. 다만, 초기에는 고도로 전문화된 기술, 보안
위험, 높은 비용 등이 발생하며 오케스트레이션과 같은 도전적인 과제가 발생할 수 있음.
Gartner Top 10 Strategic Technology Trends for 2025
✔세 번째 테마: 물리적 세계와 디지털 세계가 통합될 만한 인간-기계 시너지
8⃣ 공간 컴퓨팅(Spatial computing)
: 증강 현실, 가상 현실 같은 기술을 통해 몰입형 경험을 제공하고, 의료, 소매, 제조 분야에서
정교한 시각화 도구를 위해 활용될 수 있음. 다만 HMD는 높은 비용과 낮은 접근성의 문제를 갖고
있음. 더불어 데이터 보안에 관한 부분도 주요 쟁점이 되고 있음.
9⃣ 다기능 로봇(Polyfunctional robots)
: 여러 작업 수행이 가능하고 원활하게 작업을 전환하여 효율성이 향상되고, 확장성이 높음. 다만,
아직 업계에서는 가격이나 필요한 최소 기능에 대한 논의가 덜 이뤄지고 있음.
🔟 신경학적 강화(Neurological enhancement)
: 뇌 활동을 읽고 해석하는 기술을 기반으로 인지 능력 향상을 기대할 수 있음. 다만, 초기는 높은
비용이 요구되고 이동성 및 무선 연결을 위한 배터리와 옵션이 제한적임. 더불어 인간의 뇌를
기반으로 직접 작업이 요구되고 있기 때문에 보안 문제, 윤리적 문제가 발생할 수 있음.
Contents
이미지를
삽입하세
요
01. 02.
LLMs의 현주소
03.
서비스란
무엇인가?
04.
전공의 벽을
허물다.
BigData
이미지를
삽입하세
요
01. 02.
LLMs의 현주소
03.
서비스란
무엇인가?
04.
전공의 벽을
허물다.
BigData
빅데이터란 무엇인가?
Cognition (인지)
기억, 추리, 상상,
예상하기, 계획하기,
의사결정, 문제 해결,
아이디어의 전달
Memory
이미지를
삽입하세
요
Computation
이미지를
삽입하세
요
2002년 Doug Cutting은 Nutch project라는 웹 검색 엔진을 개발하는 과정에서 웹을 크롤링하고, 저장해
인덱싱하는 등 너무 많은 데이터를 다루는 데 어려움을 겪었습니다.
그런데 2003년 구글의 파일 시스템(GFS)이 어떤 아키텍처로 작동하는지에 대한 논문이 발표되고,
2004년 구글의 제프 딘이 MapReduce라는 큰 데이터를 병렬 분산처리하기 위해 사용하는 알고리즘을 논문으로
발표합니다.
https://static.googleusercontent.com/media/research.google.com/ko//archive/gfs-sosp2003.pdf
https://static.googleusercontent.com/media/research.google.com/ko//archive/mapreduce-osdi04.pdf
Hadoop은 2006년 Doug Cutting과 Mike Cafarella가 개발한 분산처리 프레임워크
구글의 GFS를 대체하기 위해 HDFS 와 MapReduce 를 구현
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
https://www.oss.kr/event/show/86fcea9c-2291-4022-86a7-cca08c5bf9d9
https://onoffmix.com/event/22079?srsltid=AfmBOoqdvrivPDYMIf3y4wtCuACDDtGRdauTrpcyHroPHEXrnYSMyU6o
Transitioning from the Era of Big Data to LLMs_Deriving Insights
https://www.oss.kr/event/show/030d897a-95f3-4fb8-b1e5-23ed313e36fc
Service
인프라는 남고 서비스는 없다
Transitioning from the Era of Big Data to LLMs_Deriving Insights
1. 빅데이터 인프라의 확장과 실질적 서비스 부족
● 초기 빅데이터 열풍이 불면서 많은 기업들이 대규모 데이터 저장소 와 분석 도구에 투자했습니다.
하지만, 이러한 인프라를 구축한 이후에도 데이터를 실제로 활용하는 서비스나 애플리케이션의
개발이 부족했습니다. 이는 데이터 인프라 자체는 존재하지만, 이를 기반으로 하는 혁신적인
서비스나 제품이 부족했기 때문에 빅데이터의 가시적인 성과 가 드러나지 않은 것입니다.
● 예를 들어, 데이터 수집과 저장 은 잘 이루어졌지만, 이를 효과적으로 분석하여 실시간으로
서비스에 반영 하거나 의사 결정을 지원 하는 체계적인 서비스가 제대로 도입되지 않았습니다.
이로 인해 인프라는 커졌지만, 이를 활용한 서비스가 부족하게 되어 빅데이터의 실제 가치를
체감하기 어려운 상황이 생긴 것입니다.
2. 빅데이터 활용의 어려움
● 인프라 구축 이후에도, 빅데이터에서 유의미한 인사이트를 도출하고 이를 실제 비즈니스에
적용하는 것 은 여전히 매우 어려운 과제였습니다. 분석 역량을 갖춘 데이터 과학자의 부족, 분석
결과를 서비스화하는 과정의 복잡성 등으로 인해 많은 기업들이 실질적인 서비스 개발 에
실패했습니다.
● 결과적으로, 데이터는 방대하게 쌓였지만 이를 실질적으로 활용해 고객에게 가치를 제공하는
서비스는 많지 않았습니다. 인프라와 실제 서비스 사이의 이 격차가 열풍이 잦아들게 된 한
요인입니다.
3. 기술 중심에서 비즈니스 중심 으로의 전환
● 빅데이터 열풍이 불 때 많은 기업들이 기술 중심의 접근 을 취하면서, 어떻게 데이터를 활용해
비즈니스 문제를 해결 할지에 대한 구체적인 전략이 부족했습니다. 인프라를 구축하는 데 초점을
맞췄으나, 이를 활용해 실질적인 비즈니스 가치를 창출하는 서비스 로 전환하지 못한 사례가
많았습니다.
● 이로 인해 기업들은 데이터 인프라에 대한 투자는 이어갔지만, 그것이 기대만큼 서비스로
이어지지 못하면서 실망감 이 커졌고, 열풍이 점차 가라앉게 되었습니다.
4. 클라우드 및 AI로의 이동
● 빅데이터 인프라를 직접 구축하고 운영하는 비용이 크고, 관리의 복잡성도 높아지면서 많은
기업들이 클라우드 서비스 로 전환하기 시작했습니다. 클라우드 환경에서 AI와 머신러닝을
활용한 데이터 분석 이 더 주목받게 되면서, 전통적인 빅데이터 인프라 구축에 대한 관심이
줄어들었습니다. 즉, 클라우드 기반의 데이터 분석 서비스 가 빅데이터 인프라를 대체하거나
흡수한 상황입니다.
Transitioning from the Era of Big Data to LLMs_Deriving Insights
https://blog.naver.com/hi_nso/220421743386
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
이미지를
삽입하세
요
01. 02.
LLMs의 현주소
03.
서비스란
무엇인가?
04.
전공의 벽을
허물다.
BigData
https://www.youtube.com/watch?v=8UfK7fVPCGQ
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Siri + AI StartUp 기업
인수(DarwinAI)
Apple 에 Gemini 탑재
Transitioning from the Era of Big Data to LLMs_Deriving Insights
[Submitted on 22 Apr 2024 (v1), last revised 2 May 2024 (this version, v2)]
OpenELM: An Efficient Language
Model Family with Open Training
and Inference Framework
애플, 시리에 자체 LLM
‘에이잭스’
도입…아이폰에도 탑재될까
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
한국에서 자체 LLMs 모델을
보유한 회사?
https://arxiv.org/abs/2404.01954
https://arxiv.org/abs/2408.03541
Transitioning from the Era of Big Data to LLMs_Deriving Insights
LLMs 서비스의 한계
1. 기대와 현실의 격차
● 현재 LLMs는 많은 혁신을 가져왔고, 자연어 처리 및 생성에서 강력한 성능을 보여주고 있습니다.
그러나 빅데이터 열풍 때와 마찬가지로, LLMs가 모든 문제를 해결해줄 것이라는 기대가 과장될
가능성이 큽니다. 기업들이 LLMs를 도입하더라도 실질적인 비즈니스 문제 해결로 이어지지 않는
경우, 그 기대가 깨질 수 있습니다.
● 이미 LLMs가 일부 비즈니스 상황에서 구체적인 사용 사례로 자리 잡고 있지만, 모든 산업 분야에서
성공적으로 적용되는 것은 아닙니다. 이로 인해 ROI에 대한 의문이 제기될 수 있으며, 빅데이터와
유사하게 기대와 현실 사이의 간극이 열풍을 잠재울 수 있습니다.
2. 인프라와 활용 서비스의 격차
● LLMs도 방대한 연산 자원과 데이터를 필요로 합니다. 기업들은 이러한 인프라 구축에 많은 비용을
투자할 수 있지만, 빅데이터 사례처럼 이를 활용한 실제 서비스 개발이 부족하다면 LLMs도 유사한
문제에 직면할 수 있습니다.
● 특히, LLMs의 성능은 고도로 훈련된 데이터 세트와 연산 자원에 의존하므로, 이와 같은 인프라
비용이 지속적으로 부담될 경우, 빅데이터 열풍이 시들해진 것처럼 LLMs도 지속적인 성공을
거두지 못할 수 있습니다.
3. 데이터 및 개인정보 보호 문제
● LLMs는 막대한 양의 데이터를 필요로 하며, 그 과정에서 데이터 프라이버시 와 규제 이슈가 부각될
수 있습니다. GDPR 같은 데이터 보호 규제가 빅데이터 프로젝트를 억제했던 것처럼, LLMs의
경우에도 개인정보 보호 및 윤리적 문제가 사용과 확산에 장애물이 될 수 있습니다.
● 데이터 보안이나 AI 편향성 문제는 LLMs가 신뢰성을 잃고 규제를 더 많이 받게 되는 원인이 될 수
있습니다.
4. AI 모델의 운영 복잡성
● LLMs는 강력한 도구이지만, 여전히 운영과 유지 관리가 매우 복잡합니다. 이러한 기술을
성공적으로 도입하려면 고급 기술력이 필요하며, 대부분의 기업들이 이를 관리하기 위한 전문
인재나 충분한 자원을 갖추지 못할 수 있습니다.
● 빅데이터가 인프라만 남고 실제 서비스 개발이 부족했던 것처럼, LLMs 역시 인프라 구축만
이루어지고 실제 적용 사례가 제한적일 가능성이 큽니다. 이로 인해 성공적인 적용이 제한되거나,
열풍이 사그라들 가능성이 있습니다.
5. 기술 발전 속도
● AI 기술, 특히 LLMs의 발전은 매우 빠르지만, 기업들이 이 기술을 따라잡고 실질적으로 활용하는
데에는 시간이 걸립니다. 많은 기업들이 여전히 기술을 이해하고 적응하는 데 어려움을 겪고 있어,
혁신이 너무 빠르게 일어날 경우 일부 기업들은 뒤처질 수 있고, 기술 도입이 과도하게 추진되면
피로감이 누적될 수 있습니다.
이미지를
삽입하세
요
01. 02.
LLMs의 현주소
03.
서비스란
무엇인가?
04.
전공의 벽을
허물다.
BigData
Transitioning from the Era of Big Data to LLMs_Deriving Insights
도메인을 모른다.
Transitioning from the Era of Big Data to LLMs_Deriving Insights
도메인이 아니라 프로세스
프로세스는 Frame이다.
Frame은 고정적이다.
혁신은 파괴적이다.
도메인을 넘나든다.
Transitioning from the Era of Big Data to LLMs_Deriving Insights
온라인 책 판매에서 CLOUD
유통업계를 점령
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Mobility As A Service
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Sharing As A Service
EveryThing As A Service
이미지를
삽입하세
요
01. 02.
LLMs의 현주소
03.
서비스란
무엇인가?
04.
전공의 벽을
허물다.
BigData
2024년 노벨물리학상
홉필드 교수는 AI 학습의 기본이 되는 인공 신경망 원리를 1980년대 처음으로 내놓은 인물이다. 그가 1982년에
제안한 ‘홉필드 네트워크’는 인간의 뇌 신경세포(뉴런)에서 착안해 인공 신경망 연구의 초석을 놓은 것으로, 오늘날
생성형 AI의 기반
‘AI 4대 천황’으로 꼽히는 힌턴 교수는 심층 학습(딥 러닝)의 개념을 처음으로 고안. 예컨대 AI가 수천만장의 사진을
통해 개와 고양이를 구별하는 학습을 할 때 인간 뇌의 정보 처리 방식처럼 단계를 세분화해 깊이를 더하는 심층
신경망을 개발한 것이다. 힌턴 교수가 제시한 심층 학습은 AI 기술의 토대가 됨
DeepMind CEO인 데미스 하사비스
2024년 노벨화학상
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Service As A Service
질문
답변
언어 모델
사용자
검색
Vector DB
리트리버
Reranker
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Transitioning from the Era of Big Data to LLMs_Deriving Insights
KNU

More Related Content

PPTX
이미 와있는 미래와 소프트웨어씽킹
PDF
사물지능 혁명 - 명사의 시대에서 동사의 시대로
PPTX
2017 주요 기술 흐름 및 개요
PDF
The Data tech for AI based innovation(기업의 AI기반 혁신을 지원하는 데이터 기술)
PDF
빅데이터, 멀리보고 가볍게 시작하라.
PDF
Big data활용 ss
PDF
[DDC 2018] Metatron 오픈소스화 및 생태계 구축 (SKT 이정룡, 김지호)
PDF
4차 산업혁명과 기술·산업 발전전략 (kdi 이성호)
이미 와있는 미래와 소프트웨어씽킹
사물지능 혁명 - 명사의 시대에서 동사의 시대로
2017 주요 기술 흐름 및 개요
The Data tech for AI based innovation(기업의 AI기반 혁신을 지원하는 데이터 기술)
빅데이터, 멀리보고 가볍게 시작하라.
Big data활용 ss
[DDC 2018] Metatron 오픈소스화 및 생태계 구축 (SKT 이정룡, 김지호)
4차 산업혁명과 기술·산업 발전전략 (kdi 이성호)

Similar to Transitioning from the Era of Big Data to LLMs_Deriving Insights (20)

PDF
빅데이터미래전략세미나발표자료 빅데이터기술현황및전망-황승구-20120410
PDF
Short Summary of IT Key Trends - HTML5, Cloud, M2M, Big Data
PDF
인공지능(AI) 플랫폼 시대의 무한 경쟁이 주는 의미
PPTX
8회 IT정보 기술 동향_ria
PDF
빅 데이터, 새로운 통찰력
PDF
[코세나, kosena] 빅데이터 구축 및 제안 가이드
PDF
개인정보 보호와 빅데이터기술의 산업화
PDF
우먼잇츠네트워킹데이 미래토크세션, 세계경제포럼 2025 일자리 톺아보기
PDF
빅데이터 분석 시스템 도입과 AI 적용
PDF
AWS 기반 R&D 혁신을 통한 Time-to-Market 단축- 이현선 AWS사업개발 담당/ 장석복 LG 사이언스 파크 팀장:: AWS...
PDF
기업에서 AI를 제대로 활용하는 법 (How to make AI work for your business)
PDF
빅 데이터의 핵심 플랫폼, 기업용 하둡 동향 2013-2-12
PDF
인공지능, 머신러닝의 이해 강의자료 2019.12.20
PDF
4차 산업혁명과 io t 20170919
PDF
끊임없이 진화하는 AI시스템, MLOps (MLOps, a constantly evolving AI system)
PDF
빅데이터 개요
PPTX
2016.07.21. 최신 소프트웨어 기술에 대한 이해
PDF
National strategy for artificial intelligence of Korea 20191217
PDF
4차 산업혁명 시대의 제조업 혁신을 위한 Data Lake 고객 사례::구태훈, 최삼락, Tony Spagnuolo::AWS Summit ...
PDF
2016 국가정보화백서(국문 )-빅데이터 part-2016-12
빅데이터미래전략세미나발표자료 빅데이터기술현황및전망-황승구-20120410
Short Summary of IT Key Trends - HTML5, Cloud, M2M, Big Data
인공지능(AI) 플랫폼 시대의 무한 경쟁이 주는 의미
8회 IT정보 기술 동향_ria
빅 데이터, 새로운 통찰력
[코세나, kosena] 빅데이터 구축 및 제안 가이드
개인정보 보호와 빅데이터기술의 산업화
우먼잇츠네트워킹데이 미래토크세션, 세계경제포럼 2025 일자리 톺아보기
빅데이터 분석 시스템 도입과 AI 적용
AWS 기반 R&D 혁신을 통한 Time-to-Market 단축- 이현선 AWS사업개발 담당/ 장석복 LG 사이언스 파크 팀장:: AWS...
기업에서 AI를 제대로 활용하는 법 (How to make AI work for your business)
빅 데이터의 핵심 플랫폼, 기업용 하둡 동향 2013-2-12
인공지능, 머신러닝의 이해 강의자료 2019.12.20
4차 산업혁명과 io t 20170919
끊임없이 진화하는 AI시스템, MLOps (MLOps, a constantly evolving AI system)
빅데이터 개요
2016.07.21. 최신 소프트웨어 기술에 대한 이해
National strategy for artificial intelligence of Korea 20191217
4차 산업혁명 시대의 제조업 혁신을 위한 Data Lake 고객 사례::구태훈, 최삼락, Tony Spagnuolo::AWS Summit ...
2016 국가정보화백서(국문 )-빅데이터 part-2016-12
Ad

More from Tae Young Lee (20)

PDF
DeepSeek를 통해 본 Trend (Faculty Tae Young Lee)
PDF
Facebook Meta's technical direction in Large Language Models (LLMs)
PDF
MultiModal Embedding integrates various data types, like images, text, and au...
PDF
Review of the Paper on Capabilities of Gemini Models in Medicine
PDF
A future that integrates LLMs and LAMs (Symposium)
PDF
LLMs Service that provides what users want to know
PDF
Exploring Deep Learning Acceleration Technology Embedded in LLMs
PDF
LLM 모델 기반 서비스 실전 가이드
PDF
Recommendation System History
PDF
검색엔진에 적용된 ChatGPT
PDF
검색엔진에 적용된 딥러닝 모델 방법론
PDF
PaLM Paper Review
PDF
The Deep Learning Compiler
PDF
History of Vision AI
PDF
Aws architecture
PDF
Enhanced ai platform
PDF
Nvidia architecture
PDF
Ai based on gpu
PDF
Real estate trust solution
PDF
Transfer learning usage
DeepSeek를 통해 본 Trend (Faculty Tae Young Lee)
Facebook Meta's technical direction in Large Language Models (LLMs)
MultiModal Embedding integrates various data types, like images, text, and au...
Review of the Paper on Capabilities of Gemini Models in Medicine
A future that integrates LLMs and LAMs (Symposium)
LLMs Service that provides what users want to know
Exploring Deep Learning Acceleration Technology Embedded in LLMs
LLM 모델 기반 서비스 실전 가이드
Recommendation System History
검색엔진에 적용된 ChatGPT
검색엔진에 적용된 딥러닝 모델 방법론
PaLM Paper Review
The Deep Learning Compiler
History of Vision AI
Aws architecture
Enhanced ai platform
Nvidia architecture
Ai based on gpu
Real estate trust solution
Transfer learning usage
Ad

Transitioning from the Era of Big Data to LLMs_Deriving Insights

  • 3. Universities in Korea 432 University & Colleges 20% (80% Private) National/Public 189 4-year university
  • 4. Daegu Seoul 1hr Flight Train 1.7hr Bus 4hr Gyeongbuk Province Daegu Pohan g Ulsa n Gum i Universities in Korea KNU
  • 13. 우리의 한계를 가두는 벽을 부수자!!! Kyungpook National University
  • 17. 가트너의 '신기술 하이프 사이클'은 새로운 기술이 시장에서 어떻게 성숙하고 수용되는지를 5단계로 설명하는 모델입니다. 각 단계는 다음과 같습니다: 1. 기술 촉발 (Technology Trigger): 새로운 기술이 등장하여 초기 개념 증명이나 미디어의 관심을 받기 시작하는 단계입니다. 아직 상용화된 제품은 없으며, 상업적 가치도 증명되지 않은 상태입니다. 2. 부풀려진 기대의 정점 (Peak of Inflated Expectations): 초기 성공 사례와 미디어의 과장된 보도로 인해 기술에 대한 기대가 최고조에 달하는 시기입니다. 일부 기업은 실제 사업에 착수하지만, 대부분은 관망하는 단계입니다. 3. 환멸의 계곡 (Trough of Disillusionment): 기대에 미치지 못하는 결과로 인해 관심이 줄어들고, 초기 투자자들이 실망하는 단계입니다. 기술의 한계와 문제점이 부각되며, 시장의 관심이 감소합니다. 4. 계몽의 단계 (Slope of Enlightenment): 기술의 실제 활용 가능성과 이점이 명확해지기 시작하는 시기입니다. 더 많은 기업이 기술을 도입하고, 실질적인 사용 사례가 나타나며, 기술의 이해도가 높아집니다. 5. 생산성의 안정기 (Plateau of Productivity): 기술이 성숙하여 시장에 널리 보급되고, 상업적으로 성공을 거두는 단계입니다. 기술의 이점이 명확하게 입증되며, 표준화와 최적화가 이루어집니다. 이러한 5단계를 통해 가트너의 하이프 사이클은 신기술의 도입과 성숙 과정을 시각적으로 표현하여, 기업과 조직이 기술 채택에 대한 전략을 수립하는 데 도움을 줍니다.
  • 18. 2007
  • 19. 2008
  • 20. 2009
  • 21. 2010
  • 22. 2016
  • 23. 2017
  • 24. 2022
  • 25. 2023
  • 26. 2024
  • 28. Gartner Top 10 Strategic Technology Trends for 2025 ✔첫 번째 테마: 자체적으로 조직을 보호하기 위해 알아둬야 할 AI의 위험과 의무 사항 1⃣ AI 에이전트(Agentic AI) : 사용자가 설정한 목표에 따라 AI가 자율적으로 그에 걸맞은 조치를 취할 수 있음. 다만, 사용자 의도에 맞춰진 산출물을 위해 강력한 보호 장치가 요구됨. 2⃣ AI 거버넌스 플랫폼(AI governance platforms) : AI의 법적, 윤리적, 운영적인 성과를 관리하도록 관련 정책을 수립할 수 있음. 다만 해당 가이드라인은 지역과 산업에 따라 편차가 있을 수 있음으로 일반화되기 어려울 수 있음. 3⃣ 허위 정보 보안(Disinformation security) : 신원 확인을 통해 사기와 같은 문제를 줄이고, 지속적으로 신뢰 있는 모델을 모니터링 및 관리할 수 있음. 다만, 다층적이고 적응적인 팀 기반 접근 방식이 요구됨.
  • 29. Gartner Top 10 Strategic Technology Trends for 2025 ✔두 번째 테마: 새로운 지평을 열기 위해 고려해야 할 컴퓨팅 방식 4⃣ 포스트 양자 암호화(Post-quantum cryptography, PQC) : 양자 컴퓨팅으로 인해 발생할 수 있는 보안 위험으로부터 보호하기 위한 기술임. 다만, 기존의 비대칭 알고리즘을 대체할 수는 없기 때문에 몇 차례 테스트가 요구됨. 5⃣ 엠비언트 인텔리전스(Ambient invisible intelligence) : 저비용으로 실시간 추적 및 감지를 통해 가시성과 효율성을 개선할 수 있고, 위조 불가능한 출처 증명, 사물의 신원 등을 보고하는 새로운 방법이 될 수 있음. 다만, 이 기술을 사용하기 위해선 사용자 개인정보 보호에 대한 문제를 미리 해결해야 함. 6⃣ 에너지 효율 컴퓨팅(Energy-efficient computing) : 탄소 발자국을 줄이고 지속 가능성을 개선하는 접근 방식으로, 보다 효율적으로 아키텍처, 알고리즘을 구성하도록 함. 다만, 이에 따른 새로운 컴퓨팅 플랫폼이 필요한데 그 플랫폼을 위한 비용은 많이 들고, 작업도 복잡한 편임. 따라서 오히려 에너지가 더욱 많이 발생할 수 있음. 7⃣ 하이브리드 컴퓨팅(Hybrid computing) : 고효율, 고속의 혁신적인 환경, 기술의 한계를 뛰어넘는 AI, 높은 수준의 자동화를 기반으로, 자율적으로 비즈니스 작업을 진행할 수 있도록 함. 다만, 초기에는 고도로 전문화된 기술, 보안 위험, 높은 비용 등이 발생하며 오케스트레이션과 같은 도전적인 과제가 발생할 수 있음.
  • 30. Gartner Top 10 Strategic Technology Trends for 2025 ✔세 번째 테마: 물리적 세계와 디지털 세계가 통합될 만한 인간-기계 시너지 8⃣ 공간 컴퓨팅(Spatial computing) : 증강 현실, 가상 현실 같은 기술을 통해 몰입형 경험을 제공하고, 의료, 소매, 제조 분야에서 정교한 시각화 도구를 위해 활용될 수 있음. 다만 HMD는 높은 비용과 낮은 접근성의 문제를 갖고 있음. 더불어 데이터 보안에 관한 부분도 주요 쟁점이 되고 있음. 9⃣ 다기능 로봇(Polyfunctional robots) : 여러 작업 수행이 가능하고 원활하게 작업을 전환하여 효율성이 향상되고, 확장성이 높음. 다만, 아직 업계에서는 가격이나 필요한 최소 기능에 대한 논의가 덜 이뤄지고 있음. 🔟 신경학적 강화(Neurological enhancement) : 뇌 활동을 읽고 해석하는 기술을 기반으로 인지 능력 향상을 기대할 수 있음. 다만, 초기는 높은 비용이 요구되고 이동성 및 무선 연결을 위한 배터리와 옵션이 제한적임. 더불어 인간의 뇌를 기반으로 직접 작업이 요구되고 있기 때문에 보안 문제, 윤리적 문제가 발생할 수 있음.
  • 33. 빅데이터란 무엇인가? Cognition (인지) 기억, 추리, 상상, 예상하기, 계획하기, 의사결정, 문제 해결, 아이디어의 전달 Memory 이미지를 삽입하세 요 Computation 이미지를 삽입하세 요
  • 34. 2002년 Doug Cutting은 Nutch project라는 웹 검색 엔진을 개발하는 과정에서 웹을 크롤링하고, 저장해 인덱싱하는 등 너무 많은 데이터를 다루는 데 어려움을 겪었습니다. 그런데 2003년 구글의 파일 시스템(GFS)이 어떤 아키텍처로 작동하는지에 대한 논문이 발표되고, 2004년 구글의 제프 딘이 MapReduce라는 큰 데이터를 병렬 분산처리하기 위해 사용하는 알고리즘을 논문으로 발표합니다.
  • 37. Hadoop은 2006년 Doug Cutting과 Mike Cafarella가 개발한 분산처리 프레임워크 구글의 GFS를 대체하기 위해 HDFS 와 MapReduce 를 구현
  • 47. 1. 빅데이터 인프라의 확장과 실질적 서비스 부족 ● 초기 빅데이터 열풍이 불면서 많은 기업들이 대규모 데이터 저장소 와 분석 도구에 투자했습니다. 하지만, 이러한 인프라를 구축한 이후에도 데이터를 실제로 활용하는 서비스나 애플리케이션의 개발이 부족했습니다. 이는 데이터 인프라 자체는 존재하지만, 이를 기반으로 하는 혁신적인 서비스나 제품이 부족했기 때문에 빅데이터의 가시적인 성과 가 드러나지 않은 것입니다. ● 예를 들어, 데이터 수집과 저장 은 잘 이루어졌지만, 이를 효과적으로 분석하여 실시간으로 서비스에 반영 하거나 의사 결정을 지원 하는 체계적인 서비스가 제대로 도입되지 않았습니다. 이로 인해 인프라는 커졌지만, 이를 활용한 서비스가 부족하게 되어 빅데이터의 실제 가치를 체감하기 어려운 상황이 생긴 것입니다.
  • 48. 2. 빅데이터 활용의 어려움 ● 인프라 구축 이후에도, 빅데이터에서 유의미한 인사이트를 도출하고 이를 실제 비즈니스에 적용하는 것 은 여전히 매우 어려운 과제였습니다. 분석 역량을 갖춘 데이터 과학자의 부족, 분석 결과를 서비스화하는 과정의 복잡성 등으로 인해 많은 기업들이 실질적인 서비스 개발 에 실패했습니다. ● 결과적으로, 데이터는 방대하게 쌓였지만 이를 실질적으로 활용해 고객에게 가치를 제공하는 서비스는 많지 않았습니다. 인프라와 실제 서비스 사이의 이 격차가 열풍이 잦아들게 된 한 요인입니다.
  • 49. 3. 기술 중심에서 비즈니스 중심 으로의 전환 ● 빅데이터 열풍이 불 때 많은 기업들이 기술 중심의 접근 을 취하면서, 어떻게 데이터를 활용해 비즈니스 문제를 해결 할지에 대한 구체적인 전략이 부족했습니다. 인프라를 구축하는 데 초점을 맞췄으나, 이를 활용해 실질적인 비즈니스 가치를 창출하는 서비스 로 전환하지 못한 사례가 많았습니다. ● 이로 인해 기업들은 데이터 인프라에 대한 투자는 이어갔지만, 그것이 기대만큼 서비스로 이어지지 못하면서 실망감 이 커졌고, 열풍이 점차 가라앉게 되었습니다.
  • 50. 4. 클라우드 및 AI로의 이동 ● 빅데이터 인프라를 직접 구축하고 운영하는 비용이 크고, 관리의 복잡성도 높아지면서 많은 기업들이 클라우드 서비스 로 전환하기 시작했습니다. 클라우드 환경에서 AI와 머신러닝을 활용한 데이터 분석 이 더 주목받게 되면서, 전통적인 빅데이터 인프라 구축에 대한 관심이 줄어들었습니다. 즉, 클라우드 기반의 데이터 분석 서비스 가 빅데이터 인프라를 대체하거나 흡수한 상황입니다.
  • 72. Siri + AI StartUp 기업 인수(DarwinAI)
  • 75. [Submitted on 22 Apr 2024 (v1), last revised 2 May 2024 (this version, v2)] OpenELM: An Efficient Language Model Family with Open Training and Inference Framework
  • 76. 애플, 시리에 자체 LLM ‘에이잭스’ 도입…아이폰에도 탑재될까
  • 87. 한국에서 자체 LLMs 모델을 보유한 회사?
  • 92. 1. 기대와 현실의 격차 ● 현재 LLMs는 많은 혁신을 가져왔고, 자연어 처리 및 생성에서 강력한 성능을 보여주고 있습니다. 그러나 빅데이터 열풍 때와 마찬가지로, LLMs가 모든 문제를 해결해줄 것이라는 기대가 과장될 가능성이 큽니다. 기업들이 LLMs를 도입하더라도 실질적인 비즈니스 문제 해결로 이어지지 않는 경우, 그 기대가 깨질 수 있습니다. ● 이미 LLMs가 일부 비즈니스 상황에서 구체적인 사용 사례로 자리 잡고 있지만, 모든 산업 분야에서 성공적으로 적용되는 것은 아닙니다. 이로 인해 ROI에 대한 의문이 제기될 수 있으며, 빅데이터와 유사하게 기대와 현실 사이의 간극이 열풍을 잠재울 수 있습니다.
  • 93. 2. 인프라와 활용 서비스의 격차 ● LLMs도 방대한 연산 자원과 데이터를 필요로 합니다. 기업들은 이러한 인프라 구축에 많은 비용을 투자할 수 있지만, 빅데이터 사례처럼 이를 활용한 실제 서비스 개발이 부족하다면 LLMs도 유사한 문제에 직면할 수 있습니다. ● 특히, LLMs의 성능은 고도로 훈련된 데이터 세트와 연산 자원에 의존하므로, 이와 같은 인프라 비용이 지속적으로 부담될 경우, 빅데이터 열풍이 시들해진 것처럼 LLMs도 지속적인 성공을 거두지 못할 수 있습니다.
  • 94. 3. 데이터 및 개인정보 보호 문제 ● LLMs는 막대한 양의 데이터를 필요로 하며, 그 과정에서 데이터 프라이버시 와 규제 이슈가 부각될 수 있습니다. GDPR 같은 데이터 보호 규제가 빅데이터 프로젝트를 억제했던 것처럼, LLMs의 경우에도 개인정보 보호 및 윤리적 문제가 사용과 확산에 장애물이 될 수 있습니다. ● 데이터 보안이나 AI 편향성 문제는 LLMs가 신뢰성을 잃고 규제를 더 많이 받게 되는 원인이 될 수 있습니다.
  • 95. 4. AI 모델의 운영 복잡성 ● LLMs는 강력한 도구이지만, 여전히 운영과 유지 관리가 매우 복잡합니다. 이러한 기술을 성공적으로 도입하려면 고급 기술력이 필요하며, 대부분의 기업들이 이를 관리하기 위한 전문 인재나 충분한 자원을 갖추지 못할 수 있습니다. ● 빅데이터가 인프라만 남고 실제 서비스 개발이 부족했던 것처럼, LLMs 역시 인프라 구축만 이루어지고 실제 적용 사례가 제한적일 가능성이 큽니다. 이로 인해 성공적인 적용이 제한되거나, 열풍이 사그라들 가능성이 있습니다.
  • 96. 5. 기술 발전 속도 ● AI 기술, 특히 LLMs의 발전은 매우 빠르지만, 기업들이 이 기술을 따라잡고 실질적으로 활용하는 데에는 시간이 걸립니다. 많은 기업들이 여전히 기술을 이해하고 적응하는 데 어려움을 겪고 있어, 혁신이 너무 빠르게 일어날 경우 일부 기업들은 뒤처질 수 있고, 기술 도입이 과도하게 추진되면 피로감이 누적될 수 있습니다.
  • 107. 온라인 책 판매에서 CLOUD 유통업계를 점령
  • 109. Mobility As A Service
  • 111. Sharing As A Service
  • 112. EveryThing As A Service
  • 114. 2024년 노벨물리학상 홉필드 교수는 AI 학습의 기본이 되는 인공 신경망 원리를 1980년대 처음으로 내놓은 인물이다. 그가 1982년에 제안한 ‘홉필드 네트워크’는 인간의 뇌 신경세포(뉴런)에서 착안해 인공 신경망 연구의 초석을 놓은 것으로, 오늘날 생성형 AI의 기반 ‘AI 4대 천황’으로 꼽히는 힌턴 교수는 심층 학습(딥 러닝)의 개념을 처음으로 고안. 예컨대 AI가 수천만장의 사진을 통해 개와 고양이를 구별하는 학습을 할 때 인간 뇌의 정보 처리 방식처럼 단계를 세분화해 깊이를 더하는 심층 신경망을 개발한 것이다. 힌턴 교수가 제시한 심층 학습은 AI 기술의 토대가 됨
  • 115. DeepMind CEO인 데미스 하사비스 2024년 노벨화학상
  • 117. Service As A Service
  • 122. KNU