SlideShare a Scribd company logo
[코세나, kosena] 생성형 AI 앱 구축 플랫폼, 디파이(dify.ai) 소개 자료와 제안 사례입니다.
LLM 트렌드
1. LLM 트렌드 ㅣ LLM 의 발전 모델
1. LLM 트렌드 ㅣ LLM 과 에이전트 비교
1. LLM 트렌드 ㅣ RPA 와 에이전트 비교 , APA 로 진화중
PC 용 AI 에이전트
-AI 가 모든 PC 작업 수행
개인 비서
-AI 가 데이터 수집 ,
계획 수립 , 일정 통보
1. LLM 트렌드 ㅣ LLM 의 끝판완 , 에이전트
1. LLM 트렌드 ㅣ 에이전트의 구현 방법
1. LLM 트렌드 ㅣ LLM 의 구현 방법
1. LLM 트렌드 ㅣ 에이전트 구현 방안
1. LLM 트렌드 ㅣ 에이전트의 구현 방안
1. LLM 트렌드 ㅣ 멀티 에이전트 구현
1. LLM 트렌드 ㅣ 에이전트 구현시 체크리스트
1. LLM 트렌드 ㅣ RAG 활용
1. LLM 트렌드 ㅣ RAG 방안도 발전중
1. LLM 트렌드 ㅣ RAG 구축시 실제 작업은… .
1. LLM 트렌드 ㅣ 에이전틱 RAG 워크플로우
1. LLM 트렌드 ㅣ 환각을 없애고 사람처럼 답변하도록 유도 ..
데이터 수집 청킹 방법
임베딩 모델
선택
화인튜닝 or
PEFT
강화학습
DPO/ORPO
Advanced
RAG
검토
Agentic RAG
시스템 구축
프롬프트
가이드
챗봇 UX
1. LLM 트렌드 ㅣ 환각을 없애고 사람처럼 답변하도록 유도 ..
1. LLM 트렌드 ㅣ LLM 챗봇 구축방안은…
1. LLM 트렌드 ㅣ 운영의 관점을 항상 고려해야
1. LLM 트렌드 ㅣ 운영의 관점 , 지속 학습… ..
Dify.ai 소개
2. 디파이 , 오픈소스 기반의 생성형 AI 구현 도구
디파이 플랫폼은 아래 기능을 제공하고 있습니다 . :
- Support for mainstream LLMs
- An intuitive Prompt orchestration interface
- High-quality RAG engines
- A flexible AI Agent framework
- An Intuitive Low-code Workflow
- Easy-to-use interfaces and APIs
2. 디파이 , 오픈소스 기반의 생성형 AI 구현 도구
2. 디파이 , 전 산업군에 특화된 챗봇 구축
2. 디파이 , 길이 제한 없는 문서 생성
2. 디파이 , 내외부 지식의 자유로운 연동과 분석
2. 디파이 , 매우 간단하고 손쉬운 에이전트 구현
2. 디파이 , LLM 애플리케이션 스택 소개
2. 디파이 , 온프레미스 기반의 엔터프라이즈 어시스턴트
챗봇 구축
2. 디파이 , 엔터프라이즈 LLMOPS 제공
2. 디파이 , End-To-End 의 AI 워크플로우 제공
2. 디파이 , 강력하고 쉽게 구축하는 멀티 에이전트
2. 디파이 , Prompt-as-a-Service Orchestration
Orchestration Modes
Simple orchestration
Assistant orchestration
Flow orchestration
Prompt Variable Types
String
Radio enum
External API
File (Q3 2024)
2. 디파이 , Agentic Workflow Features
Supported Nodes
LLM
Knowledge Retrieval
Question Classifier
IF/ELSE
CODE
Template
HTTP Request
Tool
2. 디파이 , RAG Features
Indexing Methods
Keywords
Text vectors
LLM-assisted question-snippet model
Retrieval Methods
Keywords
Text similarity matching
Hybrid Search
N choose 1 ( Legacy )
Multi-path retrieval
Recall Optimization
Rerank models
2. 디파이 , ETL/VB/Agent
ETL Capabilities
Automated cleaning for TXT, Markdown, PDF, HTML, DOC, CSV formats. Unstructured service
enables maximum support.
Vector Databases Supported
Qdrant (recommended), Weaviate , Zilliz/Milvus, Pgvector, Pgvector-rs , Chroma, OpenSearch,
TiDB, Tencent Vector, Oracle, Relyt, Analyticdb, Couchbase, OceanBase
Agent Technologies
ReAct, Function Call.
Tooling Support
Invoke OpenAI Plugin standard tools
Directly load OpenAPI Specification APIs as tools
Built-in Tools
40+ tools(As of Q2 2024)
2. 디파이 , 랭체인 비교자료
2. 디파이 , 랭체인 비교자료
Dify.ai License
- Solution : On-Premise, Case by Case
- Tech Support : On-Premise, Dify.ai Tech Support Suite 1 Month 2500/M
2. 디파이 , 라이선스 소개
dify.ai 사례
3. LLM 사례 ㅣ산업별 구축 사례
LH 고유 업무 문서 , 유관 분야 전문 데이터
: 편람 , 매뉴얼 , 현행법령 및 행정규칙 , 표준 ·
3. LLM 사례 ㅣ LH 공사
PlayBook 을 활용한 Local LLM 적용 방안
2 단계
생성
AI
적용
1 단계
PlayBoo
k 구축
Local LLM
DB 서버의 OS 가 정상
실행되지 않으니 조치해
주세요 .
ElasticSearch or Vector DB
DB 서버
CPU 용량
OS
검색 쿼리로 질문
검색 쿼리와 관련성이 높은
데이터
:85%
:95%
:60%
:85%
:95%
DB 서버
CPU
용량
시멘틱 벡터검색을 통해 관련성
높은 데이터에 대한 문맥을 찾음
DB 서버 사용률 증가도 원인 될 수
있으니 DB 서버증설 , L3 스위치
설정변경도 점검조치를 ..
A
정교한 응답 셋 구성 / 조정
질문의 제약조건 최적화 기술 적용
그룹웨어
( 전자결재 )
ITSM
KMS
…
유지보수
보고서
메뉴얼
이메일
지식 DB
Q&A
SQL
Search
Engine
SQL
SQL
통합 통합검색
Search
Engine
데이터 통합 , 정형화에 집중 !
성공적인 조치
결과를
지속적인 업데이트
DB 서버 장애 예상되니 DB 서버
설정 변경을 하고 DB 백업 복구를 ..
PlayBook
정확도를 고려하여 필요시 적용
LLM 기반의 IT 관제 지식서비스 / 내부 코딩
지원
3. LLM 사례 ㅣ OO 원
LLM 기반의 보안관제 지식서비스
관제요원
질문
대답
웹 상담
감사
전용기기
APP 챗봇 + 채팅
(STT, TTS)
라벨링
학습 / 재학습
모델 추론
질문
대답
요약 기록
FAQ 업데이트
▪ SOC
▪ ITO
▪ Compliance
▪ Log Analsys
▪ Log Query
안내 시나리오
• 단어 / 문장 추출
• 제품판단 ( 반복질문 )
• 기술판단 ( 반복질문 )
• GPT-J, H2OGPT 등
• Semantic tokenize
질의응답
추론이력
(MongoDB)
지식 베이스
(MariaDB)
Socket 서버
JSI.ai
Legacy I/F
보안 문서 DATA
장비 / 관제 매뉴얼
( PDF )
FAQ
분석 / 대응이력
- SOC 업무 효율 제고
- 보안 대응 지식 고도화
도입 시 효과
LLM 기반의 사이버 보안 보조 솔루션 – Security Co-Pilot
3. LLM 사례 ㅣ OOOO 원
dify.ai 데모
www.dify.ai

More Related Content

PPTX
Venda Valor e não Preço
PDF
10 Dicas infalíveis para você captar clientes
PDF
دورة دراسة الجدوى و مهارات إدارة المشاريع
PDF
La Psychologie des formes
PPTX
L'importance de l'ecoute clients
PDF
A future that integrates LLMs and LAMs (Symposium)
PDF
JSI LAB의 X-Chat for SOC 보안관제센터 시큐리티 코파일럿 제품과 사례 소개
PDF
[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf
Venda Valor e não Preço
10 Dicas infalíveis para você captar clientes
دورة دراسة الجدوى و مهارات إدارة المشاريع
La Psychologie des formes
L'importance de l'ecoute clients
A future that integrates LLMs and LAMs (Symposium)
JSI LAB의 X-Chat for SOC 보안관제센터 시큐리티 코파일럿 제품과 사례 소개
[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf

Similar to [코세나, kosena] 생성형 AI 앱 구축 플랫폼, 디파이(dify.ai) 소개 자료와 제안 사례입니다. (20)

PDF
[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf
PDF
[오픈소스컨설팅] 기업 맞춤형 On-Premise LLM Solution
PPTX
제11회공개sw개발자대회 금상 TensorMSA(소개)
PDF
[오픈소스컨설팅] 기업 맞춤형 온프레미스 LLM 솔루션
PDF
클라우드 세상에서 IT 관리자로 살아남기 - AWS Summit Seoul 2017
PDF
Event storming based msa training commerce example add_handson_v3
PDF
[DDC 2018] Metatron 오픈소스화 및 생태계 구축 (SKT 이정룡, 김지호)
PPTX
소프트웨어공학 프로젝트 최종발표.pptx
PDF
제조업의 AWS 기반 주요 워크로드 및 고객 사례:: 이현석::AWS Summit Seoul 2018
PPTX
SAYAHAE - 상품평 분석 및 추천 서비스 (자연어 처리)
PDF
KOPENS_INTRODUCTION_2014
PPTX
소프트웨어 개발 트랜드 및 MSA (마이크로 서비스 아키텍쳐)의 이해
PDF
Stream Processing Handson Workshop - Flink SQL Hands-on Workshop (Korean)
PDF
Ipl자동화방안제안 애플트리랩
PPT
Pag 빅데이터-한국에도필요한가
PPTX
OCE - Cno 2014 private sector oriented open paas oce
PPT
제4회 아키텍트대회 발표자료 유엔진솔루션즈 장진영 V1.2[1] 110624
PDF
[오픈소스컨설팅]유닉스의 리눅스 마이그레이션 전략_v3
PDF
100% Serverless big data scale production Deep Learning System
PDF
D1T1S2_넥슨의 LLM 에이전트 길들이기-인프라 모니터링 서비스 적용 사례_F.pdf
[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf
[오픈소스컨설팅] 기업 맞춤형 On-Premise LLM Solution
제11회공개sw개발자대회 금상 TensorMSA(소개)
[오픈소스컨설팅] 기업 맞춤형 온프레미스 LLM 솔루션
클라우드 세상에서 IT 관리자로 살아남기 - AWS Summit Seoul 2017
Event storming based msa training commerce example add_handson_v3
[DDC 2018] Metatron 오픈소스화 및 생태계 구축 (SKT 이정룡, 김지호)
소프트웨어공학 프로젝트 최종발표.pptx
제조업의 AWS 기반 주요 워크로드 및 고객 사례:: 이현석::AWS Summit Seoul 2018
SAYAHAE - 상품평 분석 및 추천 서비스 (자연어 처리)
KOPENS_INTRODUCTION_2014
소프트웨어 개발 트랜드 및 MSA (마이크로 서비스 아키텍쳐)의 이해
Stream Processing Handson Workshop - Flink SQL Hands-on Workshop (Korean)
Ipl자동화방안제안 애플트리랩
Pag 빅데이터-한국에도필요한가
OCE - Cno 2014 private sector oriented open paas oce
제4회 아키텍트대회 발표자료 유엔진솔루션즈 장진영 V1.2[1] 110624
[오픈소스컨설팅]유닉스의 리눅스 마이그레이션 전략_v3
100% Serverless big data scale production Deep Learning System
D1T1S2_넥슨의 LLM 에이전트 길들이기-인프라 모니터링 서비스 적용 사례_F.pdf
Ad

More from kosena (11)

PPTX
[코세나, kosena] API 통합 워크 플로우 자동화 도구인 n8n.io 제품 소개 자료입니다.
PPTX
[코세나, kosena] 생성AI 프로젝트와 사례
PPTX
[코세나, kosena] Auto ML, H2O.ai의 헬스케어분야 AI 활용 사례
PDF
[코세나, kosena] Auto ML, H2O.ai의 보험분야 활용사례
PDF
[코세나, kosena] Auto ML, H2O.ai의 제조분야 AI 활용 사례
PDF
[코세나, kosena] Auto ML 플랫폼 : H2O.ai DAI
PPTX
[코세나, kosena] 산업부문별 인공지능 활용제안 가이드
PPTX
[코세나, kosena] 금융권의 머신러닝 활용사례
PDF
[코세나, kosena] 빅데이터 구축 및 제안 가이드
PPTX
[코세나, kosena] 빅데이터 기반의 End-to-End APM과 비정형 데이터 분석 자료입니다.
PDF
[코세나, kosena] FDS(Fraud Detection System) Securities
[코세나, kosena] API 통합 워크 플로우 자동화 도구인 n8n.io 제품 소개 자료입니다.
[코세나, kosena] 생성AI 프로젝트와 사례
[코세나, kosena] Auto ML, H2O.ai의 헬스케어분야 AI 활용 사례
[코세나, kosena] Auto ML, H2O.ai의 보험분야 활용사례
[코세나, kosena] Auto ML, H2O.ai의 제조분야 AI 활용 사례
[코세나, kosena] Auto ML 플랫폼 : H2O.ai DAI
[코세나, kosena] 산업부문별 인공지능 활용제안 가이드
[코세나, kosena] 금융권의 머신러닝 활용사례
[코세나, kosena] 빅데이터 구축 및 제안 가이드
[코세나, kosena] 빅데이터 기반의 End-to-End APM과 비정형 데이터 분석 자료입니다.
[코세나, kosena] FDS(Fraud Detection System) Securities
Ad

[코세나, kosena] 생성형 AI 앱 구축 플랫폼, 디파이(dify.ai) 소개 자료와 제안 사례입니다.

  • 3. 1. LLM 트렌드 ㅣ LLM 의 발전 모델
  • 4. 1. LLM 트렌드 ㅣ LLM 과 에이전트 비교
  • 5. 1. LLM 트렌드 ㅣ RPA 와 에이전트 비교 , APA 로 진화중
  • 6. PC 용 AI 에이전트 -AI 가 모든 PC 작업 수행 개인 비서 -AI 가 데이터 수집 , 계획 수립 , 일정 통보 1. LLM 트렌드 ㅣ LLM 의 끝판완 , 에이전트
  • 7. 1. LLM 트렌드 ㅣ 에이전트의 구현 방법
  • 8. 1. LLM 트렌드 ㅣ LLM 의 구현 방법
  • 9. 1. LLM 트렌드 ㅣ 에이전트 구현 방안
  • 10. 1. LLM 트렌드 ㅣ 에이전트의 구현 방안
  • 11. 1. LLM 트렌드 ㅣ 멀티 에이전트 구현
  • 12. 1. LLM 트렌드 ㅣ 에이전트 구현시 체크리스트
  • 13. 1. LLM 트렌드 ㅣ RAG 활용
  • 14. 1. LLM 트렌드 ㅣ RAG 방안도 발전중
  • 15. 1. LLM 트렌드 ㅣ RAG 구축시 실제 작업은… .
  • 16. 1. LLM 트렌드 ㅣ 에이전틱 RAG 워크플로우
  • 17. 1. LLM 트렌드 ㅣ 환각을 없애고 사람처럼 답변하도록 유도 ..
  • 18. 데이터 수집 청킹 방법 임베딩 모델 선택 화인튜닝 or PEFT 강화학습 DPO/ORPO Advanced RAG 검토 Agentic RAG 시스템 구축 프롬프트 가이드 챗봇 UX 1. LLM 트렌드 ㅣ 환각을 없애고 사람처럼 답변하도록 유도 ..
  • 19. 1. LLM 트렌드 ㅣ LLM 챗봇 구축방안은…
  • 20. 1. LLM 트렌드 ㅣ 운영의 관점을 항상 고려해야
  • 21. 1. LLM 트렌드 ㅣ 운영의 관점 , 지속 학습… ..
  • 23. 2. 디파이 , 오픈소스 기반의 생성형 AI 구현 도구
  • 24. 디파이 플랫폼은 아래 기능을 제공하고 있습니다 . : - Support for mainstream LLMs - An intuitive Prompt orchestration interface - High-quality RAG engines - A flexible AI Agent framework - An Intuitive Low-code Workflow - Easy-to-use interfaces and APIs 2. 디파이 , 오픈소스 기반의 생성형 AI 구현 도구
  • 25. 2. 디파이 , 전 산업군에 특화된 챗봇 구축
  • 26. 2. 디파이 , 길이 제한 없는 문서 생성
  • 27. 2. 디파이 , 내외부 지식의 자유로운 연동과 분석
  • 28. 2. 디파이 , 매우 간단하고 손쉬운 에이전트 구현
  • 29. 2. 디파이 , LLM 애플리케이션 스택 소개
  • 30. 2. 디파이 , 온프레미스 기반의 엔터프라이즈 어시스턴트 챗봇 구축
  • 31. 2. 디파이 , 엔터프라이즈 LLMOPS 제공
  • 32. 2. 디파이 , End-To-End 의 AI 워크플로우 제공
  • 33. 2. 디파이 , 강력하고 쉽게 구축하는 멀티 에이전트
  • 34. 2. 디파이 , Prompt-as-a-Service Orchestration Orchestration Modes Simple orchestration Assistant orchestration Flow orchestration Prompt Variable Types String Radio enum External API File (Q3 2024)
  • 35. 2. 디파이 , Agentic Workflow Features Supported Nodes LLM Knowledge Retrieval Question Classifier IF/ELSE CODE Template HTTP Request Tool
  • 36. 2. 디파이 , RAG Features Indexing Methods Keywords Text vectors LLM-assisted question-snippet model Retrieval Methods Keywords Text similarity matching Hybrid Search N choose 1 ( Legacy ) Multi-path retrieval Recall Optimization Rerank models
  • 37. 2. 디파이 , ETL/VB/Agent ETL Capabilities Automated cleaning for TXT, Markdown, PDF, HTML, DOC, CSV formats. Unstructured service enables maximum support. Vector Databases Supported Qdrant (recommended), Weaviate , Zilliz/Milvus, Pgvector, Pgvector-rs , Chroma, OpenSearch, TiDB, Tencent Vector, Oracle, Relyt, Analyticdb, Couchbase, OceanBase Agent Technologies ReAct, Function Call. Tooling Support Invoke OpenAI Plugin standard tools Directly load OpenAPI Specification APIs as tools Built-in Tools 40+ tools(As of Q2 2024)
  • 38. 2. 디파이 , 랭체인 비교자료
  • 39. 2. 디파이 , 랭체인 비교자료
  • 40. Dify.ai License - Solution : On-Premise, Case by Case - Tech Support : On-Premise, Dify.ai Tech Support Suite 1 Month 2500/M 2. 디파이 , 라이선스 소개
  • 42. 3. LLM 사례 ㅣ산업별 구축 사례
  • 43. LH 고유 업무 문서 , 유관 분야 전문 데이터 : 편람 , 매뉴얼 , 현행법령 및 행정규칙 , 표준 · 3. LLM 사례 ㅣ LH 공사
  • 44. PlayBook 을 활용한 Local LLM 적용 방안 2 단계 생성 AI 적용 1 단계 PlayBoo k 구축 Local LLM DB 서버의 OS 가 정상 실행되지 않으니 조치해 주세요 . ElasticSearch or Vector DB DB 서버 CPU 용량 OS 검색 쿼리로 질문 검색 쿼리와 관련성이 높은 데이터 :85% :95% :60% :85% :95% DB 서버 CPU 용량 시멘틱 벡터검색을 통해 관련성 높은 데이터에 대한 문맥을 찾음 DB 서버 사용률 증가도 원인 될 수 있으니 DB 서버증설 , L3 스위치 설정변경도 점검조치를 .. A 정교한 응답 셋 구성 / 조정 질문의 제약조건 최적화 기술 적용 그룹웨어 ( 전자결재 ) ITSM KMS … 유지보수 보고서 메뉴얼 이메일 지식 DB Q&A SQL Search Engine SQL SQL 통합 통합검색 Search Engine 데이터 통합 , 정형화에 집중 ! 성공적인 조치 결과를 지속적인 업데이트 DB 서버 장애 예상되니 DB 서버 설정 변경을 하고 DB 백업 복구를 .. PlayBook 정확도를 고려하여 필요시 적용 LLM 기반의 IT 관제 지식서비스 / 내부 코딩 지원 3. LLM 사례 ㅣ OO 원
  • 45. LLM 기반의 보안관제 지식서비스 관제요원 질문 대답 웹 상담 감사 전용기기 APP 챗봇 + 채팅 (STT, TTS) 라벨링 학습 / 재학습 모델 추론 질문 대답 요약 기록 FAQ 업데이트 ▪ SOC ▪ ITO ▪ Compliance ▪ Log Analsys ▪ Log Query 안내 시나리오 • 단어 / 문장 추출 • 제품판단 ( 반복질문 ) • 기술판단 ( 반복질문 ) • GPT-J, H2OGPT 등 • Semantic tokenize 질의응답 추론이력 (MongoDB) 지식 베이스 (MariaDB) Socket 서버 JSI.ai Legacy I/F 보안 문서 DATA 장비 / 관제 매뉴얼 ( PDF ) FAQ 분석 / 대응이력 - SOC 업무 효율 제고 - 보안 대응 지식 고도화 도입 시 효과 LLM 기반의 사이버 보안 보조 솔루션 – Security Co-Pilot 3. LLM 사례 ㅣ OOOO 원