24. 디파이 플랫폼은 아래 기능을 제공하고 있습니다 . :
- Support for mainstream LLMs
- An intuitive Prompt orchestration interface
- High-quality RAG engines
- A flexible AI Agent framework
- An Intuitive Low-code Workflow
- Easy-to-use interfaces and APIs
2. 디파이 , 오픈소스 기반의 생성형 AI 구현 도구
43. LH 고유 업무 문서 , 유관 분야 전문 데이터
: 편람 , 매뉴얼 , 현행법령 및 행정규칙 , 표준 ·
3. LLM 사례 ㅣ LH 공사
44. PlayBook 을 활용한 Local LLM 적용 방안
2 단계
생성
AI
적용
1 단계
PlayBoo
k 구축
Local LLM
DB 서버의 OS 가 정상
실행되지 않으니 조치해
주세요 .
ElasticSearch or Vector DB
DB 서버
CPU 용량
OS
검색 쿼리로 질문
검색 쿼리와 관련성이 높은
데이터
:85%
:95%
:60%
:85%
:95%
DB 서버
CPU
용량
시멘틱 벡터검색을 통해 관련성
높은 데이터에 대한 문맥을 찾음
DB 서버 사용률 증가도 원인 될 수
있으니 DB 서버증설 , L3 스위치
설정변경도 점검조치를 ..
A
정교한 응답 셋 구성 / 조정
질문의 제약조건 최적화 기술 적용
그룹웨어
( 전자결재 )
ITSM
KMS
…
유지보수
보고서
메뉴얼
이메일
지식 DB
Q&A
SQL
Search
Engine
SQL
SQL
통합 통합검색
Search
Engine
데이터 통합 , 정형화에 집중 !
성공적인 조치
결과를
지속적인 업데이트
DB 서버 장애 예상되니 DB 서버
설정 변경을 하고 DB 백업 복구를 ..
PlayBook
정확도를 고려하여 필요시 적용
LLM 기반의 IT 관제 지식서비스 / 내부 코딩
지원
3. LLM 사례 ㅣ OO 원
45. LLM 기반의 보안관제 지식서비스
관제요원
질문
대답
웹 상담
감사
전용기기
APP 챗봇 + 채팅
(STT, TTS)
라벨링
학습 / 재학습
모델 추론
질문
대답
요약 기록
FAQ 업데이트
▪ SOC
▪ ITO
▪ Compliance
▪ Log Analsys
▪ Log Query
안내 시나리오
• 단어 / 문장 추출
• 제품판단 ( 반복질문 )
• 기술판단 ( 반복질문 )
• GPT-J, H2OGPT 등
• Semantic tokenize
질의응답
추론이력
(MongoDB)
지식 베이스
(MariaDB)
Socket 서버
JSI.ai
Legacy I/F
보안 문서 DATA
장비 / 관제 매뉴얼
( PDF )
FAQ
분석 / 대응이력
- SOC 업무 효율 제고
- 보안 대응 지식 고도화
도입 시 효과
LLM 기반의 사이버 보안 보조 솔루션 – Security Co-Pilot
3. LLM 사례 ㅣ OOOO 원