(독서광) 쉽고 빠르게 익히는 실전 LLM - ChatGPT 활용부터 LLM 파인튜닝, 임베딩, 고급 프롬프트 엔지니어링까지
0 likes1,025 views
오늘자 강의 링크: https://www.youtube.com/watch?v=LC681iD4kzo&list=PLdntWJk2tJPJuQctXMbRDdr9TWOsXClm6&index=1&t=2s
(독서광) 쉽고 빠르게 익히는 실전 LLM - ChatGPT 활용부터 LLM 파인튜닝, 임베딩, 고급 프롬프트 엔지니어링까지
- 1. 쉽고 빠르게 익히는 실전 LLM
- 2. 쉽고빠르게익히는실전LLM 한 페이지 요약 • 책 분류 • 인공지능 • 생성형 AI • 대상 독자 • 실제 LLM 관련 업무를 진행하고 계신 개발자 • LLM을 기술적인 측면에서 빠르게 조감하고 싶은 분들 • 특징 • 논문에서 볼 수 있는 복잡한 이론과 수식을 줄이고 실무 관점에서 소개 • 예를 위한 예가 아니라 현장에서 고민할 필요가 있는 사례를 잘 선별함
- 3. 이 책의 목차 Chapter 1 LLM Chapter 2 LLM을 이용한 의미 기반 검색 Chapter 3 프롬프트 엔지니어링의 첫 번째 단계 Chapter 4 맞춤형 파인튜닝으로 LLM을 최적화하기: 아마존 리뷰 감정 분류 Chapter 5 고급 프롬프트 엔지니어링 Chapter 6 임베딩과 모델 아키텍처 맞춤화: 추천 시스템 만들기 Chapter 7 파운데이션 모델을 넘어서 Chapter 8 고급 오픈 소스 LLM 파인튜닝: 장르 다중 분류, GPT-2를 이용한 LaTeX 생성, SAWYER Chapter 9 LLM을 프로덕션 환경에서 사용하기 부록: 자주 묻는 질문과 용어 해설 쉽고빠르게익히는실전LLM 언제까지 프롬프트 엔지니어링과 API만 호출하고 있을 것인가?
- 4. 무엇이 이 책을 흥미롭게 만드는가?(1) 그림과 코드 예시가 좋음 쉽고빠르게익히는실전LLM
- 5. 무엇이 이 책을 흥미롭게 만드는가?(2) LLM을 내 것으로 만드는 여정에 뛰어들어보자 쉽고빠르게익히는실전LLM • 파이썬 노트북을 활용한 실습 코드 제공: https://github.com/sinanuozdemir/quick-start-guide-to-llms • 가장 기본적인 의존성만을 사용 à 프레임워크 홍수에 휩쓸리지 않게 지원 • 허깅페이스를 비롯한 오픈소스 생태계를 적절히 활용해 LLM을 개선하는 방식을 이해하기 쉽게 설명함 • A100과 같은 어마어마한 GPU 환경을 요구하지 않음 à 적절히 작은 모델로 실습이 가능하게 배려함 • PEFT/LoRA/양자화에 대한 내용은 살짝 언급하고 넘어가서 아쉽긴 함
- 6. 대상 독자 LLM을 현업에 적용해야 하는 임무를 맡은 개발자라면 어디서 출발해야 할까? 쉽고빠르게익히는실전LLM • LLM을 업무에 적용하는 과정에서 일어나는 여러 가지 작업을 이해하고 싶은 개발자 • 프롬프트를 만들어 LLM에 넘겨서 답을 얻는 전 과정에서 일어나는 동작 방식을 API 수준이 아니라 저수준에서 이해 하고 싶은 개발자 • LLM으로 애플리케이션을 제대로 만들기 위해 큰 그림을 그리고 싶은 개발자 • 단, 어느 정도 머신러닝과 파이썬에 대한 지식을 갖추고 있어야 한다!
- 7. 결론 **** 언제까지 LLM의 API만 호출하고 있을 것인가? • 애플리케이션 관점에서 LLM을 서비스 형태(?)로 이용하는 대신 직접 파고든다 • 작지만 완결된 형태의 예제를 제공해 파인튜닝, 지식증류, 강화학습을 직접 느껴보게 지원한다 • 상용 서비스 모델과 오픈소스 모델을 동시에 다루며, 오픈소스 모델을 개선할 경우 어느 정도 상용 서비스 모 델에 근접할 수 있는지 감을 잡게 도와준다 • langchain과 llamaindex를 사용한 생성형 AI 애플리케이션 작성을 넘어서 조금 더 저수준의 LLM 개발을 가능 하게 지침을 제공한다 • 책을 보내주신 한빛미디어 관계자분께 감사 말씀을 전한다 쉽고빠르게익히는실전LLM
- 8. 발표자 소개 기술 배경 전문 검색 엔진, 임베디드 시스템(리눅스 커널 디바이스 드라이버), 빅데이터/인공지능 연구 개발, 고성능 고가용성 데이터베이스 주요활동 IT 전문서 번역 (클린 코드, 피플웨어, 해커: 광기의 랩소디, 게임 엔진 블랙 북 등) 개발강의 (삼성전자, SK C&C, 삼성SDC, 현대자동차 기술 세미나와 교육) 활동채널 블로그: https://jhrogue.blogspot.com 슬라이드 셰어: https://www.slideshare.net/jrogue/presentations 유튜브: https://www.youtube.com/c/박재호dev 문의 jrogue@gmail.com 박재호