ChatGPT에 대한 인문학적 이해
- 1. 발표자 : 박준기
- 2. CHAT GPT 범용적인 초대형 AI가 등장한 최초의 사례이며 인공지능에 의해 인간이 지배 받는 세상이 온다면 인공지능의 관점에선 첫출발이 이거(Chat GPT)였다며 추억할 수도… •CHAT GPT는 무엇인가? •어떤 변화를 부를 것인가? •우리는 무엇을 어떻게 해야하는가?
- 3. AI의 히스토리 1943년 워런스터지스 매컬러와 월터피츠는 뉴런들의 간단한 네트워크를 분석하고 이건이 논리 기능을 수행할 수 있음을 보여주었다. 인공신경망
- 4. 하드웨어 성능 발전 엔비디아 GPU A100 312 테라플롭스(TFLOPS) : 1초에 312조번 연산 하며, 딥러닝 학습과 추론에서는 V100 대비 연산 능력 20배 125 테라플롭스(TFLOPS) : 1초에 125조 번 실수 연산 엔비디아 GPU V100 Chat GPT의 뒤에는 1초에 312번의 더하기 빼기를 할 수 있는 하드웨어가 있다.
- 5. 전문가 시스템에서 탈피 고양이 사진을 전부(약10만장) 넣고, 분석도 인공지능에게 직접 수행하도록 하였음. 인공지능은 잡아낸 하나하나를 매개변수(약 1천만개)에 가중치를 주는 것으로 엄청난 성능향상이 있었으나 어떤 이유로 가 중치를 주는지는 모름. 따라서 일에선 발명이 아닌 발견이라고 함. 사람처럼 추론할 수 있도록 전문가시스템방식(모든 데이터를 전문가가 직접입력)하는 방식으로 점수를 메김. 그러나, 발전하는 것처럼 보이다 더이상 증가하지 않거나 반대로 떨어짐, 왜냐하면 예외가 너무 많음 Chat GPT는 알파고와 같은 계열의 딥러닝 방식
- 6. G P T CHAT 대화형(단기기억) Generative Pre-trained Transformer 글, 그림, 동영상 등을 생성 Large Language Model 3천억 개 단어, 5조 개의 문서 딥러닝 모델 중 가장 인기있는 모델 다음단어를 예측하고 조합 Chat GPT는 A100 1만대를 붙임. 1750억 개 매개변수를 만든다.
- 7. 몇만 차원에서 이어지는 다양체를 하나 그림을 그리는 것이며, 이어지는 다양한 그림을 그려 놓으면 확률적으로 뭐가 나 올거다라고 예측할 수 있게 된다. 확률적으로 근사하게 예측을 하는 거니까 도형이 그림처럼 저렇게 손이 딱 떨어지는게 아니고 멀리서 보면 형태가 보일 수 있으나 가까이 갈수록 안개 같은 것이다. 그게인공지능이 하고 있는 일 매개변수에 대한 가중평균을 잡아내는 방식
- 8. • 사람이 작성한 좋은 텍스트를 학습 • 생성한 답변에 대해 사람이 평가, 피드백 Reinforcement Learning form Human Feedback 특징 - RLHF 인간의 피드백을 가진 강화 학습 • 평가하는 사람들 간의 평가 불일치하는 문제점 있음. • 매우 비싼 작업(3.7조원) – 뉴욕타임즈 프롬프트엔지니어라는 새로운 직업이 만들어짐(연봉 최대 4억까지) “MS, SNS 인공지능 ‘테이’ - 인종차별적 단어 등으로 논란 되어 MS 서비스 중단.” 강화학습으로 이러한 문제를 해결했고, 친절한사람과 대화를 하는 듯한 사용성을 제공
- 9. 이슈의 시작 로스쿨합격 미네소타대 로스쿨 시험에서 에세이 작성, 합격 점수 MBA(영영학석사) 펜실베니아 와튼스쿨에서 실시한 최종시험 합격 각종 대학과제 chat GPT로 작성한 대학과제 성정은 A+
- 10. 2022년 11월30일 출시 5일만에 100만명 돌파, 2023 년 1월 월간 엑티브 유저는 1억 명(인스타그램-2년 반 /틱톡-9개월) 스위스의 투자은행 UBS 2023년 2월 1일 보고서 참조 현황 – 사용자수와 수익 2개월만에 1백만명 이상의 유료사용자(월2천만 달러 이상), 그러나 흑자는 아님 왜냐면 컴퓨팅에 엄청난 비용이 들어간다.
- 11. AI로 대체되기 가장 쉬운 직업 대부분의 전문가들과 사람들은 "노동강도가 높고 일이 단순한 직업"들이 빠르게 대체될 것이고 "창의적인 부분이 필요한 직업"들은 대체되기 어려울 것이라 예상했고, 이는 당시 한국고용정보원이 발표한 표에도 똑같이 예상. 인공지능이 바둑을 이겼을 때, 이미 결과는 정해져 있었던 건 아닐까? 잠재된 패턴이 있는 모든 곳 프로그래밍, 법률사무직, 저널리즘, 광고/마케팅, 주식 거래, 그래픽 디자인 등. - 유발 할라리(이스라엘 역사학자, 인문학전문가)
- 12. 문제점1 확률이 필요하지 않은 분야 Chat GPT는 다음에 어떤 단어가 올지 통계적 확률로 짐작(Guess Work) 한다. 그래서, 확률이 필요하지 않은 분야에서는 어처구니 없이 약하다. 다섯자리 이상의 더하기 빼기는 웹상에서 발견하기 어렵다.(문제가 발견된 1주일 만에 개선)
- 13. 문제점2 할루시네이션(Hallucination:환각)을 피할 수 없다. 구글인공지능 ‘바드’ “ 제임스 우주망원경의 새로운 발견에 대한 설명으로 태양계 밖 행성을 처음 찍었다” 실제로는 2004년 유럽 남방 천문대(European South Observatory)의 초거대 망원경 ‘ELT’가 가장 먼저 이 일로 구글은 하루만에 시가총액 200조가 날아감 미국의 응급의학과 전문의 ‘제레미 파우스트’의 사례 35세 여성이고 과거병력이 없다. 흉통이 있고, 숨 쉴 때 통증이 더 심해진다. 그리고 경구 피임약을 복용하고 있다. -> 1차답변 늑연골염이란 답변(연관성 있음) 다른 진단 가능성에 대해 한 번 더 물어보니 폐색전증 일 수 있다고 답을 했음(연관성 있음)으나, 늑연골염이 경구 피임약 복용으로 유발된다는 답변을 했고, 논문과 논문번호까지 붙여서 답변을 했으나 논문도 저자도 없었다. 그래서 이것은 거짓말이냐고 물었더니, 틀린 건 “인공지능이 아니라 질문하는 사람” 이라는 답변을 내놓음. 모차르트의 첼로 협주곡 모차르트의 첼로 협주곡을 알려달라고 물으니 다섯개의 협주곡을 쾨헬넘버(Köchel-verzeichnis)까지 붙여서 내놓았으나 모차르트의 첼로 협주곡은 남아있는게 없다. (쾨헬넘버 란 모차르트의 곡을 연대별로 나열)
- 14. MS의 조처 2023년(2월 17일 금요일) 새로운 규칙 • 일일 채팅 메시지 50개 제한 • 대화당 5개의 교환 제한 • Bing AI 자체에 대해 대화를 시도하면 “죄송하지만 이 대화를 계속 하고 싶지 않습니다.” 라는 응답 • 이는 언어 모델에서 사용하는 컨텍스트 창에서 원래의 Bing 규칙이 스크롤되어 대화가 길어졌을 때 깨지는 것으 로 보이기 때문. 새 규칙이 적극적으로 사람을 위협하거나, 사랑을 선언하고, 배우자를 버리도록 유도하는 상황 을 피하는 데 도움이 될 것
- 15. 부정적 의견 노엄촘스키 미국의 언어학자, 철학자, 인지과학자, 역사가 “Chat GPT는 천문학적인 양의 데이터에 접근해 규칙성, 문자열 등에 기반해 문장을 만드는 첨단 기술의 표절 시스템이다.” 얀 르쿤(Yann André LeCun) 기계 학습, 컴퓨터 비전, 모바일 로봇 공학 및 전산 신경 과학 분야에서 일하는 프랑스 컴퓨터 과학자 “Chat GPT는 LLM은 인공일반지능(AGI)로 가는 길에서 벗어나는 길 테드창(Ted Chiang) 태어난 대만계 미국인 과학소설 작가 “Chat GPT는 웹의 흐릿한 JPEG 이미지이다.” • 인공지능의 결과물이 더해지면 결과물의 퀄리티가 떨어지고(80%일때 65%저하) • 오리지널이 실종되며, 클릭하이제킹이 일어남. • 저작권은?? 잊혀질 권리는?? 유일하게 이 부분에서 너그러운 분야, 누가 그 권한을 줬는가?
- 16. “AI will take my job” 생산성은 앞으로 계속해서 발전할 것이란 것은 부정할 수 없다. 그러니 우리가 바라보아야 할 창은 스스로 정해야 한다.
- 17. -끝-
- 18. SNS의 실패 사례 • 신속한 정보전달과 사회적 인맥형성의 용이함 • 사생활 공유로 인한 유대감 형성 • 사회현상에 관해 목소리를 내는 열린 장으로 사용 될 것으로 예상되었으며, 엄청나게 많은 SNS가 출시됨. • 질병통제 예방센터(CDC) 자료에 따르면 지난 1975년 분석을 시작한 이래 2007년 부터 2015년 까지의 추이 를 분석한 결과 15~19세 여성들의 자살률이 10만명당 2.4명에서 5.1명으로 증가했다고 공개 • 페이스북, 인스타그램은 유해성을 알고도 감추었다는 내부 문서가 폭로 되었다. • 좋아요보다 싫어요, 화나요 등의 부정적인 개시물에 가산점을 줌
- 19. 첫번째 겨울 1. 1970년대에는 충분한 컴퓨팅 파워가 없었다.(CPU속도/메모리) 2. 당시엔 방대한양 데이터 베이스도 없었고, 학습정보가 없어 어떻게 학습해야하는지 알지 못함 첫번째 붐 1. 1943년 워런 스터지스 매컬러와 월터피츠는 뉴런들의 간단한 네트워크를 분석하고 이건이 논리 기능을 수행할 수 있음을 보여주 었다. 이것을 연구자들이 인공신경망이라고 부르게 되었다. 2. 당시엔 방대한양 데이터 베이스도 없었고, 학습정보가 없어 어떻게 학습해야하는지 알지 못함 두번째 붐 1. 완전히 새로운 방식으로 정보를 학습하고 처리할 수 있는 형태의 신경망(Hopfield Net)을 제안 2. 전문가 시스템(Expert System)이라는 프로그램 두번째 겨울 1. 전문가 시스템은 유용했지만 몇 가지 특수한 상황에서만 유용함이 밝혀짐(한계에 도달) 2. 미국의 전량전 컴퓨팅 구상기관은 AI에 대한 기금을 삭감 세번째 붐 1. 하드웨어의 비약적 발전으로 딥뉴럴네트워크가 가능해짐.