NS-CUK WS on AI Ethics 2022: Lecture 05 - How does the advent of AI and robots change our daily life?
0 likes91 views
Lecture 05 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022) Lecturer: Dr. Eun-Soon You Date: Dec 27th, 2022 Topic: How does the advent of AI and robots change our daily life? Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/
NS-CUK WS on AI Ethics 2022: Lecture 05 - How does the advent of AI and robots change our daily life?
- 1. 강의 주제 정보 권력 시대의 빅데이터의 두 얼굴 유용성과 감시 빅데이터 활용의 명과 암
- 2. 로봇 및 인공지능 규제 동향 프라 이버 시 AI 개념 알고리 즘 편향 일자리 법적 책 임 로봇 법 인격
- 3. 우리의 일상과 활동이 데이터로 기록되고 있다… 지하철, 소셜 미디어, 인터넷 검색, 스마트폰 등 우리가 타고, 보고, 사용하는 모든 것에서 데이터가 발생한다.
- 4. 최첨단 전자 감시 기기들 지능형 CCTV, 블랙박스, 드론… • 드론 잡는 안티 드론 • 사생활 침해와 같은 범죄 수단으로 이용되 고 있는 드론을 무력화 하는 기술 • 2018년 12월 런던 개트윅 공항(Gatwick Airport)폐쇄 사태
- 5. 네트워크에 갇힌 인간 나는 접속한다, 고로 나는 존재한다
- 6. 사생활 보호와 노출에 대한 딜레마 발생 도처에 설치된 디지털 감시 기기들 각종 할인과 이벤트 당첨을 위해 개인정보를 자발적으로 제 공 테러와 범죄로부터 사회를 보호하고 사회의 안전을 위해 우리는 어디까지 우리의 사생활 정보를 (자발적 으로)노출해야 하는가?
- 7. 미래의 감시 사회를 예견한 조지 오웰(George Orwell)의 소설 『1984』(1948) 모든 것을 통제하고 감시하는 독재자(체제) ‘빅 브라더(Big Brother)’ 텔레스크린을 통한 감시
- 8. 미화 1달러 지폐 뒷면에 그려진 피라미드의 눈이 댄 브라운의 소설 『다 빈치 코드』에서 ‘모든 것을 다 보는 전시안(all-seeing eyes)’으로 등장
- 9. 『파놉티콘 혹은 감시의 집(Panopticon : or the Inspection House』(1791) 제레미 벤담(Jeremy Bentham)이 제안 한 감옥 설계도 ‘시선’의 권력 파놉티콘(panopticon) ‘모든 것(pan)을 다 본다(opticon)‘ 시선의 비대칭성 죄수는 간수를 볼 수 없지만 간수는 모든 죄수를 볼 수 있는 구조 죄수는 언제나 감시당하고 있다는 가정 하에 행동하면서 규율을 내면 화 함 미셸 푸코(Michel Foucault)의 『감시 와 처벌』)(1975) 시선에 의한 감시 원리가 근대 사 회의 규율과 권력의 토대 감시의 역사
- 10. 감시 방식의 변화 ‘시선’에서 ‘기술’을 통한 감시 영화 <본 얼티메이텀> “더 이상 숨을 곳이 없다” 전화나 이메일을 모니터링 세계 곳곳을 CCTV로 감시 얼굴 인식 프로그램으로 자 신들이 찾는 사람을 실시간 으로 파악 영화 <본 얼티메이텀>(2007)
- 11. 감시 영역의 확대 감옥➔거리, 도시, 국가… 전자 파놉티콘 디지털 기기를 이용한 새로운 형태의 감시 체계 피감시자의 자발적인 협조 혹은 협조할 수 밖에 없는 강요 체계에 의한 감시 할인이나 경품 등의 혜택과 서비스 이용을 위해 개인정보 제공 범죄와 테러 방지를 위한 CCTV와 블랙박스 감시 장치에 크게 저항하지 않고 오히려 친숙함을 갖게 됨 공공기관이 내세우고 있는 정보 관리의 ‘효율성’이라는 논리가 감시 체제를 더욱 강화 새로운 형태의 감시 기술을 도입하는데 유용한 알리바이로 작용 자발적으로 필요한 정보를 제공하는 것을 ‘슈퍼 파놉티콘’
- 13. ‘시놉티콘(Synopticon)’ ‘역감시’를 의미 다수가 소수를 감시하는 환경 구축 다양한 소셜 미디어, 인터넷 활동… 현대의 권력자들은 여론이나 소셜 미디어 등을 이용하여 자신이 원하는 이미지를 만들기 위해 대중에게 자신을 드 러냄 대중과 권력자가 동시에 서로를 감시하는 메커니즘
- 15. 데이터 생산의 주체는 누구? 데이터 소비의 주체는 누구? 에드워드 스노든(Edward Snowden) 의 폭로 2013년에 미국 국가안보국(NSA)요 원이었던 에드워드 스노든이 NSA 가 프리즘(prism)이라는 ‘감시 프로 그램’을 이용하여 구글, 페이스북, 트위터 등으로부터 사용자의 사적 인 정보를 수집하고 있다는 사실을 폭로, 국가의 무차별 감시 체제를 고발 빅데이터 활용의 주체는 누구인가?
- 16. • 프라이버시에 대한 개념의 변화(1960년대) • “다른 사람한테 방해 받지 않고 혼자 있을 권리”➔”자신에 대한 정보를 자신이 통제할 권리” • 에드워드 스노든(Edward Snowden)의 폭로 • 2013년에 미국 국가안보국(NSA)요원이었던 에드워드 스노든이 NSA가 프리즘 (prism)이라는 ‘감시 프로그램’을 이용하여 구글, 페이스북, 트위터 등으로부터 사용자의 사적인 정보를 수집하고 있다는 사실을 폭로, 국가의 무차별 감시 체 제를 고발
- 18. VS.
- 19. 토론 주제 데이터라는 유용하고도 위험한 감시 안에서 우리는 어떻게 살아야 하는가? 인류를 위험으로부터 보호하기 위한 목적일지라도 인간 의 불확실하고 예측 불가능한 삶을 미리 예측하고 그것을 통제하는 것이 과연 정당한 것인가?
- 20. 데이터 생산의 주체는 누구? 데이터 소비의 주체는 누구? 데이터를 생산하는 주체는 ‘우리’지만 데이터를 사용하는 주체는 ‘우리’가 아닌 국가와 거대 자본을 소유한 기 업 에드워드 스노든(Edward Snowden) 의 폭로 2013년에 미국 국가안보국(NSA)요 원이었던 에드워드 스노든이 NSA 가 프리즘(prism)이라는 ‘감시 프로 그램’을 이용하여 구글, 페이스북, 트위터 등으로부터 사용자의 사적 인 정보를 수집하고 있다는 사실을 폭로, 국가의 무차별 감시 체제를 고발 빅 데이터 활용의 명과 암
- 21. 빅데이터 활용의 명과 암 퓔로미터(fühlometer) 내 얼굴의 표정이 우리 마을의 얼굴 을 대표한다… 독일의 린다우(lindau)라는 마을에 설치된 얼굴 형태의 철제 구조물 마을 사람들의 표정을 실시간으로 반영하는 구조물 마을에서 주민들이 가장 많이 다니 는 곳에 카메라를 설치 카메라는 얼굴 인식 기능을 가진 프 로그램과 연동, 사람들의 표정을 실 시간으로 캡처 마을 사람들의 표정을 모아 웃는 얼 굴이 많으면 웃는 표정으로, 무표정 한 얼굴이 많으면 무표정한 표정으 로… 기술과 주민들의 자발적 참여를 통해 마을의 아이덴티티를 만들 어 냄
- 22. 감시에 의해 예측 가능해지고 통제되는 인 간 프리 크라임(Pre-Crime) 범죄가 발생하기 전에 범죄 장소, 방 식, 피해자, 범죄자 정보를 예측하여 범죄를 예방하고 범죄를 체포하는 시스템 영화 <마이너리티 리포트>에 나타난 프리 크라임 2054년을 배경으로 프리 크라임을 통해 범죄 없는 완벽한 유토피아 세 상을 묘사 겉으로는 완벽한 세상처럼 보이지만 사실 시스템의 통제와 억압에 의해 만들어진 결과 시스템의 지시에 따라 특수 경찰들 은 범죄자가 아직 범행을 저지르기 전에 ‘미래의 범죄자’ 를 급습해 체포 “시스템은 우리에게 공공의 안전에 위협이 될 사람을 미리 말해줄 것입니다. 호크-아 이 알고리즘은 패턴을 알아차릴 수 있습니 다. 이 남자의 경우 시스템을 통해 고위험 군으로 분류되었습니다. 호크-아이는 그를 근접 감시 대상에 두고 의심스러운 행동을 확인함으로써 그의 삶을 구할 수 있었습니 다.” (영화 <마이너리티>중에서)
- 23. 빅데이터를 활용한 서울시 심야버스 코로나 맵
- 24. 안전을 비추는 거울(?), 디지털 트윈 디지털 세상 속에 우리 현실과 똑같은 세상이 있다면 어떨까? 그 세상을 통해 현실 세계의 위험을 미 리 알고 대처할 수 있다면 어떨까? 실제 세계와 가까운 디지털 세상을 구 현 2003년 미국의 마이클 그리브스가 개 념을 제안 현실 세계에서 수집한 빅데이터를 바 탕으로 시뮬레이션으로 분석, 최적화 날씨 변화, 긴급 상황 발생…
- 25. 토론 주제 빅데이터 활용의 긍정적 측면과 부정적 측면 코로나 확산 방지를 위한 개인 정보 노출 문제
- 26. 월드 와이드 웹(World Wide Web) 세계를 하나로 묶는 연결의 시작 1989년 유럽입자물리연구소(CERN)의 연구원 팀 버너스 리(Tim Berners-Lee)에 의해 개발(1989) 누구에게나 평등한 정보 공유 월드 와이드 웹의 창립자 팀 버너스 리
- 27. 팀 버너스 리의 오늘날 웹에 대한 비판 개인의 데이터 통제권 상실 국가의 지원을 받아 이뤄지는 해킹… 가짜 뉴스 무차별 확산 구글과 페이스북과 같은 기업들의 광고 기반 수입 모델 극단화된 논쟁 헤이트 스피치(혐오 발언), 사이버 불링(괴롭힘) 팀 버너스 리의 새로운 프로젝트 ‘솔리드(Solid)’ 개인이 통제 가능한 웹 웹의 모든 데이터에 주소를 주고 어떻게 연결 돼 있는지 정보를 부여 서비스 이용자들은 ’팟(pods)’이란 곳에 정보를 저장한 뒤 선별적으로 접속을 허용할 권한을 갖는 방식 중앙집권적 플랫폼에서 탈피 특정한 기업이나 국가가 독점을 금지 “현재의 웹은 우리가 원 했던 모습이 아니다“
- 28. 초연결 시대, 모든 것이 연결되는 세상
- 29. 4차 산업혁명은 ‘연결(Connectivity)’의 혁명 초연결 사회(Hyper-connected society) 연결의 무한대 인간과 인간, 인간과 사물 그리고 사물과 사물을 연결 연결의 기술 사 물 인 터 넷 (Internet of Things, IoT), 만 물 인 터 넷 (Internet of Everything, IoE)…
- 30. 초연결 사회(Hyper-connected society) 연결의 무한대 인간과 인간, 인간과 사물 그리고 사물과 사물을 연결 사물인터넷(Internet of Things, IoT) 만물인터넷(Internet of Everything, IoE)…
- 31. 스마트 홈서비스 가전제품, 에너지 소비 장치(수도, 전기, 냉난방 등), 보안기기(도어록, 감 시카메라 등) 등 집안의 모든 것을 통신망으로 연결해 모니터링, 제어할 수 있는 기술 다양한 음성인식 디바이스 등장
- 32. 커넥티드 카(Connected Car) 핀테크 • 정보통신기술과 자동차를 연결 • 교통 상황과 도로 상태 등 을 판단, 적절한 조치 모바일 결제와 같이 금융과 ICT가 결합
- 33. 중국 최고의 스마트 도시 항저우 중국 최대의 전자 상거래 기업인 알리바 바(Alibaba)가 개발한 인공지능 시티브 레인(City Brain) 교통 정체 해소 차량 상황을 실시간으로 모니터링 세계 최초로 안면(얼굴)인식 결제 시스 템을 실생활에 도입 세계 최초의 온라인 법원 인터넷 쇼핑 분쟁, 온라인에서 명예훼 손 … • 스마트 도시(Smart City) • IoT, 인공지능 등 정보통신기술(ICT)을 적용한 스마트 플랫폼을 구축 하여 도시의 자산을 효율적으로 운영하고 교통, 에너지 등 도시 문제 를 해결하여 시민에게 안전하고 윤택한 삶을 제공하는 도시.
- 34. • 암 스 테 르 담 스 마 트 시 티 (Amsterdam Smart City) • 시민참여 방식의 개방적 스마트 시티 • 암스테르담 스마트 시티 플랫폼 구축(2009) • 에너지, 교육, 시민과 생활 등 6개 주제 아래 다양한 프로젝 트를 추진 • 시민들은 아이디어를 제시, 기 업과 연구소와 함께 프로젝트 를 추진 • 2018년에 6000여 명의 시민과 민간 기업들이 참여 • 200여개의 프로젝트가 진행중
- 35. 초연결 사회 오늘날 135억 개의 기기가 인터넷에 연결, 2020년에는 그 숫자가 500억 개로 늘어나 세계 인구의 3분의 2가 인터넷 에 연결될 것으로 추측 (클라우스 슈밥 외 26인 『4차 산업 혁명의 충격』) 거대한 네트워크 형성 전방위적 소통 연결은 필요에 의한 선택의 문제가 아니라 생존 의 문제 !
- 36. 브뤼노 라투르(Bruno Latour, 1947~) 프랑스의 과학자, 철학자 『우리는 결코 근대인이었던 적이 없다』 『인간·사물·동맹: 행위자 네트워크 이론과 테크노사이언스』 연결이 사물의 본질을 바꾼다 행 위 자 연 결 망 이 론 (Actor Network Theory, ANT) 비인간 존재에 주목 행위자는 인간뿐만 아니라 바 이러스, 박테리아, 영장류 등 과 같은 생물체는 물론 전화 기, 자동문, 과속방지턱 등과 같은 비인간 존재물까지 포함 사회는 인간 행위자들과 비인 간 행위자들이 네트워크를 이 루는 과정에서 생겨난 결과물 모든 행위자의 행위는 독립된 것이 아니라 다른 행위자들과 의 상호작용으로부터 나옴 인간과 비인간의 전통적인 이분 법 붕괴
- 37. 라투르는 왜 사물을 인간과 동등한 행위자로 간주했을까? 우리의 행동에 영향을 미치는 사물 과속방지턱의 사례 “ 과속 금지’와 같은 경고 문구가 사고율을 줄이는데 도움이 되지 못하 자 과속방지턱이 고안되었다. 이 인공물 덕분에 운전자는 자기 차의 서 스펜션이 망가지는 것을 피하기 위해 속도를 줄일 수밖에 없었다. 즉 과속방지턱은 인간에게 특정한 행동을 요구하는 식으로 인간에게 영향 을 미친다는 것이다.”(『인간·사물·동맹: 행위자네트워크 이론과 테크노 사이언스』) 사물, 연결의 주체 연결성을 획득한 사물은 수동적 존재가 아닌 능동적인 존재
- 38. 인간과 사물간의 연결은 우리에게 어떤 영향을 미칠까? <공각기동대>가 보여주는 미 래의 인간상 인간의 뇌와 컴퓨터를 연결하여 인간의 기억과 컴퓨터의 정보를 교환 인간의 뇌를 해킹해 기억과 의식 도 조작 가능 오시이 마모루의 애니메이션<공각기동 대>(1995) 는 바이오 네트워크 기술로 인 간의 뇌를 컴퓨터와 연결하여 인간의 기억 과 컴퓨터의 정보를 교환하는 ‘전뇌화(전 자두뇌화)’가 등장 주인공 ‘쿠사나기’의 목 뒤쪽에 코드를 꽂 으면 쿠사나기는 컴퓨터의 일부가 되고, 컴퓨터는 쿠사나기의 일부가 됨으로써 서 로의 본질이 변화 인간과 기계는 더욱 직접적인 관계를 형성
- 39. 아이폰은 우리의 생물 학적 두뇌의 역할을 수 행 철 학 자 데 이 비 드 찰 머 스 (David Chalmers) “아이폰은 이미 내 뇌기능의 일부가 되었다. 아이폰은 한 때 우리가 머릿 속에 기억하고 있던 전화번호와 주소 를 저장하고 있다...” 우리의 기억은 신체 외부로 이전 스마트폰은 우리 기억의 일부
- 40. 잘린 머리를 들고 있는 생 드니 (Saint Denis) 주교 미셸 세르(Michel Serres, 1930~) 의 『엄지세대 두 개의 뇌로 만들 미래』 신인류를 ‘엄지 세대’라 부름 “엄지 세대는 드니 성인이 목에 서 떨어져나간 머리를 두 손으로 받쳐 들었던 것처럼 예전엔 몸과 하나였던 인식 기능을 자기 몸 밖으로 꺼내서 들고 다닌다…최 근 들어 우리 모두는 엄지세대처 럼 드니 성인이 되었다. 뼈와 신 경으로 이루어진 머리에서 우리 의 지능이 밖으로 빠져나왔기 때 문이다. 우리 두 손 안에 들어 있 는 컴퓨터 속에는 우리가 지금까 지 '능력'이라고 부르던 것들이 들어 있으며, 마음먹기에 따라 이것들을 자유자재로 기능하게 만들 수 있다…”
- 41. 소통과 단절의 문제 ‘함께’, 그리고 ‘홀로’인 우리 셰리 터클(Sherry Turkle)의 사이버 친교 기술에 의한 단순하고 손쉬운 연결 사이버 친교에서 사이버 고독으로 인터넷 패러독스 현상 o 네트워크가 오히려 고립을 촉진 디지털 중독을 의미하는 신조어 등장 ‘스몸비족(smombie)’ o ‘스마트폰(smart phone)’+ ‘좀비(zombie)’ o 스마트폰에서 눈을 떼지 않고 몰입하여 걷는 사람들 ‘카페인 우울증’ o 카카오스토리+페이스북+인스타그램 o SNS에서 타인의 행복한 일상을 보면서 상대적 박탈감을 느 낌
- 42. 영화 <디스커넥트>(2012) SNS 관계망 이면에 감추 어진 폐해 네트워크에 갇힌 불행한 인간 인터넷에 중독된 여러 유 형의 인물이 등장 학교에서 따돌림을 당하 는 고등학생 벤은 SNS 에서 친구를 사귀게 되 는데…
- 43. 영화 <소셜 네트워크> (2010) ‘관계’에 집중 ‘성공’이면의 모습에 집중
- 45. 새로운 권력(힘)의 실체로서의 네트워크 전통적 권력의 실체 물리적 실체가 있는 기관들…
- 46. 인간과 인간의 연결 물리적 접촉없이 클릭으로도 가능 시공간의 한계를 뛰어넘어 소통 셰리 터클(Sherry Turkle)의 “사이버 친교(cyberintimacies)” 새로운 권력(힘)의 실체, 네트워크
- 47. 아랍 민주화 혁명의 시작, 재스민 혁명(튀니지 혁명, 2010) SNS 혁명 혁명을 가능하게 한 플랫폼 트위터, 페이스북, 유튜브 등의 SNS를 이용하여 실시간으로 사태를 전세계에 알 림 혁명의 지도자는 억압된 마음을 하나로 연결시켜준 네트워크 연결되면 힘이 변화한다… 새로운 권력(힘)의 실체, 네트워크
- 48. 토론 주제 인류 역사에서 인간과 인간을 연결시켜준 것들을 찾아보기