제4차 산업혁명 시대 자동차, 의료, 무기의 치명적 진화

“인공지능(Artificial Intelligence: AI), 어디까지 알고 있니?” 청소 로봇, 대화형 스피커를 넘어 자동차, 의료, 무기까지 진출한 인공지능!

최근 세계적으로 IT 기업 간 인공지능 개발 경쟁이 매우 뜨겁다. ‘음성 조작 기능이 있는 스마트폰’ ‘청소 로봇’ ‘대화형 스피커’ 등 인공지능을 탑재한 가전제품이 하루가 다르게 진화하고 있다. 우리의 삶을 좀 더 안락하게 해줄 이런 인공지능을 ‘가벼운 용도의 인공지능’이라 한다면, 비교적 ‘무거운 용도’의 인공지능도 지금 한창 개발 중이다. 이 또한 전자와 더불어 가까운 미래에 우리 삶에 필수적인 요소가 될 것이다. 이 책은 그중 인간의 생사에 관련된 자동차, 의료, 무기의 세 가지 분야에 탑재되는 인공지능을 다루었다. 자율주행차, 질병의 진단과 처방 도구, 자율적 무기처럼 인간의 생명과 직결되는 중요한 분야에 인공지능을 탑재한 제품들이 개발되고 있는데, 그 사용에 관한 기본적인 논의조차 거의 이루어지지 않은 채 우리 삶과 국가의 중추에 서서히 편입되고 있다. 만약 인공지능이 오작동되거나 폭주하기라도 한다면 그 피해는 헤아릴 수 없이 클 것이고, 최악의 경우 인공지능 로봇에 의해 죽임을 당할 수도 있다. 이 책은 인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼을 소개하는 데 초점을 맞추고 있다. 인공지능의 핵심 원리에 관해 과학에 문외한인 일반 독자들도 알기 쉽게 설명하고 있다. 궁극적으로는 인공지능을 둘러싼 위협론 또는 장밋빛 전망 등 피상적 이야기들에서 벗어나 우리가 진짜 경계해야 할 현실에 직면함으로써 실질적인 해결 방법을 모색하게 한다. AI 유저라면 반드시 알아야 할 인공지능의 기술적 원리, 그리고 세계 IT 기업들의 AI 제품화 현황과 소비자들의 달라질 일상 지금 세 번째 붐을 맞이하고 있는 인공지능과 사물 인터넷(loT) 발달로 인해 제4차 산업혁명이 가속화되고 있다. 그런 가운데 자동차, 의료, 무기 분야에서 인공지능 제품들이 개발되고 있고, 그중에는 심각한 사고를 일으키는 제품들도 있다. 문제는 인공지능의 경우 개발자조차 사고 이유에 대해 명확히 인지하지 못한다는 것. 그런 점에서 제4차 산업혁명 시대 우리 일상은 과거와 달리 어떤 모습을 띨 것인가? 본문은 인공지능 제품의 오작동 및 사고를 중심으로 왜 그런 사고가 발생했고, 소비자들은 어떤 문제를 겪게 될지, 그런 사고에 맞서 개발자들은 어떻게 대응할 것인지 등등에 초점을 맞추고 있다. 또한 가까운 미래에 우리가 맞닥뜨릴 테슬라 자율주행차의 사망사고, IBM의 로봇 닥터 왓슨, 구글 딥마인드의 알파고, 미국에서 개발 중인 무인기 등이 중심을 이룬다.

추천의 글: 인공지능이 결코 해결해주지 않아(구본권_《로봇시대, 인간의 일》 저자)
들어가는 말: 인간의 생명까지 성큼 다가온 인공지능

제1장 인공지능 위협론의 허와 실
패턴인식 직종이 위험하다
2045년 문제와 화성의 인구 폭발
인간을 배제한 제어시스템
핸들도 브레이크도 없는 자동차의 폭주
자율주행의 산업적 임팩트
기계는 인간보다 믿을 만한가?
3가지 종류의 인공지능
실용화를 가로막는 문제들
인간을 포함한 제어시스템
의료에 진출한 인공지능
인공지능이 일으키는 새로운 의료과실
의료에 응용되는 딥러닝
블랙박스화되는 의료
자율적 무기의 등장
기존 무기와의 결정적 차이

제2장 자율주행 자동차의 사각지대
사망사고의 현장 검증
도로에서의 테스트 주행이 부족했다
소비자 보호보다 산업 육성이 먼저
어중간한 자율주행
자율주행차에 탑재되는 각종 센서
자율주행의 기본원리
행동 계획에는 규칙 기반 AI
센서 정보를 처리할 때는 통계확률형 AI
베이즈 정리란 무엇인가?
주변의 이동 물체를 파악할 때
확률형 AI의 함정 - 팻테일
테슬라 자동차 사고도 팻테일?
제어시스템에 인간을 포함시켜야 할까?
인간과 자동차의 관계는 어떻게 될까?

제3장 로봇 닥터의 오진
왓슨의 정체는 무엇인가?
닥터 왓슨의 기막힌 솜씨
로봇과 의사의 의견이 다르다면?
의료에 도입되는 딥러닝
기계학습이란 무엇인가?
의사와 답 맞추기를 하면서 배우다
많은 수고가 아깝지 않다
CT 스캔이나 MRI에도 사용된다
질병의 발병 예측도 가능
프라이버시 침해 위험
딥러닝의 폭주
뉴럴 네트워크란 무엇인가?
의사와 인공지능의 관계는 어떻게 될까?
현대 인공지능의 발달을 촉진하는 것
뇌과학자가 본 인공지능의 잠재력
패턴인식에 따른 차세대 의료

제4장 자율적 무기의 조준
반테러용 자율적 드론
제3의 군사쇄신
켄타우로스 전쟁
공격 대상의 결정권자는 인간? 기계?
터미네이터 문제
세계 각국에 도입되는 자율적 무기
테러리스트의 손에 들어갈 위험
추궁당하는 과학자와 기술자
자율주행의 유행은 군사 예산에서
빈틈없는 구글의 방식
미국의 스마트 핵무기
군비 확장의 제동은 경제적 한계
최후 판단을 컴퓨터에 맡기다

제5장 초자동화의 함정
원자력 발전 사고에 대비하는 로봇
고생 끝에 인간의 공감을 얻다
로봇은 인간과 얼마나 가까워졌을까?
재판이나 인사고과에서 인공지능의 활용
인공지능의 진짜 위험은 무엇인가?

글을 마치며: ‘마음’을 지닌 로봇이 인간에게 버림받을 때

그것과는 다른 한층 심각한 ‘AI 위협론’도 있다. 이른바 ‘2045년 문제’라 불리는 ‘싱귤래리티(기술적 특이점, singularity)’의 도래가 그것이다. 이는 미국의 유명한 발명가 레일 커즈와일(Ray Kurzweil)이 꽤 오래전부터 주장한 미래 예측과 관련된다. _ p.23이 같은 잠재적 위험을 알고도 왜 구글을 비롯한 세계의 자동차회사들은 굳이 자율주행 기술 개발에 착수했을까? 그것이 가져올 엄청난 산업적 임팩트가 주된 이유 중 하나다. ‘자동차’는 주요 선진국의 기간산업이다. _ p.30의료 AI 분야의 상징적인 존재는 미국 IBM이 개발한 ‘왓슨(Watson)’이다. 왓슨은 원래 미국에서 국민적인 인기를 끈 TV 퀴즈쇼 ‘제퍼디(Jeopardy!)’에 출연하기 위해 개발된 이색적인 컴퓨터였다. _ p.45그림 1을 보면 모델 S(그림 1에서는 V02)는 고속도로(US-27A)를 남동 방향으로 자율주행 중이고, 그 반대 차선에서 대형 트레일러(그림 1에서는 V01)가 분기 도로(NE 140th Court)로 진입하려고 좌회전을 한다. 이때 모델 S가 대형 트레일러의 우측을 들이받는다. _ p.64그중에서도 각사의 차별화 전략에 열쇠가 되는 것은 ‘라이더’다. 라이더는 밀리파 레이더나 비디오카메라에 비해 측정 가능 거리는 짧지만 불과 몇 센티미터 단위로 주변 물체와의 거리를 측정하고 차체 주위를 360도 커버해 자세한 3D(입체) 맵을 작성할 수 있다. 이는 완전자율주행을 실현하기 위한 필수 기능이다. _ p.77이 식의 우변 항목 가운데 P(A)는 ‘사전확률’, 좌변에 있는 P(A|B)는 ‘사후확률’에 해당한다. 우변의 또 다른 항목 ‘P(B|A) ÷ P(B)’는 약간 복잡해 보이지만, 간단히 설명하면 ‘실험, 측정, 관측 등을 통해 얻는 정보’, 즉 실험이나 측정의 결과를 의미한다. 따라서 베이즈 정리를 수식이 아니라 언어로 바꿔보면 다음과 같다. _ p.89그렇게 퀴즈왕에서 ‘로봇 닥터’로 재탄생한 왓슨은 뛰어난 실력을 보여주면서 주위의 기대에 부응하고 있다. 왓슨을 시험적으로 도입한 미국 노스캐롤라이나 의과대학원에서는 1,000건의 암 케이스를 왓슨에게 입력했는데, 왓슨이 제시한 치료법 중 99%가 암 전문의의 판단과 일치했다. 의사가 놓친 치료법을 왓슨이 발견한 것도 30%에 달했다. _ p.113이처럼 2진법으로 표현된 각종 빅데이터를 기계학습으로 해석해 ‘1’과 ‘0’이 만들어내는 특정 ‘패턴’을 산출하는 작업이 바로 ‘패턴인식’이다. 딥러닝은 패턴인식이 뛰어난 AI 기술이므로 단층영상 해석만이 아니라 혈액검사 데이터 해석 등 의료 전반에 적용할 수 있다._ p.132게다가 이런 자율적 무기(로봇)는 매우 살벌한 전쟁터에 적응하는 과정에서 인간이 예상치 못했던 능력이나 행동 양식을 길러 최종적으로 ‘인간이 제어할 수 없는 무기’로 진화해버릴 위험이 있다. 극단적인 이야기지만, 영화 ‘터미네이터’에 등장하는 살인 로봇처럼 말이다. 이는 과장이나 농담이 아니라, 실제로 펜타곤 관계자가 ‘터미네이터 문제’라고 부르며 진지하게 논의하고 있는 중요한 사안이다. _p.168그러나 그다음 해인 2005년 제2회 대회에서는 스탠퍼드 대학교와 카네기멜론 대학교가 엎치락뒤치락 하는 가운데 총 5대의 자율주행 자동차가 약 280킬로미터의 코스를 완주하는 등 눈부신 발전을 선보였다. 최종 우승은 광대한 사막과 기복이 심한 산악지대를 6시간 54분 만에 완주한 기록으로 스탠퍼드 대학교 연구팀이 개발한 ‘스탠리(Stanley)’가 차지했다. _ p.180그 후 약 1년 반 뒤에 개최된 본선 경기에서도 로봇들의 성능은 극적으로 개선된 것 같지 않았다. 우승은 한국과학기술원(KAIST)이 개발한 휴머노이드 휴보(HUBO)가 차지했는데, 8종목을 모두 끝내기까지 걸린 시간이 44분이었다. 인간이라면 7~8분 정도면 충분했을 것이다. _ p.204소설이므로 어디까지나 공상의 산물이긴 하지만 당시 과학기술의 틀에서 만들어진 괴물은 본래 선한 양심의 소유자였다. 그러나 그 괴물이 만난 사람들, 심지어 자신을 창조한 과학자까지 프랑켄슈타인에게는 무자비했다. 결국 그는 악한 길로 가게 되었고, 과학자의 동생을 시작으로 친구, 그리고 마침내 사랑하는 아내까지도 죽여버린다. 과학기술은 인간이 그것을 어떻게 대하느냐에 따라 선하게도 되고 악하게도 될 수 있다는 것을 말해주는 이야기라 할 수 있다. _ p.213

테슬라의 자율주행차 사망사고와 세계 금융위기의 원인이 같다고?
- AI의 팻테일 리스크 문제 - 제2장은 2016년 5월에 발생한 테슬라의 반자율주행차 ‘모델 S’의 사망사고 현장검증을 중심으로 자율주행차의 사각지대에 대해 알아본다. 자율주행을 가능하게 하는 대표적인 센서는 라이더, 비디오카메라, 밀리파 레이더로, 역할과 장단점이 각기 다른 이 센서들이 자율주행차의 안전성을 좌우한다. 문제는 이 센서들이 너무 고가라는 것. 사망사고를 일으킨 테슬라의 모델 S만 해도 가장 핵심이면서 가장 고가인 라이더를 장착하지 않았다. 그러나 구글이 2022년 출시를 목표로 개발 중인 완전자율주행차처럼 아무리 모든 센서를 장착하고 안전한 대비책을 마련한다 해도 자율주행차가 안고 있는 근본적인 한계가 있는데 그것은 바로 팻테일 리스크다. 이론적으로는 일어날 확률이 제로(0)인 사고가 현실에서는 제로보다 훨씬 빈번하게 일어난다는 이야기다. 테슬라의 자율주행차 사망사고도 그런 경우였다. 같은 이유로 이론적으로는 100만 년에 한 번 일어날까 말까 한 세계적인 금융위기(리먼 사태, 서브프라임 모기지론, 러시아의 디폴트, 블랙먼데이 사건 등)가 실제로는 10년에 한 번씩 발생해 세계 금융시장을 초토화하고 있다.
이해를 돕기 위해 본문은 자율주행 기술의 4가지 프로세스와 각각에 사용되는 규칙 기반 AI, 통계확률형 AI에 대한 기술적 설명을 덧붙인다. 팻테일 리스크는 통계확률형 AI가 필연적으로 안고 있는 문제다. 은닉 마르코프 모델, 베이즈 정리, 칼만 필터, 정규분포곡선 등 자율주행차를 이해하는 데 필수적인 공학 이론들의 핵심을 이해하기 쉽게 정리했다. 왕년의 퀴즈왕 ‘왓슨’과 바둑왕 ‘알파고’가 명의로 환골탈태하다?
- 의료 인공지능과 블랙박스화 문제 - 의료 분야의 대표적인 두 가지 AI는 IBM의 ‘왓슨’과 구글의 ‘딥러닝’이다. 의료 AI는 인간의 정보처리 능력으로는 소화하기 불가능한 수많은 의학 자료를 기계학습해 각종 질병을 진단하고 치료법을 제시함으로써 의사를 보조하는 역할을 한다. 왓슨은 원래 미국의 유명 퀴즈쇼에 나가 역대 챔피언들을 꺾은 퀴즈왕이었다. 사람처럼 말을 하고 다양한 질문에 답을 주기도 하는데, 이를 ‘자연언어처리’라고 한다. 본문은 이에 대해 자세히 설명한다. 문제는 닥터 왓슨이 제시하는 진단과 치료법은 절대적인 정답이 아닌 확률이라는 점. 왓슨과 의사의 의견이 엇갈릴 때, 확률이 높은 답안을 받은 의사는 어떤 선택을 하게 될까? ‘마이너리티 리포터’와 관련된 그 문제들을 비롯해 현재 의료 AI가 사용되고 있는 현장에서 발생하는 문제들, 향후 우리가 겪게 될 문제들에 관해 본문은 논리적으로 접근하고 있다.
구글도 의료 AI를 주력 사업으로 하고 있다. 구글의 의료 AI는 ‘딥러닝’이라 하며 왓슨과는 성격이 전혀 다르다. 왓슨보다 잠재력은 크지만 문제는 더 심각할 수 있다. 본문은 딥러닝에 사용되는 뉴럴 네트워크 기술과 기계학습, 그리고 패턴인식의 원리에 대해 자세히 설명하고 있다. 흥미로운 점은 ‘딥러닝’의 정체가 2016년 3월 이세돌 9단을 꺾은 ‘알파고’라는 것이다. 본문은 딥러닝의 위험성을 단적으로 보여주는 당시 대국 현장으로 우리를 데려간다. 이미 3패를 당한 이세돌 9단이 제4국 78수째에 중앙에 모험적인 수를 두자 알파고는 엉뚱한 수를 두면서 결국 패했다. 대체 왜 그랬을까? 하지만 알파고 개발자조차 그 이유를 설명할 수 없었는데, 바로 그것이 딥러닝의 진짜 문제다. 그 이유는 알파고와 딥러닝의 기반이 되는 뉴럴 네트워크의 블랙박스화 현상에 있는데 본문은 그 원리에 대해 자세히 설명하고, 그런 현상이 일으킬 우리 미래의 일상에 대해 생각해보게 한다. 또한 구글이 딥러닝을 위해 대량의 의료 데이터를 입수하고 있는데, 여기서 발생하는 프라이버시 문제도 생각해볼 문제다. 미군이 주도하고 있는 세계적인 휴머노이드 기술
- 미국의 스마트 핵무기와 터미네이터 문제 - 무기 분야에서는 미국에서 개발 중인 자율적 무기 개발에 초점이 맞추어져 있다. 저자는 먼저 미국이 연간 5,000억 달러를 쏟아부으며 개발하고 있는 ‘살인 로봇’에 대해 이야기한다. 구체적으로는 ‘스스로 목표를 정해 돌진하는 미사일’ ‘상공에서 자율적으로 지상의 테러리스트를 감시하는 드론’ ‘적의 잠수함을 끝까지 추적하는 무인 군용함’ 등이 있다. 이런 자율적 무기 개발은 미 국방성이 2016년부터 단행하고 있는 제3의 군사쇄신의 일환으로, 본문은 군사적 우위를 확보하기 위한 미국의 의도를 역사적으로 설명한다. 여기서 발생하는 가장 큰 문제는 무기 제어권이 AI로 넘어가면서 무기의 자율성이 점점 커진다는 것. 이는 실제 ‘터미네이터 문제’라는 이름으로 펜타곤 관계자들 사이에서 논의 중인 문제이기도 하다. 미국 외에 영국, 프랑스, 이스라엘, 노르웨이, 한국, 북한, 중국 등에서 개발 중인 AI 무기 또한 소개되고 있다.
미 국방성 산하의 다르파(DARPA)가 주최하는 ‘다르파 그랜드 챌린지’ ‘다르파 로보틱스 챌린지’ 등 민간의 자율주행 기술과 휴머노이드(인간형 로봇) 개발에 미군의 예산이 사용되고 있다는 점도 생각해볼 문제다. 또한 일본의 주요 대학에 미군의 예산이 흘러들면서, 일본 학계에 ‘군사연구 금지’가 해금되고 있는 현실에도 눈을 돌리고 있다. 미군에서 시작된 스마트 핵무기 개발이 세계적인 군비 확장 경쟁에 불을 지피고 있다는 것도 큰 문제다. 끝으로 본문은 ‘인간의 생사’와 ‘국가의 안전보장’을 좌우하는 분야에 AI에 의한 자동화가 실현될 때 어떤 함정이 도사리고 있는지, 우리가 진짜 경계해야 할 문제들은 무엇인지 소신을 밝힌다. 어려운 물리학 및 수학 이론을 쉽게 이해할 수 있는 것과 감동적인 엔딩은 이 책의 덤이다.