빅데이터 알고리즘은 어떻게 여론을 만들고 역사의 경로를 바꾸는가

소셜 미디어 플랫폼을 통해 수집되는 데이터가 민주주의를 조작한다? 인간의 인지적 한계가 알고리즘 기술과 만났을 때 벌어지는 일들

인터넷은 한때 국경과 인종, 성별과 연령을 넘어 누구나 모두 자유롭게 의견을 올리고 나눌 수 있는 ‘열린 공론장’이라 칭송받았다. 하지만 지금 우리는 온라인 공간에서 차별과 혐오를 만나고, 각종 음모론과 극단주의를 마주하고 있다. 열린 공론장이었던 공간이 왜 이렇게 변해 버린 걸까? 감정을 자극하는 것을 먼저 인지하고 기억하는 인간의 본성, 그리고 당신이 더욱 자주, 깊이 참여하기를 원하는 온라인 플랫폼의 설계가 만나서 이런 일이 일어났다면? 소셜 미디어 플랫폼은 소비자가 될수록 오랫동안 자신들의 공간에 머무르도록 하기 위해 그곳에서의 모든 활동을 지켜보고 데이터를 기록한다. 그리고 이런 데이터들은 플랫폼 안팎에서 ‘의도’를 가지고 사람들을 조종하고 싶은 사람들에게 좋은 먹잇감이 되었다.

추천사
한국어판 서문
감사의 말

들어가며 | 결핍에서 풍요로

1부 프로파간다 문제

1장 주의력을 기울여라
정보가 넘쳐나면 미디어를 소비하는 방식이 어떻게 변하는가

2장 시스템이라는 바퀴의 작은 톱니
우리는 어떻게 인지적 해킹에 취약해지는가

3장 물살을 거슬러 헤엄치기
콘텐츠 추천 엔진이 어떻게 우리의 주의력을 조종하는가

2부 해킹당한 민주주의

4장 퍼거슨 시위와 게이머게이트, 미국 대안 우파의 부상

5장 러시아의 개입과 신냉전

6장 글로벌 사우스에서의 루머와 봇, 제노사이드

나가며 | 이제 어디로 가야 하는가

옮긴이 후기
주석

첫 문장: 정보가 있는 곳에는 항상 허위조작정보가 있었다. 손가락 터치 한 번으로 읽고 있는 모든 것을 공유할 수 있는 소셜 미디어 플랫폼에서는 문제가 더욱 심각해진다. 무비판적인 미디어 소비가 무비판적인 미디어 생산으로 이어지기 때문이다. 무언가를 읽을 때 ‘쓰레기’ 같은 내용을 걸러내지 않으면 더 많은 ‘쓰레기’를 의도치 않게 떠넘기는 셈이다. (38쪽)우리의 주의력은 상품이고 우리의 ‘관심과 참여’는 화폐다. (45쪽)넷플릭스, 아마존, 판도라, 스포티파이, 트위터, 페이스북……. 이런 플랫폼들은 우리가 그 플랫폼에서 어떤 콘텐츠를 소비하는지와는 상관없이 우리가 플랫폼을 자주 이용할수록 더 많은 돈을 번다. (49쪽)프로파간다는 누군가의 마음이나 행동을 바꾸기 위해 하나 이상의 미디어를 사용하여 합리적인 담론보다는 ‘심리적인 조종’을 통해 메시지를 전달하는 것이다. (53쪽)주의력 경제에서 성공하는 사람은 제일 큰 도서관이나 제일 좋은 콘텐츠에 접근할 수 있는 사람이 아니라 자신의 주의력을 적절히 활용 하는 방법을 알고 타인의 주의력을 끌고 유지할 수 있는 사람이다. 다시 말해서, 주의력 경제에서는 정보를 통제하는 사람들이 아니라 주의력을 통제하는 사람들이 돈을 번다. (60쪽)슈레킨저는 “백인 민족주의 대안 우파는 젠더 정치에 완전히 정신이 팔린 공동체인 포챈의 도가니 안에서 벼려졌다”고 쓴다. 포챈의 일부 회원은 본인들이 좌파와 전쟁하는 중이라고 생각했다. 다른 일부는 트럼프 같은 사람을 대통령으로 뽑는 것을 거대한 장난이거나 ‘어마어마한 농담’이라고 여겼다. 그들은 단지 재밌어서 그랬던 것이다.(135쪽)새로운 기술은 그 자체로 좋지도 나쁘지도 중립적이지도 않다. 다만 새로운 기술은 인간의 의사소통과 정보 공유 방식을 바꾸어 공동체의 사회적 구조를 돌이킬 수 없이 변화시킨다. (183쪽)하지만 디지털 기술, 특히 소셜 미디어는 이 상황을 바꾸었다. 투펙치의 말대로, “페이스북 덕분에 아마도 역사상 처음으로, 인터넷 사용자들이 전자 혁명 초대장을 받고 ‘예’라고 클릭할 수 있었다.” (186쪽)정보가 있는 한 허위조작정보가 있었고 지구상의 어떤 사회도 이 문제로부터 자유롭지 않다. 이것은 전 세계적인 문제이며 기술에 의해 창조된 것이 아니라 기술에 의해 촉발된 인간의 문제다. (210쪽)

돈을 내지 않는다면 당신이 상품이다. 우리의 주의력은 상품, 우리의 관심과 참여는 화폐다
우리가 사용하는 소셜 미디어 플랫폼은 사실상 프로파간다를 위해 고안되었다오늘날에는 인간의 주의력을 끌어낸 쪽이 돈을 번다. 좋아요와 구독이 돈이 되는 세상이다. 이를 ‘주의력 경제’(attention economy)라고 한다. 이제 우리의 주의력은 모든 형태의 미디어에서 거래되는 주요한 재화이자 상품이다. 소셜 미디어 플랫폼은 사람들이 플랫폼에 더 자주 오래 머무르게 하려고 발전된 빅데이터 알고리즘을 사용한다. 빅데이터 알고리즘은 사용자가 작성한 프로필 데이터, 좋아요와 구독에 대한 데이터, 그리고 사용자의 주변 인물들에 대한 데이터를 활용하게 사용자에게 개인화된 콘텐츠를 제공한다.문제는 이 알고리즘이 나와 비슷한 취미를 가진 사람을 만나거나 필요한 물건을 구매하는 데 그치지 않고 나와 비슷한 정치적 의견만 보여주는 메아리 방을 만든다는 데 있다. 이렇게 만들어진 메아리 방 속에서 사람들은 자주 보는 것을 사실이라 믿는다. 인간의 편향이 검색 알고리즘이 영향을 미치고, 편향된 알고리즘은 다시 인간의 인지에 영향을 미친다. 새로운 의미의 프로파간다는 “누군가의 마음이나 행동을 바꾸기 위해 하나 이상의 미디어를 사용하여 합리적인 담론보다는 '심리적인 조종'을 통해 메시지를 전달”하는 것이다. 소셜 미디어 플랫폼 사용자들은 클릭, 댓글, 좋아요, 리트윗한 것만으로 자신도 모르게 프로파간다에 참여하게 된다. 유권자의 데이터를 활용해 여기에 영향을 미치고 행동을 조종하려는 새로운 맞춤형 광고 회사도 등장했다. 이들은 정치 세력과 결탁하여 여론 공작을 주도한다. 블랙 라이브즈 매터와 아랍의 봄에서는 민주주의 확산에 기여했던 SNS,
이제는 민주주의를 위협하는 미디어가 되어가고 있다2020년 5월, 경찰관 데릭 쇼빈이 조지 플로이드의 목을 눌러 사망에 이르게 한 장면은 소셜 미디어 플랫폼을 통해 확산되어 블랙 라이브즈 매터 운동에 다시 불을 지폈다. 저자는 2014년 퍼거슨 시위가 블랙 라이브즈 매터 운동을 확산시킨 방식을 통해 소셜 미디어 플랫폼이 어떻게 기성 언론이 보도하지 않은 뉴스를 확산시켜 운동에 기여했는지 설명한다. 2011년 아랍의 봄도 비슷한 사례다. 개인적이고 자유로운 소셜 미디어 플랫폼은 언론과 대중매체를 통제하는 정부를 피해 자신과 비슷한 생각을 하는 사람들을 발견하고 조직할 수 있도록 도왔다. 그러나 정반대의 일도 벌어졌다. 모두의 인권과 평등을 중요하게 생각하는 사람들이 모일 수도 있지만, 반대로 누군가의 인권을 침해하고 공격하기 위한 사람들도 모일 수 있다. 2014년에 미국에서 발생한 게이머게이트에서 인디게임 제작자인 조 퀸을 공격한 백인 남성들은 소셜 미디어 플랫폼에서 프로파간다를 확산하기 위해 꼭두각시 계정과 트윗봇을 사용했다. 이들은 조 퀸에 대한 각종 허위정보를 조작하고 집단적으로 괴롭혔으며 현실에서의 폭력 위협도 서슴지 않았다. 2020년 미국 대선을 앞두고 다시 살펴보는 2016년 미국 대선,
도널드 트럼프는 어떻게 힐러리 클린턴을 제치고 당선됐는가?트럼프 선거운동을 도와 화제가 되었던 케임브리지 애널리티카는 물론, 러시아의 여론 공작 기업인 IRA(Internet Research Agency)는 소셜 미디어 플랫폼 등을 활용하여 수집한 사용자의 데이터로 경합주에서의 판세를 뒤집을 효과적인 선거운동과 허위조작정보 전략을 수행했다. 그들은 민주당 지지자들이 클린턴 대신에 제3의 후보자를 지지하거나 기권하도록 교묘하게 여론을 조작했다. 러시아의 해커팀은 클린턴 선거 본부에 피싱 메일을 보냈고, 이를 통해 획득한 정보로 클린턴에게 타격을 입힐 수 있는 정보를 찾아내어 소셜 미디어 플랫폼을 통해 확산시켰다. 이는 비단 미국의 문제가 아니다. 저자는 2011년 이집트 혁명, 2014년 브라질 호세프 대통령 탄핵, 2016년 필리핀 두레트레 대통령 당선, 미얀마에서의 로힝야족 학살을 통해 세계 곳곳에서 정치적 목적으로 데이터를 이용하여 여론을 선동하고 조직하는 사례를 보여준다. 민주주의는 사실을 바탕으로 깊이 생각하고 서로 설득하는 시민들에 의해 작동된다. 그러므로 민주주의 체제에서는 자유로운 정보의 흐름과 정보의 온전함이 중요하다. 정보의 온전함을 신뢰할 수 없다면 민주적 과정 역시도 신뢰할 수 없을 것이다. 허위조작정보는 정보의 온전함을 오염시킴으로써, 민주주의 체제를 고장 내고 있다. 소셜 미디어 플랫폼은 민주주의에 기여할 것인가, 아니면 민주주의를 조작할 것인가
변화는 우리 손에 달렸다우리는 디지털 기술이 만들어낸 새로운 시대에 살고 있다. 디지털 기술은 사회적 양극화를 증가시키고 여론 공작을 가능케 한 도구들이 동시에 저항의 도구가 되기도 한다. 기술은 그 자체로 선하지도, 악하지도 않다. 기술을 사용하는 인간이 곧 문제이자, 해결방안이어야 한다. 빅데이터 알고리즘이 만들어내는 문제를 제대로 파악한다면 현대 민주사회에 닥친 이 문제를 해결할 수 있는 방향이 보일 것이다.