뉴스 > 기획특집

알고리즘이 지배하는 세상 (3)

알고리즘이 만들어가는 편향된 양극화 세상

기사입력 2020-11-17 오전 4:53:18 입력
페이스북 트위터

[SNS 타임즈] 2019년 여름 알고리즘이 주도하는 이념 양극화 바이러스는 조국 사태를 계기로 우리 사회에서도 폭발적으로 확산되기 시작했다.

 

2019 5월 차량 공유 플랫폼 업체 우버가 주식을 상장하던 날, 우버 운전자들이 저임금에 대한 항의로 시위를 벌였다. 우버 주식 지분 소유자들은 주식상장으로 천문학적인 수익을 올린데 비해, 우버 플랫폼 운전자들의 상대적인 박탈감이 항의 시위로 이어졌다.

 

이처럼 이념 양극화, 경제 양극화는 해결하기 어려운 커다란 국가사회적인 문제를 가져온다. 이 양극화 문제를 슬기롭게 해결하지 못하면 미래 국가 사회는 지속이 불가능하며, 궁극적으론 붕괴 위험에 노출된다.

 

우버 플랫폼 운전자들이 투자자와 임직원들과 운전자들 사이의 부의 불균형이 더욱 가중되고 있다며 목소리를 높였다. (사진출처:씨넷)

  

설상가상으로 우리는 코로나 시대를 맞아 예전 보다 더 많은 시간을 온라인 세상에서 살고 있다. 그로 인해 이념 양극화와 경제적 양극화 위험은 더 커졌고, 중도의 공간은 축소됐다.

 

온라인 SNS 세상에서는 진보와 보수 진영간, 중장년 세대와 청년 세대간, 남녀 젠더간, 동서 지역간 내전이 벌어지고 있다. 이제는 진보와 보수 진영간 대결에 증오와 적대감이 흘러 넘쳐서 살벌하기 조차 하다.

 

세계 민주주의를 이끌어 가는 미국 국민을 대상으로 하는 여론조사에서 이념이 다른 집안의 자녀를 자신의 자녀 결혼 상대자로 선택하는데 거부감을 갖는 비율이 점차 높아지고 있다. 이처럼 세계 정치 이념 지형이 전체적으로는 좌측으로 이동하면서, 좌우 중간 지대가 엄청나게 축소돼 양극단으로 편향되는 경향을 보이고 있다.

 

미국 국민들의 정치 이념 성향이 시간의 경과에 따라 더욱 벌어져 양극화되는 경향을 보이고 있다. (출처: 인터넷/Pew Research Center, 2017)
 

양극단으로 몰고 가는 알고리즘

 

플랫폼 알고리즘에 사로잡힌 시민들이 페이스북, 카카오톡에서 거대한 동류 집단을 형성하는 동안, 알고리즘은 시민들을 극단으로 양극화시켜 왔다. 알고리즘은 사람들을 거대한 밀실에 갇히게 만든다. 그 결과 생각이 비슷한 사람끼리만 소통하게 되고, 그 결과 더욱 확고한 믿음 체계로 몰입하게 된다.

 

어느 순간 우리는 빠르고 유효한 계산 과정으로서의 알고리즘을 단순한 기계로 받아들이는 단계를 넘어섰다. 우리는 구글과 네이버에서 작동하는 알고리즘을 우리에게 최적의 답을 주고 최신의 정보를 분류해주는, 심지어 우리의 결정을 대신해주는 거대하고 전지전능한 현대판 신()으로 신봉하게 됐다.

 

포털이나 SNS추천 시스템은 온라인 시장에서 고객을 붙잡아 두는 중요한 역할을 한다. 한 사이트에 내 정보가 쌓이고 나면, 최적의 맞춤형 정보를 제공해주고 마음에 맞는 친구들과 만남의 장을 제공해주면서 다른 사이트로 옮겨 가기 어렵게 된다. 고객에 대한 잠금(Lock-in) 효과가 발생하는 셈이다.

 

추천 알고리즘의 폐해, 분열과 증오와 극단 조장

 

넘치는 정보의 홍수 속에서 맞춤형 컨텐츠 추천이 대세로 자리잡았다. AI알고리즘이 내가 좋아할 만한 영화, 내가 살 만한 제품, 내 관심사에 맞는 기사, 내가 클릭할 법한 동영상을 추천해 보여주니 더 말한 나이없이 만족스럽다. 인터넷에는 방대한 양의 자료가 올라와 있어 검색으로 개인의 선호에 맞는 컨텐츠를 찾아내기가 어려운 현실이 돼 버렸다.

 

사람들은 듣고 싶은 소리만 들으려는 경향이 있다. 많은 국가에서 정치의 양극화가 심화되는 이유는 인터넷 공간안에서 의견이 일치하는 글과 비디오만 탐닉하며 자신들의 신념체계를 공고히 하는 사람들이 지속적으로 늘어났기 때문이다.

 

많은 이들은 새로운 정보를 얻기 위해 뉴스를 보는 것이 아니라 내 생각이 틀리지 않았다는 것을 확인하기 위해 선호하는 사이트나 방송에 집중한다. 그 편향성의 정도가 심해지면 음모론에 쉽게 빠지게 되고, 자신의 신념에 어긋나는 내용은 사실 여부와 그 출처의 신빙성을 떠나 단순히 가짜 뉴스라고 치부하게 되며 의견이 조금이라도 다른 사람과의 토론과 타협이 어렵게 된다.

 

이번 미국 대선이 초박빙으로 흐르면서 소셜 미디어도 몸살을 알았다. 각종 음모론이 판치는 SNS업체들은 가짜 뉴스, 조작 영상, 불복종 선동 등과 전쟁을 벌이고 있다.

 

추천 알고리즘의 위력

 

유튜브의 최고 상품 담당자(CPO) 닐 모한은 2019년 뉴욕타임스와의 인터뷰에서유튜브 시청시간 70%가 추천 알고리즘에 의한 결과며, 알고리즘 도입으로 총 비디오 시청시간이 20배 이상 증가했다고 밝혔다.

 

유튜브에 영상을 하나 보러 들어갔다가 추천 영상들을 잇따라 보게 되는 경우가 많다. 이건 우연히 생기는 일이 아니며, 엔지니어들이 사용자들을 연구한 결과로 만들어낸 추천 알고리즘의 힘이다.

 

유튜브는 당신이 묻기도 전에 원하는 영상을 찾을 수 있고, 그걸 본 후에도 계속해서 볼 수밖에 없는 영상을 추천하게 되는 것이 추천 알고리즘의 핵심이다.

 

넷플릭스도매출의 75%가 추천 시스템에 의해 발생한다고 밝혔다. 이처럼 알지 못하는 사이에 추천 알고리즘에 종속되는 것이다. 기술과 데이터를 독점한 거대 기업들이 개발한 알고리즘은영업기밀이라 그 정체를 알 길이 없다.

 

유튜브 추천 알고리즘은 분열과 극단화를 조장한다는 비판도 받는다. 유튜브 추천 동영상은 본인이 직접 검색한 첫 동영상보다 늘 과격하다. 예를 들어 조깅을 검색하면 울트라 마라톤이 추천되고 채식주의로 시작하면 Vegan(엄격한 채식주의자)으로 이어지는 식이다.

 

정치 이슈라면 더 심각하다. 유튜브에 가짜뉴스와 극단주의가 출몰하는 이유다. 배경에는 이용자를 더 오래 화면 앞에 잡아둬 수익을 극대화하려는 경제적 동기가 있다. 알고리즘은 오직 유튜브 이용자들의 사용시간을 극대화하는데 타겟이 맞추어져 있으므로 과격하고 극단적인 내용일수록 사람들을 더 붙잡을 수 있기에 자동으로 그런 동영상을 추천한다는 것이다.

  

필터 버블(Filter Bubble), 메아리방(Echo Chamber)

 

복잡한 세상사를 흑백논리로만 보는 사람들이 대다수가 되면 민주주의의 근본이 흔들릴 수도 있는데, 불행히도 소셜 미디어의 대중화로 미국식 양당체제의 한계가 너무 일찍 드러났다고 볼 수 있다.

 

이번 미국 대선에서의 주요 고려사항들을 추려보면 경제, 외교, 안보, 환경, 세금, 복지, 이민, 교육, 건강보험, 방역, 인종 갈등, 총기규제, 성평등, 낙태 권리, 성소수자 권리 등 정말로 다양하다.

 

이 많은 논점들을 놓고 정확히 의견이 일치하는 사람들은 극히 드물텐데 정치적 목적으로 양극단으로 편을 가르면 정작 주요 사안들은 진영논리에 묻혀버린다.

 

정보가 넘쳐나게 쌓이면서 개인의 관심사에 맞는 컨텐츠를 선별하는 일이 필수적이다. 하지만 추천 시스템이 과다하게 활용되면 접하는 정보의 다양성이 줄어들 수 있다. 이제까지 본 영화와 비슷한 영화들만 주로 추천된다면 새로운 영화를 접할 기회가 줄어든다. 추천 시스템이 민주주의 영역에 활용되면 심각한 문제가 일어날 수 있다.

 

어떤 사람이 특정 주제의 기사를 주로 읽었다고 해서 비슷한 기사만 지속적으로 보여준다면 여러 견해를 비교할 기회를 잃게 된다.

 

최근 인터넷 동영상이 중요한 정보 접근 경로가 되고 있다. 개인 맞춤형 추천 동영상을 그냥 아무 생각없이 습관적으로 재생하다 보면, 세상에는 다른 생각을 하는 사람이 많다는 사실을 잊게 될 수 있다.

 

더 무서운 것은 다른 생각들을 놓치고 있다는 사실 조차도 인식하지 못한 채, 현재 접하고 있는 컨텐츠가 세상 전부인 것 같은 착각에 빠질 수 있다는 점이다.

 

이처럼 알고리즘은 사람들이 인터넷 공간에서 컨텐츠 만나는 방법을 송두리째 바꾼다. 이런 기능을 비판적 전문가들은 필터 버블(Filter Bubble)이라고 한다.

 

AI알고리즘이 개인 성향에 맞게 필터링해 준 정보로 이용자 스스로 편향된 정보 세상에 갇히는 현상을 가리키는데, 필터 버블은 개인의 관심사항을 지속적으로 제공해주므로 계속 외톨이로 만든다.

 

그리고 필터 버블은 개인이 스스로 선택할 수 없게 그냥 보여주는 대로 보게 한다. 그 결과 필터 버블은 개인이 통찰하면서 새롭게 배울 기회를 박탈한다. 필터 버블에 의해 과거 비슷한 사용 이력을 자신도 모르게 반복하며 편협한 공간에 갇혀 쳇바퀴를 돌게 된다.

  

이처럼 비슷한 생각을 하는 사람들끼리 점차 모이게 되고, 다른 생각을 접할 기회를 잃어가는 현상을 메아리방(Echo Chamber) 효과라 한다.

 

여러 사람이 커다란 방에 모여 토론하는 모습을 상상해 보자. 만약 똑같은 생각을 하는 사람끼리만 한 방에 모여 있다면, 겉으로는 서로 자유롭게 의견을 교환하는 것처럼 보이지만, 사실은 같은 생각만 반복해서 듣는 셈이 된다. 마치 자기 이야기의 메아리만 듣고 있는 것과 같다고 하여 메아리방이라고 부른다.

 

메아리의 방 효과는 이전부터 존재해 왔지만, AI알고리즘에 의해 작동되는 정교한 추천 시스템은 문제를 악화시킨다.

 

심리학자들에 따르면 인간은 자기 생각을 뒷받침하는 정보에만 관심을 보이는 경향이 있다고 한다. 일단 어떤 생각이 옳다고 생각하게 되면, 그 생각을 뒷받침하는 증거를 찾게 되고, 반대 주장은 눈에 잘 들어오지 않는다.

 

만약 메아리방에 갇혀 자기 생각과 반대되는 정보에 접근할 수 없다면 생각을 발전시키기 더욱 어려워질 것이다. 어떻게 하면 편리한 AI알고리즘에 의한 추천 시스템을 활용하면서도 사고의 편협성을 만들어 내는 메아리방을 만들어 내지 않을지 고민해 볼 일이다.

 

무서운 것은 소셜 미디어 플랫폼에 감추어진 알고리즘이다.

 

페이스북이나 유튜브 등 SNS는 알고리즘의 작동에 따라 유사한 사고방식을 가진 사용자들이 점점 더 많이 상호작용을 할 수 있도록 만든다. 자연히 반대 의견은 차단하는 동종 선호의 효과를 나타내고 있다.

 

그 결과 자신이 활동하는 SNS는 모두가 똑같은 성향의 정치적 입장을 가진 사람들뿐이다. 그 안에서 포스팅을 하고좋아요를 누르다 보면 마치 세상사람 모두가 자신이 지지하는 정치성향과 일치한다는 착각에 빠지게 되고 그것이 대세인 것으로 믿게 된다.

 

자유로운 정보의 바다라고 생각했던 인터넷이 거대 플랫폼에 의해 쪼개지고, 각각의 플랫폼 안에서 사람들은 알고리즘, AI가 공급하는 컨텐츠만을 받아보는 세상으로 바뀌었다.

 

과거에는 컴퓨터 앞에서 앉아서 능동적으로 웹을서핑했던 사람들은 이제 스마트폰으로 이동했고, 풍요로운 정보의 바다를 마음껏 항해하던 웹 브라우저 대신 몇 개의 앱 안에 갇혀서 산다.

 

그리고 그 안에서 내 주장에 동의하는 사람들로만 친구를 맺는 커뮤니티가 형성되고, 그렇게 만들어진 세상을 현실이라고 생각한다.

 

예를 들어 세상을 진보적으로만 보는 외눈박이 사람들끼리, 세상을 보수적으로 보는 오른눈박이 사람들끼리 세상을 만들어 그 안에서 살면서 밖으로 나오지 않는다면, 이미 사람들은 듣고 싶은 것만 듣고 믿고 싶은 것만 믿는 확증 편향(Confirmation Bias)에 사로잡혀 실제 세상이 아닌 허구적인 가상의 세상에 갇혀서 사는 것과 다름이 없을 것이다.

 

이념 양극화에 이은 경제 양극화 확대

 

빅데이터 기반 플랫폼 세상에서는 이념 양극화는 물론이고 경제 양극화에 이어 신의 영역으로 인식해왔던 수명까지 양극화시켜 나가고 있다.

 

2020년 세계를 덮친 코로나 바이러스는 누구에게나 공포이지만, 그 공포 자체는 양극화된 공포다. 각국의 코로나 위기는 국가 사회를 뿌리째 흔드는 경제 양극화를 고발하고 있다. 코로나 팬데믹은 양극화를 더욱 심화시켜 경제적 약자들을 벼랑 끝으로 내몰고 있다.

 

2020 10월 세계은행(WB)과 스위스 은행 UBS가 발표한세계 빈곤과 슈퍼리치 현황보고서는 더욱 짙어진 양극화 현상을 보여주었다.

 

아프리카 극빈층들은 하루 생활비가 1.9$인데 비해, 세계 최고 부자인 아마존 제프 베조스는 1년사이 재산이 64%나 증가하며 2020 9월말 현재 1790$에 도달했다.

 

코로나로 인해 세계 극빈층이 2019년말 8%에서 2020년말 기준으로 9.4%로 증가하고 있고, 국내 역시 2020 1분기 소득 상위 20%가 소득 하위 20% 보다 5.41배 더 벌어서 2019년 같은 분기 5.18배 보다 소득 격차가 악화되는 결과를 가져왔다.

 

아프리카 극빈층들은 최저 생계조차 위협받는데 비해, 슈퍼리치들은 코로나를 계기로 천문학적인 부를 축적하며 초양극화로 달려가고 있다.

 

코로나 팬데믹이 폭로한 불평등에 대한 분노의 불길이 타오르고 있지만, 팬데믹이 초래한 경제위기는 불평등을 더욱 확대하고 있다. 일각에서는 부의 집중 현상이 변곡점에 도달했다고 보고 있다.

 

조속하게 유효한 대책을 마련하지 않으면 최악의 경우, 치안이 불안한 국가에서는 1%의 슈퍼리치를 대상으로 민중 봉기가 일어날수도 있다고 경고한다.

 

코로나 팬데믹으로 인한 변화의 에너지가 불평등 완화를 위한 효과적인 정책과 제도 반영으로 이어져야 한다는 지적이다.

 

양극화는 수명(壽命) 등 전방위적으로 확대

 

향후 미래의 인간세계는 경제력, 권력, 기술 등을 통해 신인류가 된 이들과 보통의 인간으로 계급이 나뉜 결과, 21세기 인간 사회는 인류 역사상 가장 불평등한 사회가 될지도 모른다.

 

역사상 처음으로 경제적 불평등이 생물학적 불평등을 낳고, 신인류가 된 상류 계급이 훨씬 더 오래 살며 더 우수한 재능을 확보하는 세상이 전망되고 있다.

 

현생 인류인 호모 사피엔스(Homo Sapiens) AI로봇기술과 융합돼 차세대 인류인 포스트 휴먼(Post Human)으로 진화해가면, 돈이 없어 현생 인류에 머무는 하층민과 포스트 휴먼으로 진화한 최고층간에는 경제적 양극화 뿐 아니라, 수명의 양극화로무전(無錢)100, 유전(有錢) 200, 부자 영생(富者 永生)’의 시대가 현실이 될 수도 있다.

 

과도기적인 트랜스 휴먼은 몸과 두뇌의 한계를 컴퓨터와 같은 기술로 극복할 수 있지만 여전히 질병과 노화 앞에서는 무력하다. 그러나 차세대 인류인 포스트 휴먼은 슈퍼 컴퓨터급 두뇌로 사고하고, 병에 걸리거나 늙지 않고 영생하며, 유전자 가위 같은 기술로 반사회적인 유전자를 제거하면서 모두 성격이 좋은 인간이 될 수 있다.

 

현생 인류 호모 사피엔스(Homo Sapiens)는 트랜스 휴먼을 거쳐 궁극적으로 어떤 형태의 포스트 휴먼(Post Human)으로 진화하게 될까? (출처: iStock)

 

사람과 로봇의 중간 단계를 뛰어넘으면 사람은 트랜스 휴먼(Trans Human)을 거쳐 로봇인지, 사람인지 구분이 힘든 포스트휴먼(Post Human)시대로 진화할 수 있다는 전망도 있다.

 

포스트 휴먼은 생물학적 한계를 뛰어넘어 늙지도, 죽지도 않는 영생(永生)하는 새로운 인간이 된다. 영생하는 새로운 인류는 고대 이집트의 파라오들이 영생 불멸을 꿈꾸었던 미이라의 현대판이라 할 수 있다.

 

포스트휴먼이 되지 못한 보통 사람들은 이제까지 경험하지 못했던수명 양극화로 인내하기 힘든 박탈감과 함께 불만과 갈등이 폭발하면서 불안하고 지속되기 어려운 사회가 될 수도 있다.

 

알고리즘이 유혹하는 양극화로부터 탈출

 

사실 알고리즘이 지배하는 플랫폼 세상이 단지 정치 이념 양극화 문제만 만들어내는 것은 아니지만, 알고리즘의 폐해를 피부로 느낄 수 있는 분야가 바로 이념 양극화다.

 

사람은 기계, 컴퓨터, AI가 결정한 결과를 신뢰하는 경향이 있다. 그러나 기계는 그것을 만든 사람과 알고리즘을 고도화해가는 데이터에 종속된다는 사실을 이해해야 한다.

 

스마트폰 앱으로 동작하는 내비게이션은 중앙관제 클라우드 센터의 AI 알고리즘으로 경로를 제공한다. 서비스 제공과정에서 수많은 이용자들이 만들어내는 엄청난 빅데이터 분석으로 교통 상황을 고려해 경로를 가변적으로 중간에 바꾸기도 한다.

 

그런 과정에서 특정 도로에서 트래픽 체증이 발생하면 도로 인프라가 좋지 않은 도로를 안내하게 되는데, 어떤 경우엔 교통 체증이 더 심하게 발생하기도 한다. 이런 경험을 한 운전자는 내비게이션 알고리즘이 추천하는 경로를 선택하지 않고 역선택함으로써 정체 구간을 회피하기도 한다.

 

어느 늦가을 여유롭게 고향으로 달려가는 단풍 경치를 무척이나 좋아하는 운전자에게 단풍으로 우거진 숲이 보이는 도로를 아직까지는 내비게이션 알고리즘이 제공하지 못한다.

 

이처럼 내비게이션 알고리즘이 추천하는 경로를 최종 선택하는 것은 사람이다라는 자각이 중요하다.

 

사용자의 과거 습관을 바탕으로 AI알고리즘이 권하는 기사나 영상은 기존의 신념 체계를 더욱 공고히 하는 함정이 도사리고 있어 주의해야 한다. 기계가 제시하는 것만 수동적으로 볼 것이 아니라 주도적으로 테마를 정해 정보를 얻는 것이 확증 편향에 빠지지 않는 방법이다.

 

예를 들면 유튜브에서 추천해주는 자동 알고리즘을 피할 수 있는 방법으로 설정이라는 메뉴가 있다. 항목 중기록 및 개인정보 보호시청기록 지우기를 누르게 되면 과거에 내가 시청했던 목록들이 삭제된다. 이렇게 되면 유튜브는 과거에 내가 했던 행위들을 학습하지 않기 때문에 어느 정도 추천 알고리즘의 종속에서 벗어날 수 있다.

 

알고리즘 세상의 중독에 빠져 편향된 세상에 갇히지 않기 위해서는 오프라인에서의 삶을 중요하게 인식해야 알고리즘이 쌓아 올리는 이념, 경제, 문화, 교육, 수명 등 모든 분야의 양극화의 막다른 골목에서 빠져나올 수 있다.

 

알고리즘이 형성하는 거의 모든 분야의 양극화가 세상을 피폐하게 만들고, 인권과 민주주의를 위협하는 디스토피아적인 세상으로 질주하게 만드는 상황이 이미 우리 눈앞에서 펼쳐지고 있다.

 

지속 가능하고 정상적인 미래 세상을 만들기 위해서는 이런 양극화로 향하는 불길한 내리막길 질주를 막아야 한다.

 

 

- Copyright, SNS 타임즈 www.snstimes.kr

이상일 논설고문 (editor@snstimes.kr)

최근기사

네티즌 의견28
내용은 200자 이내로 적어야합니다. 기사와 무관한 글은 임의로 삭제 될 수 있습니다.
(스팸방지코드  )
의견
쓰기

  • 원일용
    2020-11-23 오전 11:02:49
    요즘 회자되는 좋은 주제입니다. 그렇지만 미래는 미래, 예측은 예측 아닐까요? 시대 상황과 식견에 대한 공유 감사드립니다.
  • 국제통
    2020-11-18 오후 1:23:28
    안녕하세요, 설득력 있고 균형잡힌 시각의 훌륭한 글 감사합니다. 이 글을 장만하기 위해 그야말로 엄청난 자료조사와 분석을 했을 걸로 사료됩니다. 일반상식과 정보통신의 지식을 아주 조화롭게 아우르는 알찬 내용으로 탁월한 글을 게재해주신 점이 정말 대단합니다.
정보네트워크
최근에 가장 많이 본 기사 인물
최근 가장 많이 본 기사인물은 독자들이 기사인물에 대한 클릭수가 실시간으로 적용된 것입니다.
최근에 많이 본 기사

전체메뉴