The Challenges of AI Ethics and Human Identity Reproduced by Global Content: Focusing on Narrative Analysis of Netflix Documentary

글로벌 콘텐츠가 재현하는 AI 윤리와 인간 정체성의 과제: 넷플릭스 다큐 <소셜딜레마>의 서사 분석을 중심으로

Abstract

This study was conducted to diagnose the issues of AI ethics in global content and to discuss what kind of discourse is needed to strengthen human identity. To this end, the study selected Netflix original content "The Social Dilemma" for analysis and adopted narrative analysis as the research method. The analysis results confirmed that "Social Dilemma" showed the structure of a traditional current affairs documentary and mainly used experts and statistical data to develop the story. It also reinforced core content claims by enumerating domestic and foreign cases such as the 2021 Myanmar massacre and the spread of fake news. In addition, the relationship between the characters clearly revealed the binary opposition between developers and media companies as well as users and advertisers. For the solution to the problem, strong regulations on businesses and the suspension of social media use were reached. However, "The Social Dilemma" merely pointed out the misuse of AI technology and had a narrative that ignored human identity and social relationships. Such results raise the need for creating contents that emphasize the importance of human sociality, relationships, and learning ability in the age of AI.

본 연구는 글로벌 콘텐츠에 나타난 AI 윤리의 문제적 상황을 진단하고, 인간의 정체성을 강화하기 위한 담론이 무엇인지를 파악하고자 했다. 연구 진행을 위해 넷플릭스(Netflix) 오리지널 콘텐츠 <소셜딜레마>(The Social Dilemma)를 분석대상으로 선정했다. 연구방법은 서사분석을 채택했다. 분석결과 <소셜딜레마>는 전통적인 시사 다큐멘터리 구조를 보였으며, 이야기 전개를 위해 주로 전문가와 통계자료를 활용한 것으로 확인되었다. 미얀마 학살 사건, 가짜뉴스 전파 등 국내외 사례를 열거하며 콘텐츠 핵심 주장을 강화하기도 했다. 인물의 관계에서는 개발자와 미디어 기업, 이용자와 광고주 사이의 이항대립이 명확하게 드러났다. 해결책으로는 기업에 대한 강력한 규제와 소셜미디어의 이용 중단을 주장했다. 하지만, <소셜딜레마>는 AI 기술의 오남용을 지적하는 수준에 머무르며, 인간 고유의 정체성과 사회적 관계를 외면하는 서사를 구성했다. 이러한 결과는 AI 시대를 맞아 인간의 사회성과 관계성, 학습 능력의 중요성을 강조하는 콘텐츠의 필요성을 제기한다.

Ⅰ. 서론

4차 산업혁명 시대에 접어들면서 인류는 새로운 변화를 맞았다. 사람들은 인공지능(AI)을 비롯해, 사물인터넷(IoT), 생명공학(Biotechnology) 같은 첨단 기술을 거부감 없이 받아들이게 되었다. 개인은 생체 정보로 송금이 가능해졌으며, 번역가 도움 없이 외국어를 쉽게 읽고 이해하는 수준에 이르렀다. 새로운 부가가치를 창출하고, 자신이 원하는 서비스를 만들 수 있는 것도 AI 기술이 핵심적인 역할을 했다. 이러한 변화는 빠른 속도로 인간의 진보를 가져다준다는 점에서 종전의 산업혁명과 맥을 달리한다[1].

하지만, 기술 발전이 인류의 영속적인 장밋빛 전망을 주지 않는 것처럼, 이에 대한 명확한 문제와 해법을 짚어볼 필요가 있다. 한 예로 AI 기술은 공정과 효율성을 높일 것이라는 기대와 달리 사회 곳곳에서 예기치 못한 문제를 양산하고 있다. 채용 과정에서 AI 기술을 도입한 아마존(AMAZON)은 알고리즘 편향성으로 인해 사회적으로 큰 논란을 일으키기도 했다. AI가 특정인을 배제할 수 있다는 지적이 잇따랐고, 결국 회사는 해당 채용 시스템을 폐지한다고 밝혔다

AI의 윤리적 문제는 일상에서도 쉽게 확인된다. 사람들은 인터넷에 접속하는 순간, 다른 사람의 블로그나 페이스북, 트위터 등을 보면서 정보를 쉽게 얻을 수 있게 되었지만, 자신 역시 타인이나 알고리즘의 '감시'를 온전하게 피할 수 없게 되었다[2]. 공정한 것처럼 보이는 AI 기술은 기존에 축적된 데이터를 통해 분석하고 따르도록 설계되어 있어 편견에서 자유롭지 못하다[3].

이러한 AI의 기술적 문제는 인간의 정체성과 맞닿아 있다. 커뮤니케이션 관점에서 볼 때, 인간의 정체성은 사회적'으로 구성된다. 상대방이 나를 인정할 때, 혹은 내가 사람들과 관계를 가질 때, 정체성은 힘을 발휘하게 된다. 개인이 사회적 관행과 의례의 범주 안에서 자신을 표현하며, 소속감을 가지는 것도 정체성으로 설명할 수 있다[4]. 하지만, AI 기술이 광범위하게 활용되면서 인간은 기술의 활용 범위를 증대시키고 있다. 개인은 과거보다 훨씬 편하게 정보를 취사선택 하게 되었는 데, 역설적으로, '사회적 존재'가 아닌 기계가 주입하는 정보에 의존하는 인간이 될수 있다는 비판이 가능하다. 알고리즘에 의해 자신의 생각과 비슷한 정보만 얻게 되어 일반화 오류'와 's증편향'에 빠질 수 있는 위험도 있다[5II6]. 이러한 논의는 우리 사회가 AI 발전상을 인정하면서도, 인간의 정체성과 사회성을 강화하기 위한 대안의 필요성을 제기한다.

이에 본 연구는 글로벌 콘텐츠가 재현하는 AI 윤리의 중요성과 현재성, 대안의 시각을 알아보고자 한다. 콘텐츠는 자연적으로 생산되기보다 사회를 재현하고, 사람들의 감정과 마음, 숙의를 포함한다. 시간이 흐를수록 콘텐츠 기술은 진화하고, 새로운 부가가치를 창출하는 동력이 된다.

최근에는 OTT(Over The Top) 시장의 활성화로 콘텐츠 범위와 주제, 내용이 과거보다 훨씬 다양해졌다. 사람들은 동일한 콘텐츠를 시청하지만, 서로 다른 견해를 보이며 소셜 미디어에 자신의 의견을 표현하고 있다. 온라인 공간에 표출된 말과 글은 새로운 담론을 형성하고 있으며, 그러한 담론은 공적 영역으로 확대되기도 한다[7]. 글로벌 콘텐츠를 분석하는 작업은 결국 국제사회에서 통용되는 AI 이슈를 좀 더 맥락화하고, 보편적인 시각으로 탐구하는 데 의미 있다고 할 수 있다.

이 가운데, 다큐멘터리는 현실을 있는 그대로 구성할뿐만 아니라 사회적으로 알아야 할 문제를 공론화하는 힘을 갖는다. 사건과 상황, 등장인물에 대한 특별한 의미와 사회적 실천을 제시하는 것은 다큐멘터리의 중요한 역할로 볼 수 있다[8]. 연구진은 이를 구체적으로 논의하기 위해 넷플릭스(Netfix)가 방영한 <소셜딜레마>(The Social Dilemma)를 분석대상으로 선정했다. 이 다큐멘터리 영화는 페이스북과 구글 등에서 일한전직 프로그래머들이 소셜 미디어의 부작용을 폭로하는것으로 시작한다. 미디어가 사람들의 정신 건강에 어떻게 해악을 끼치는 지 실증적으로 보여주고 있다는 점에서 이 작품은 적지 않은 반향을 일으켰다. 실제로, 2020년 전 세계에서 가장 많이 본 넷플릭스 콘텐츠 4 위에 오르는 등 큰 인기를 모았다. AI 기술을 주제로 한 수많은 콘텐츠 가운데, 독보적인 성과를 거둔 것으로 평가된다.

연구진은 작품에 나타난 AI 윤리와 인간의 정체성 문제를 분석하기 위해 서사 분석(narrative analysis)을 활용했다. 일반적으로, 서사는 사고 체계라고 할 수 있으며, 미디어 영역에서는 의미 전달의 형식으로 쓰이고 있다[8]. 언어 구조주의자들에 따르면, 서사는 건축물처럼특정한 뼈대에 고정되어 있지만 영구적으로 보지 않 는다. 콘텐츠 '구조들'은 변화하기 때문에 끊임없이 재생산된다는 것이다[9].

연구에서는 <소셜딜레마>가 AI로 대변되는 당대의 상황을 지적하는 것을 텍스트로 규정하고 이 텍스트가 궁극적으로 취하고 있는 문제의식과 사회문화적 맥락을 파악하고자 한다. 나아가, AI 순기능에 가려진 윤리적 문제와 인간의 정체성을 공론화함과 동시에 글로벌 콘텐츠가 사회적 문제를 더욱 치열하게 담기 위한 방법을 제언하고자 한다.

구체적으로 본 연구는 AI 윤리에 대한 국내외 상황을 검토하고 다큐멘터리의 현실 재구성 의미를 논의한다. 이어, 현상적, 이론적 논의를 중심으로 <소셜딜레마>에 대한 서사 분석을 진행한다. 서사 분석에서는 통합체 계열체 분석을 통해 <소셜딜레마>가 지향하고 있는 AI 윤리를 진단하고 인간의 정체성 측면에서 어떠한 함의가 있는지 파악한다.

Ⅱ. 이론적 논의

1. AI 윤리의 대두, 인간의 정체성

AI 기술이 사회 전 분야에 걸쳐 급속히 활용되면서 윤리 문제가 대두되고 있다. 방대한 개인 정보를 보유하고 있는 미디어 기업들은 AI 기술을 활용해 선별적으로 광고를 주입하거나 개인의 사생활을 손쉽게 알 수 있게 되었다. 이러한 시스템은 이용자 거주지와 경제력, 성별, 관심 분야에 따라 정보 검색 이용에 차별을 둘 수 있다. 이용자가 특정 키워드를 검색할 경우 개인 성향에 따라 다른 결과가 나올 수 있다는 것이다. 인간이 아닌 기계가 사회적 담론을 형성할 수 있다는 사실은 AI 기술의 윤리성에 중요한 시사점을 제공한다[10]. AI는 인간이 아닌 기계에 해당되므로 사고에 따른 책임 소재가 흐려지는 점이 큰 문제로 지적된다. 자율 주행 차량이 도심 속에서 사고가 날 경우 보상 체계를 둘러싼 논쟁은 이미 사회적으로 이슈가 된 바 있다.

AI의 오남용을 방지하기 위해 정부와 국제기구, 기업에서는 AI 윤리를 놓고 여러 대안을 모색해왔다. 유네스코(UNESCO)는 2021년 '유네스코 AI 윤리 권고'를 통해 AI 혜택의 보편성을 강조했다. AI 윤리와 관련해 첫 국제 표준이라는 점에서 상징성이 크다. 이 권고는 '대중 감시'(mass surveillance), 사회적 신용 점수제'(Social Scoring) 등에 따른 AI 기술 사용 금지를 담고 있다. 국제사회가 AI 윤리에 목소리를 내는 것은 윤리는 법과 정책, 기술 산업 다방면에서 중요한 이슈 이며, 그것이 야기하는 사회적 문제가 간과할 수 없을 정도로 비대해졌음을 의미한다[11].

한국의 네이버(NAVER)도 같은 해 11월 서울대학교 AI 정책 이시셔티브(SAPI)와 첫 'AI 리포트'를 발간했다. 보고서는 AI 기술을 자연어 의사소통과 컴퓨터 비전, 추천, 로봇동학으로 구분해 AI가 구체적으로 어떤기술로 이뤄져 있는지 설명하고 있다. 현재 번역 시스템과 고객센터 등에 AI 기술을 광범위하게 활용하고 있는 만큼 네이버가 윤리 준칙을 제정한 것은 기업의 사회적 책임을 강화하는 움직임으로 볼 수 있다.

국내외적으로 AI 윤리의 심각성을 공유해 대처하는 배경에는 산업적 변화에만 기인하지 않는다. 근본적으로는 인간의 정체성과 맥을 같이 한다. AI의 작업적 수행 능력이 고도화되면서 인간의 내면화와 의식에 적지않은 영향을 주고 있다. AI가 주입하는 정보는 효율성과 편의성을 주지만 역설적으로 대인관계를 객체화할 수 있기 때문이다. 그럴수록 인간의 역량개발과 사회성발현을 위한 노력이 요구되고 있다.

정체성과 관련한 이론적 근거는 상징적 상호작용 (symbolic interaction)에서 찾을 수 있다. 이 이론에 따르면, 인간은 환경과 적극적인 상호관계를 갖게 된다. 타인과 뜻을 주고받으며, 자아가 형성되고 자신의 사회적인 역할을 수행한다. 상징적 상호작용은 공동체에서 커뮤니케이션의 강화를 의미한다. 인간은 타인과 커뮤니케이션하는 과정에서 사회적 존재로 역할을 하며, 동시에 자아 존중감이 커지게 된다는 것이다[4].

AI는 인간의 모든 커뮤니케이션을 대체할 수 없다. AI의 메커니즘은 인간의 뇌와 신경망과 유사할 수 있지만 그것이 바로 인간의 본질적인 영역을 포괄할 수 없다는 것이 전문가들의 공통된 견해다[12][13]. 사회학자 어빙 고프먼(Erving Goffman)이 지적했듯이 인간사회는 "어떤 사회적 특성을 지닌 사람이든 타인들에게 적절한 방식으로 존중과 대우를 받을 권리가 있음을 보장하는 원리에 따라 사회가 조직"[14]되기 때문에 관계성은 인간에게 중요한 가치라고 할 수 있다. AI 기술이 발달하더라도 한 사회의 관계망은 변화할 수 없으며, 그럴수록 인간의 정체성은 더욱 중요해지고 있다.

2. 다큐멘터리의 현실 재구성

다큐멘터리는 현실을 재구성하는 대표적인 커뮤니케이션 수단이다. 사회적인 문제를 공론화하며, 합의점을 찾는 데 중요한 역할을 한다[15]. 콘텐츠 속 메시지가 사람들에게 분노를 일으키거나 공감을 자아내는 행위는 다큐멘터리의 효과를 알아보는 중요한 근거가 된다.

다큐멘터리가 다른 콘텐츠와 달리 사람들에게 호소력을 가지는 배경에는 진정성이 있기 때문이다. 다큐멘터리는 사건보다 상황을 맥락화하며[17], 영상과 음향을 통해 내러티브를 구성한다[18]. 이 과정에서 제작자는 자신이 말하고자하는 사건에 대해 가치와 의미를 부여해 이면에 숨겨져 있는 진실을 알리게 된다. 사회적 공감대를 이끌기 위해 서사적 기법도 선보이게 되는데 이용자는 사건의 중요성을 다큐멘터리를 통해 쉽게 이해할 수 있다[8].

다큐멘터리의 핵심 구성은 인터뷰와 현장화면, 자료화면으로 구분된다. 인터뷰는 다큐멘터리의 증언과 내러티브, 맥락화를 높이는 기능을 한다. 현장 화면은 사건의 진실을 찾는 흔적으로 볼 수 있다[19]. 자료 화면은 실증 분석을 통해 인터뷰와 현장 화면을 보완하는 역할을 한다. 이 모든 행위는 제작자가 기획한 생각에서 비롯되지만 그것이 모여 사회적 합의점을 이끌게 된다[20].

하지만, 모든 미디어가 현실을 있는 그대로 반영하지 않듯이 다큐멘터리도 한계점이 존재한다. 사건에 대한 의견과 평가, 원인과 대안에 대한 소재를 다루어 관찰자보다 해설자 관점을 갖게 되는 경우가 많다. 주제적 맥락에서 벗어나 제작자의 편향적인 시각이 다큐멘터리에 개입될 여지도 있다[8]는 사실은 다큐멘터리의 구성과 내용을 비판적으로 검토해야 함을 의미한다.

사회적 재구성 차원에서 본 다큐멘터리 관련 연구는 대부분 지배 이데올로기에 대항하고 현실을 비판적으로 검토하는 것으로 모아졌다[17][21]. 정종건(2014)은 동일한 주제를 놓고 벌이는 한국 방송사(KBS대전, 대전MBC)의 시사 다큐멘터리 재현성을 분석했다. 방송사들은 해고노동자를 '우리'라는 담론 아래 위치시키며, 이들이 처한 현실이 모두의 문제임을 각인시키고 있었다. 하지만, 문제해결 방식에 있어서는 각각 기업의 노력(대전MBC), 정부 중재안(대전KBS)을 강조한 것으로 나타났다. 이러한 결과는 해고노동자 문제의 심각성을 인지하면서도 차별화된 문제제기를 통해 사안의 다양성을 내포하고 있음을 의미한다[18]. 국가별 다큐멘터리의 재현성 차이는 심훈(2005)의 연구에서 확인된다. 그는 MBC <시사매거진>, 미국 CBS <60 Minutes>를비교 분석하면서 등장 인물에 대한 방송사별 묘사특징을 살폈다. 그에 따르면, 미국 다큐멘터리는 '미국인'과 인도네시아인' 이라는 인종적 범주 안에서 이항대립을 보였다면, 한국은 '기자'와 '취재원'이라는 직업적 상황에 따른 차이가 나타났다. 이러한 결과는 재난 상황에서 한국 다큐멘터리는 관행적인 취재 기법을 답습하며 문제의 심각성을 외면하는 결과를 초래한 것으로 볼 수 있다[30]. 윤나라(2020)는 AI를 둘러싼 신화를 검토하고, 이를 해체하는 시도로 다큐멘터리 <알파고>를 분석했다. 이세돌과 알파고의 바둑 대결로 AI에 대한 국내외적 관심과 활용도는 나날이 증대하고 있다. 하지만, 연구자는 다큐멘터리가 AI 기술의 신화를 넘어 또 다른 지능 그 자체로서 이해하는 것이 필요하다고 지적한다[31].

한편, 김강원(2020)은 2016년 이른바 '이세돌과 알파고의 대국 이후 나타난 한국의 AI 관련 드라마(<너도 인간이니?>) 담론을 살폈다. 작품 속 AI는 매우 낙관적이고 진취적인 가치로 그려지고 있었다. AI는 인간의 힘으로 알수 없는 미지의 영역으로 남게 되었는데 이러한 담론은 인간의 가장 근본적인 두려움으로 형상화되었다[22].

본 연구는 기존 논의를 참고해 글로벌 콘텐츠가 AI 윤리와 인간의 정체성을 어떠한 서사 방식으로 담아내는지 분석하고자 한다. 콘텐츠 속 텍스트를 다큐멘터리의 재현성으로 치환하고, 그 속성의 이데올로기성과 사회적 현실의 맥락을 살펴본다.

Ⅱ. 분석대상 및 연구방법

1. 분석대상 소셜딜레마(The Social Dilemma)

2016년 이세돌과 알파고의 바둑 대회가 펼쳐진 후 사회적으로 AI에 대한 관심이 커지고 있다. 콘텐츠 분야도 예외가 아니다. AI 기술을 다룬 <보그맘>(2017)을 비롯해 <로봇이 아니야>(2017), <너도인간이 니?>(2018), <절대그이>(2019) 등은 인간과 과학기술의 공존을 모색한다. 단순히 기술의 발전상을 전달하기보다 시대적 변화에 발맞추어 인간이 기계와 어떻게 교감할 것인지 성찰과 대안을 제시한다는 점에서 의미가 크다[22]. 이러한 콘텐츠의 주제적 경향은 AI 기술이 특정 분야에 머무르지 않고 일상에서 활용되고 있다는 현상을 조망하는 데서 출발한다.

본 연구는 AI의 기술적 변화에 한정하지 않고 그것이 야기하는 사회적·윤리적 문제를 분석하는 데 집중한다. 윤리와 정체성이라는 관점에서 과학기술의 이면을 밝히고 대안의 시각을 논의해보려는 것이다.

연구진행을 위해 글로벌 콘텐츠 플랫폼 넷플릭스를 활용했다. 전 세계 190개국에 진출한 넷플릭스는 대표적인 OTT 플랫폼 기업이다. OTT 시장의 핵심은 콘텐츠의 국적 경계가 없어졌다'는 점이다. 시청자들은 언제·어디서든 동일한 콘텐츠를 시청할 수 있게 되었으며, 이를 통해 사회적 교감을 나눌 기회가 많아졌다. 콘텐츠 인기도를 실시간으로 파악할 수 있다는 것도 OTT 시장의 장점 중 하나다.

연구자는 넷플릭스가 방영한 <소셜딜레마>를 분석대상으로 선정했다. 2020년 개봉한 이 다큐멘터리 영화는 시청 순위 세계 4위에 오르며, 국내외적으로 큰 반향을 일으켰다. 특히 윤리적 문제를 공론화한다는 점에서 기존 AI 관련 콘텐츠와 차별화된다. 소셜 미디어와이를 둘러싼 광고주의 이익추구, 가짜뉴스 확산, 개별이용자들의 편향성 등을 다루었다. <소셜딜레마>의 문제의식은 역설적으로 AI의 윤리적 문제에 대해 국내외적으로 관심이 높은 것으로 이해할 수 있다. 실제로 이 다큐멘터리는 소셜 미디어가 어떠한 사회적 문제를 일으키고 있는지 지속적으로 제기한다. 출연자들은 전지역과 세대, 연령에 걸쳐 알고리즘이라는 기술적 도구에 의해 인간이 소외되고 대인관계가 악화된다고 주장한다.

이러한 서사 구조는 과학기술의 비윤리성과 인간의 미디어 이용을 비판적으로 그리고 있음을 보여준다. 결국 AI를 둘러싼 우리 사회의 논의가 산업적 측면에서 벗어나 인간의 정체성을 두루 검토해야 함을 의미한다.

2. 연구방법 : 서사분석

클로드 레비스트로스(Claude Levi-Strauss)는 뇌에 부호화되어 있는 언어 구조 속에서 인간 문화의 기원을 탐색하며, 문화체계가 무의식적인 언어규칙체계에 의해 산출된다고 보았다. 예를 들어, 체스 게임(Chess Game)은 플레이어가 두는 일련의 수를 명확히 알 수 없다. 레비스트로스는 이를 근거로 관찰 가능한 이슈를 보다 심층적인 언어 체계의 표현으로 간주함으로써 인간 정신의 근본 구조를 밝힐 수 있다고 주장했다[23]. 특히, 그는 인간이 혼돈스러운 삶에서 질서와 조화를 추구하기 위해 '인간 대 자연' 선과 악 우리 대(對) 너희' 삶 대(對) 죽음' 등의 이항대립을 제시한다. 이러한 이항대립은 신화 속에서 반복된 패턴으로 나타나며, 미디어에서는 극단적인 차별화로 재구성된다. 때문에 서사는 현실을 있는 그대로 드러내기보다 기존의 사회문화적 관계와 교묘하게 공조체계를 이룬다고 볼 수 있다. 콘텐츠 속 텍스트는 지배 세력과 은밀한 관계를 유지하며, 구조화되고 시대적 맥락을 반영하게 된다. 그 의미는 특정 대상에 대한 인식을 규정하며, 지배 권력의 입장을 정당화한다[24].

표 1. 통합체와 계열체 분석

영화와 소설 텍스트를 분석한 채트먼(Chatman)은 서사가 이야기와 담화로 이루어진다고 보았다. 그에 따르면, 서사는 텍스트가 누가, 어떤 내용을, 어떻게 전달하는가에 대한 물음을 체계적으로 답변하는 과정으로 이해된다[25]. 서사를 지닌 모든 콘텐츠는 이야기와 담화 체계로 구성되는데, 이 둘은 누구에 해당하는 '주체' 와 '무엇'에 해당되는 사건으로 이뤄진다는 것이다[26]. 이야기는 다시 통합체'와 계열체' 분석으로 구분된다. 통합체 분석은 이야기 속 인물과 사건이 어떻게 배치되고, 구조화되었는지 그 흐름을 파악한다. 이 분석은 크게 두 가지 원리에 기반하고 있다. 첫째, 서사 구조는 장르에 상관없이 이야기를 만드는 필수적인 기능으로 구성된다는 점이다. 건축물에 보이지 않는 뼈대가 있는 것처럼 야야기 속에도 사건을 나열하는 특정한 구조가 배열되어 있다는 것이다. 둘째, 사건이 발생하는 순서의 중요성이다. 서사 구조를 가진 텍스트에는 특정한 논리가 존재하는데 이야기 속 일관된 패턴이 독자들로 하여금 무엇을 의미하는 지 이해하는 데 영향을 주게 된다는 것이다. 이어 계열체 분석은 인물의 유형, 인물 간 관계에 대한 이항대립을 파악한다. 방법론적으로 볼때, 단순히 긍정과 부정적 관계가 아닌 실질적인 대립 쌍을 추출하는 것이 중요하다. 이때, 인물과 사건 전개가 대립적으로 연결되어 있다는 사실을 이해할 필요가 있다[27].

서사 분석은 텍스트가 생산되고 소비되는 일련의 체계와 맥락, 생산과 소비의 과정으로 볼 수 있다. 또한. 미디어가 재현하는 현실의 구성주의 관점에서 텍스트의 의미화 과정을 파악하고, 생산과 수용의 관계와 이를 통해 재현된 텍스트의 의미와 사회적 관계를 알아보는 데 집중된다[28].

심우진·신동일(2017)의 연구에서는 시사 다큐멘터리의 전형적인 서사구조와 비판의 지점을 확인할 수 있다. 이들 논의에 따르면, MBC의 에서는 영어몰입교육 금지에 따른 현장의 혼란스러운 모습이 재차 등장했다. 이를 통해 학부모와 사립학교 관계자, 영어학원 관계자들이 사안을 악화시키는 주체로 위치하게 된다. 하지만, 연구자는 이 프로그램이 문제해결을 위한 정부의 역할이 조명하지 못함으로써 영어몰입교육의 구조적 모순을 은폐하는 결과를 초랬다고 지적한다[8]. 이 연구는 서사 구조의 이항대립적 특성을 관계자 중심으로 알아보았다는 점에서 차별성을 가진다. 국가 간선의의 경쟁이 펼쳐지는 올림픽과 관련한 미디어 보도에서도 이항대립을 확인할 수 있다. 한승백(2010)은 이규혁 선수와 관련한 올림픽 보도의 서사구조와 이데올로기 특성을 분석했다. 신문의 서사는 대체로 '올림픽 중심주의' 성공과 실패의 이항대립', '승자에 대한 재범주화'로 나타났다. 이러한 결과는 신문 미디어가 재현하는 서사가 국가주의에 기반 한 것으로 올림픽에 출전한 선수들의 승리중심주의를 부각한 것으로 볼수 있다. 연구자는 미디어가 자본주의 이데올로기를 답습함으로써 올림픽 상업주의와 성적 지상주의를 정당화한다고 비판한다[32]. 최현주(2006)의 연구에서는 다큐먼터리 장르에 따라 서사 구조가 다르게 나타날 수 있음이 확인되었다. 그에 따르면, KBS <환경스페셜>과 KBS <추적 60분>은 환경 문제를 다루는 데 있어 논리적 전개 방식, 가치 부여 측면에서 차별화된 특성을 보였다. 전자는 설득적이고 익숙한 소통방식을 택하며, 새만금사업의 '환경적 가치'를 우선시 한 반면, 후자는 갈등에 대한 대안모색을 추구하고, '사회적 가치'와 환경적 가치* 를 중요하게 판단한 것으로 나타났다[16]. 이는 콘텐츠의 이데올로기와 가치는 정형화된 틀이 아닌 제작자의 의도에 따라 유동적으로 변화할 수 있음을 시사한다.

IV. 분석결과

1. 통합체 분석

<소셜딜레마>의 제작 방향은 AI의 윤리적 문제를 공론화 하는 데 있다. AI 기술이 점차 상용화·고도화-전문화되면서 세계 각지에서는 이를 둘러싼 오남용이 발생하고 있다. 방대한 개인 정보를 보유한 기업들은 상업적으로 이용해 막대한 부를 축적했다. 대중들은 특정 알고리즘이 탑재된 미디어를 이용하면서도 상황의 심각성을 인지하지 못하고 있다는 것이 이 다큐멘터리의 핵심 문제의식이다.

때문에 <소셜딜레마)는 AI 기술을 통해 발생할 수있는 윤리적 문제들을 열거하며 사안의 심각성을 알리고 있다. 서사는 크게 '배경-실태-대안'이라는 구조로 나타났다. 화면에는 구글과 페이스북, 유튜브 등 미디어 기업의 개발자와 디자이너, 전현직 CEO 등이 등장한다. 이들은 자신이 속했던 소셜 미디어 기업들이 수익을 거둬들이는 내밀한 구조를 털어놓는다. 소셜 미디어의 운영 형태를 문제시 하는 서사적 흐름은 오프닝부터 선명하게 나타난다.

구체적으로 살펴보면, 영화 속 개발자들은 문제의 심각성을 드러내기 위해 그동안 기업 내외부에서 발생한 피해 사례를 폭로한다. 소셜 미디어에 중독되거나, 편향적인 생각을 갖게 된 사람들, 국제사회로 번진 가짜뉴스 등이 사회적 물의를 일으키고 있다고 지적한다. 문제점을 부각하기 위해 <소셜딜레마>는 개발자들의 목소리를 재차 크로즈업 한다. 이들은 소셜 미디어 기업들이 처음부터 이러한 현상을 예견하지 못했다고 인정하면서도, 그 피해는 세대와 지역, 계층에 구분 없이 확산되고 있다고 지적한다. 화면 속에는 이념적으로 편향된 시민들의 시위 현장, 재판을 받고 있는 기업인들이 등장한다. 영화의 이 같은 서사 구조는 AI의 비윤리적 문제를 실체적 진실로 규정하고, 문제 해결을 위한 사회적 책임을 강조한 것으로 모아지고 있다. 개괄적인 구조를 도식화하면 아래 [표 2]와 같다.

표 2. <소셜델리마?에 대한 통합체 분석 도식화

1.1 배경 : Al 비윤리성 극대화

IT 기업에서 일한 전직 개발자들은 AI 관련 기술을 활용한 기업들이 늘었지만 기업의 비윤리적 행위도 확산되고 있다고 비판한다. 영화는 개발자들의 "이런 결과를 의도한 사람은 정말 아무도 없을 거예요", '간단하게 말하기 힘드네요" 같은 답변을 보여주며 시청자들로 하여금 문제의 심각성과 호기심을 자극한다. 눈여겨 볼점은 콘텐츠의 핵심 주장을 강화하기 위해 전문가 발언이 재차 등장한다는 것이다. <소셜딜레마>의 주요 정보원은 구글과 페이스북, 트위터 등에서 일한 전직 IT개발자들이다. 대부분 기업의 윤리적 문제로 퇴사를 결정했다. 하지만, 서두에서 말한 윤리적 문제는 명확하게 규정하지 않는다. "주변을 돌아보면 세상이 미쳐 돌아가는 것 같아요"라는 답변이 말해주는 것처럼, 소셜 미디어에 심각한 문제가 있음을 상기시키고 있다. 이어, 화면에는 AI의 기술적 결함과 전문적 지식 대신 이들의 웃음과 허탈함이 나타난다. 이 과정에서 개발자들의 전문 용어와 AI의 핵심 기술은 드러나지 않는다. 대신, 개인들이 마주하는 사회적 문제를 '윤리'와 '도덕'이라는 관점으로 치환해 이를 공론화하고 있다. 이러한 서사구조는 전직 IT 개발자라는 전문가에 의한 현실 진단과문제의 심각성을 강조한 것으로 분석할 수 있다.

이어, <소셜딜레마>는 기업의 비윤리적 행위를 부각함으로써 명확한 선악 구도를 그리고 있다. AI의 상업적 이익을 매개로 가해자와 피해자가 발생하고 있다는 사실을 드러낸다. 하루에도 셀 수 없이 방대한 데이터가 생산되고 있는 소셜 미디어에서 이득을 보는 집단은기업과 광고주들이다. 페이스북과 트위터, 유튜브에 글을 쓰고 영상을 올리는 이용자들은 기업의 상품'에 불과하다는 것이 개발자들의 공통된 주장이다.

그중 "상품의 대가를 치르지 않으면 네가 상품이다" 이라는 텍스트는 크게 두 가지 시각에서 해석해볼 수 있다. 첫째, 소셜 미디어는 철저히 이윤 추구가 목적이라는 점이다. 소셜 미디어를 둘러싼 논쟁은 '누가 이익을 보는가'라는 관점에서 볼 때, 더욱 선명하게 드러난다. 이용자들은 이메일과 문자, 동영상 보내기 등의 서비스를 무료로 이용한다고 생각하지만, 이익을 거두는 집단은 결국 미디어 기업들이다. 소셜 미디어는 이용자 성향과 지역, 소비 수준 같이 여러 개인 정보를 활용해 그에 알맞은 광고를 노출시켜 기업으로부터 이익을 얻는다. 이러한 진단을 통해 <소셜딜레마>는 개인이 어떠한 혜택을 누릴 수 없는 존재로 위치시키게 된다. 둘째, 소셜 미디어는 그 자체로 사회적 문제를 양산한다는 점이다. 인간은 소셜 미디어를 통해 다른 사람과 교류를 맺고, 나 자신을 알림으로써 자긍심, 정체성을 확립하지만 <소셜딜레마>는 이것이 상품에 불과하다고 진단한다. 온전히 '나'라는 존재는 있을 수 없으며, 알고리즘에 의해 가공된 이미지만 남게 된다는 것이다. 특히, 알고리즘은 개인의 편향성을 극대화시켜 진실과 거짓을 분별할 수 없게 만들게 되는데, 이에 동조하는 사람들 때문에 사회를 더욱 불안해진다고 경고한다.

문제는 <소셜딜레마>가 AI의 비윤리성을 지적하면서도 인간의 정체성은 비교적 외면하고 있다는 점이다. 기술의 활용은 인간이 가진 고유한 능력이지만, 문제를 진단하는 과정에서는 그러한 모습이 나타나지 않았다. 그 결과, 인간은 AI에 종속된 불안한 존재로 남게 되었다. 도구가 수단을 넘어 인간의 정체성을 장악함으로써 이에 대한 문제의 심각성을 재차 발화하는 서사 구조를 보이는 것이다.

<소셜 딜레마>는 동일한 방식과 내용으로 인물을 배치하고, 각 인물을 선과 악이라는 이항대립을 통해 메시지를 전달하고 있다. AI 기술을 오남용과 부작용이라는 의미로 비유하며 이를 끊임없이 문제제기하는 경향이 확인되었다. <소셜딜레마>의 출연진(프로그래머)은 오프닝 시점에서 장기간 자신들의 목소리를 드러내는데, 이는 전문적인 식견으로 포장되지 않는다. 이들의 상황은 AI 기술을 개발하는 전문가이면서도 또 다른 피해자로 둔갑되었다. 이와 같이 <소셜딜레마>는 AI·기술의 부작용과 현재 벌어지는 상황의 심각성을 강조하는데 집중하고 있다.

1.2 <소셜 딜레마>의 이데올로기

1.2.1 AI의 기술결정론

<소셜딜레마>는 소셜 미디어의 알고리즘이 사람들로 하여금 사회적 관계를 형성하는 대신 중독성을 높인다고 주장한다. 미디어를 이용하는 과정에서 사람들은 알고리즘에 의해 특정 콘텐츠를 지속적으로 이용하고 댓글과 좋아요를 받지 못하면 불안함을 느끼게 된다. 미디어의 이러한 속성은 사람들에게 중독성을 불러일으키게 되고 만족하지 않은 개인은 소외를 느끼게 된다.

<소셜딜레마>는 이러한 특징을 기술결정론 시각으로 설명한다. 인간은 본질적으로 혼자 생활할 수 없다. 누군가에 의해 인정을 받고 관계를 맺으며 '나'라는 존재를 알리게 된다. 문제는 사람과의 접촉이 아닌 어떠한 기술과 도구에 의존할 경우, 개인은 자신의 정체성을 잃어버릴 수 있다는 점이다. <소셜딜레마>는 이를 정당화하기 위해 크게 두 가지 서사 구조를 보였다. 첫째, 기술을 쫓는 인간의 자화상이다. 과거에 인간은 물리적 실체가 있는 공간에서 관계를 맺었다면, 점차 기술이 점차 발달하면서 인터넷과 스마트폰에 대한 편중 현상이 크게 늘어났다. 출연자들이 "소셜 미디어는 사용되길 기다리는 도구가 아닙니다"라는 말이 지적한 것처럼 인간은 끊임없이 첨단 기술을 선호하게 되었다. 습관적으로 확인하는 이메일도 그중 하나다. 개발자들은 자신이 만든 이메일을 확인하고, 이를 통해 업무를 수행한다. 하지만, 이들은 이메일에 중독되고 있다는 사실을 인정하면서도 마땅히 대안이 없다는 사실을 토로한다. 흥미로운 사실은 "막후에서 무슨 일이 일어나도 잘 알면서도 자신을 컨트롤 하지 못했다는 거예요"라고 답한 전직 개발자의 상황 판단이다. 의지로 스마트 폰을 사용하지 않겠다고 다짐했지만 흥미로운 정보를 찾기 위해 이메일과 소셜 미디어를 확인할 수밖에 없음을 밝힌다.

둘째, 인간의 소외 현상이다. 사람들은 오프라인에서 겪었던 대인관계가 어려움을 대체하기 위해 SNS를 활용하는 경향이 많다. 이를 활용해 보상을 추구하고, 더 깊은 관계를 맺으며, 자아 존증감을 찾게 된다[29]. 하지만, 역설적으로 소셜 미디어의 사용은 인간에게 또다른 소외와 불안을 안겨주었다. <소셜딜레마>는 이를 증명하기위해 통계 수치를 보여준다. 2011년부터 2년동안 미국 10대 소녀 중 10만 명이 매년 자해(自害)로병원에 입원했다는 자료다. 다큐멘터리에서는 이들의 수가 2013년 189%(약 3배) 급상승했다는 사실도 덧붙 인다. 이어, 10대 후반인 15세, 19세 소녀들의 자살률은 2000년에서 2010년까지 70% 상승했다고 한다. 이러한 패턴은 소셜 미디어가 주요한 원인이 되었다는 것이 영화 속 개발자의 설명이다. 이어, <소셜딜레마>는 1996년 이후 태생한 Z세대의 모바일 이용은 다른 어떤 세대보다 빠르게 진화하고 있다는 통계자료를 재차 선보인다. 이를 통해 미디어에 과하게 의존한 어린 아이들이 심리적 불안감과 신체적 상해 등을 입을 수 있다는 결론을 드러내고 있다.

<소셜딜레마>는 전문 자료를 활용함으로써 문제를 공론화하고 객관적인 의미를 부여하고 있다. 다큐멘터리의 문제화는 소셜 미디어 그 자체에 대한 비판과 이를 활용하는 개인에 대한 경각심을 강조한 것으로 볼 수 있다. 이러한 서사는 인간의 정체성이 기술에 종속됨으로써 소외를 가속화한다는 의미를 부여한다.

1.2.2 AI의 불공정성

인공지능 기술이 사회 각 분야에서 활용되면서 알고리즘의 편향성이 수면 위로 떠올랐다. 편향성은 소셜미디어가 알고리즘에 의해 사람들이 보고 싶거나 흥미를 끌만한 정보를 끊임없이 공급한다는 점에서 문제가 된다. 그 결과, 개인은 본인이 얻은 정보가 사회적 여론'으로 착각해 불안함을 갖게 된다. 때문에 <소셜딜레마>는 알고리즘이 인간의 생각을 잠식하고 자율성을 침해한다고 지적한다. 문제는 편향성이 개인에 그치지 않고 전 사회적으로 확산되고 있다는 점이다.

다큐멘터리는 문제적 상황을 지적하기 위해 AI의 불공정'이라는 이데올로기를 드러냈다. "당신은 당신에 대해 모든 것을 아는 인공지능과 맞서고 있다는 겁니다" "기술은 인간의 약점을 압도하기 시작했습니다" 라는 출연자의 지적처럼 알고리즘이 인간의 정신과 의사결정, 심리 상태를 주도하고 있다고 비판한다. 그 예로, 위키피디아와 구글 사례를 들었다. <소셜딜레마>는 개인의 직업과 거주지, 장소에 따라 검색어 '기후변화'의 정의가 다르다고 지적한다. 이용자가 'Climate change is'를 검색하면 알고리즘이 이용자의 성향을 파악해 'Climate change is a hoax' 'Climate change is real' 등의 문장 순서를 다르게 보여준다는 것이다. 기후변화에 대한 진실과 정의가 이용자 검색 장소와 취향에 따라 달라질 수 있음을 의미한다. <소셜딜레마)는이 같은 사례를 들어 개인이 특정 정보만을 편식해 대상에 대한 입체적인 정보를 얻을 수 없다고 비판하고 있다. AI가 정확성·공정성을 높여줄 것이라는 신화를 허물고 인간사회의 또 다른 균열을 내고 있음을 설명하는 것이다.

문제는 여기서 그치지 않는다. 소셜 미디어에 의존하는 개인은 사회적 혼란을 야기할 수 있다고 비판한다. 이를 논증하기 위해 다큐멘터리에서는 '중독-분극화-급진화'라는 위계적 담론이 나타났다. 즉, 소셜 미디어에 중독된 사람들이 정치적 편향성을 갖게 되고, 이후 가짜뉴스를 전파해 사회적 혼란을 야기할 수 있다는 사례를 거론한다. 이어, 급진화를 촉진하는 분극화를 설명하기 위해 미국의 한 설문조사를 인용한다. 지난 20년을 통틀어 개인적 정치적으로 가장 분극화된 시대를 맞았다는 것인데, "트위터에서 가짜뉴스가 진짜뉴스보다 6 배 빨리 퍼집니다"라는 자막을 통해 알고리즘의 편향성을 지적한다. 평평한 지구 음모론은 소셜 미디어에서 수억 번이나 추천"했다는 출연자의 주장도 그 연장선에 있다. 편향된 정보를 믿게 된 사람들은 그 정보를 공유하고, 사회적 음모론을 확산시킨다는 것이다.

AI의 편향성을 지적하는 근본적인 문제 제기는 과학기술이 결코 공정하지 않다는 데 있다. 사람들은 AI기술을 활용해 삶의 질이 개선되고, 보다 공정한 사회가 될 것이라는 기대가 있지만, 이는 역설적으로, 편향된 정보만을 취급하는 인간이 더욱 파편화된 개인으로 남게 된다는 결론에 다다르게 된다. 한 개발자는 "우리는 객관적이고 건설적인 개인이 아니라는 의미"라고 말하는데, 이는 개인이 과학기술보다 발달할 수 없는 존재이기에 미디어에 의존하는 것은 사회적 고립과 편견에 주입될 수 있음을 설명한다. 이 과정에서 인간의 정체성은 기술에 의존하는 존재로 그려지고 있다. <소셜딜레마>의 이러한 서사 구조는 AI와 대비되는 인간의 성숙되지 못한 모습을 우회적으로 비판하는 것으로 볼 수 있다.

1.2.3 위기의 확산

<소셜딜레마>의 또 다른 서사 구조는 AI 기술의 비민주성을 드러내는 것이다. 다큐멘터리에서 기술은 사회적 혼란을 야기하고, 인권을 억압하는 상황으로 묘사된다. 거대 미디어 기업에 정보를 의존하는 국가에서는 손쉽게 민주주의가 박탈한다고 경고하는 내용들이다. 시민들은 스스로 이러한 상황에 포섭되면서 아무런 대안을 갖지 못하고 있다는 것이 <소셜딜레마>에서 여실히 드러났다.

"페이스북의 문제 중 하나는 역사상 최고의 설득 도구", 국민들을 통제하는 것에 페이스북만큼 효과적인 도구가 없습니다"라는 텍스트는 소셜 미디어의 문제적 상황을 압축적으로 드러내고 있다. <소셜딜레마)는 독재나 권위주의 국가에서의 소셜 미디어 활용을 매우 위험하다고 지적한다. 정보 유통이 원활하지 않는 나라에서 소셜 미디어는 특정 정치 세력에 의해 장악될 수 있다고 보고 있다. '미얀마 사태'가 대표적이다. 미얀마인들은 인터넷이라고 하면 페이스북을 가장 많이 떠올린다고 한다. 사람들이 휴대폰을 살 때, 페이스북이 가장 먼저 설치되고, 활용된다는 것이 <소셜딜레마>의 설명 이다. 문제는 조작된 정보들이 페이스북을 통해 폭포수처럼 흘려가면서 사람들이 쉽게 선동적인 행동을 보인다는 점이다. 실제로, 미얀마에서는 군(軍)을 중심으로 로힝야족을 상대로 학살과 강간, 약탈 행위가 무분별하게 벌어졌다. 상황이 악화되면서 60만 명이 넘는 로힝야 족들이 국외로 도피하는 일이 발생하기도 했다. 갈등의 지속은 소셜 미디어를 통해 확산되는 증오 발언과 무관하지 않다. <소셜딜레마)는 문제의 책임이 페이스북에 있다고 지적한다. 가짜뉴스를 손쉽게 만들어 유포하고, 특정한 행동을 가능케 한 연결고리는 소셜 미디어가 핵심적인 역할을 했다는 것이다. 이는 소셜 미디어가 인간의 사회적 관계를 증대시킬 것이라는 우려와 달리, 권위주의 정권 아래에서 독재를 정당화하고 비민주주의를 확산시키는 존재로 부각되고 있음을 보여준다.

가짜뉴스가 한 사회의 민주주의를 파괴한다는 주장은 권위주의 정권에서만 벌어지지 않는다. <소셜딜레마>는 미국에서도 코로나19 방역을 둘러싼 가짜뉴스가 확산되면서 여기에 동조하는 특정 정치 세력이 문제를 부풀리고 있다고 지적한다. 홍콩에서도 정치적 분열이 가속되고 있음을 상기시킨다. 다큐멘터리는 세계 곳곳에서 벌어지는 시위 모습을 보여주는데, 화면 속에는 진실'과 '음모'라는 자막을 강조한다. 진실을 의심해" 모든 게 음로론 이고요" 라는 자막은 진실과 거짓이 혼동되고 있는 국제사회의 한 단면을 보여주고 있다.

<소셜딜레마>는 AI 기술이 확산되면서 결국 한 사회의 정치 시스템인 민주주의가 무너진다고 주장한다. 민주주의가 금세 무너집니다. 6개월만이에요"라는 전문가의 발언을 통해 AI 기술에 의해 한 사회가 혼란에 빠뜨릴 수 있음을 경고한다. 하지만, 민주주의의 위협을 거론하면서도 <소셜딜레마>는 이 과정에서 제기되어야 할 정부와 개인의 역할에 대해선 외면하는 모습을 보이고 있다. 철저히 진실과 거짓, 좌와 우, 선함과 악이라는 이분법적 구도를 드러내며 문제의 심각성을 강조하는 모습이다. 또 다른 등장인물 10대 청소년 벤은 영상을 보다가 폭력 시위에 참가했고, 이후에 경찰에 붙잡히게 된다. AI 기술이 선전과 포풀리즘으로 이용될 경우, 위험은 개인뿐만 아니라 사회 전체적으로 확산될 수 있다는 것이 <소셜딜레마)를 통해 드러났다. 각자 진실이라고 믿는 순간, 타자를 배제하게 되고, 인간의 정체성은 '나와 다른 너'라는 이분법적 사고에 빠지게 된다. 이러한 서사적 흐름은 인류가 쌓아온 민주주의와 국가의 통치 기획이 AI 기술에 의해 무너질 수 있다는 위기의식을 극대화한 것으로 볼 수 있다.

1.3 대안. I 기업 규제와 이용 중단

<소셜딜레마>는 소셜 미디어의 방대한 데이터 축척과 이를 활용한 이용자들의 수가 급격히 증가하면서 그 피해도 커질 수 있다고 경고한다. 영화가 제시한 해법은 크게 두 가지다. 소셜 미디어에 대한 강력한 규제와 재정적 압박, 개인의 절제 등이다.

우선, <소셜딜레마>는 '규제', 법안'이라는 자막과 함께 소셜 미디어에 대한 강력한 통제가 필요하다고 주장한다. '디지털 프라이버시'digital privacy) 법안이 그중 하나다. 오늘날 미디어 기업들은 IT 기술을 활용해 대량의 개인 정보를 보유하고 있다. 기업들은 개인정보로 또 다른 이윤을 창출한다. 문제는 개인도 모르는 사이 제3자에게 자신의 정보가 흘러가 상업적으로 이용된다는 데 있다. 페이스북과 구글, 트위터 등에서 노출되는 광고는 개인 의사와 무관하게 행해진 일이다 <소셜딜레마>는 미디어 기업들이 개인의 사적 정보를 활용해 막대한 인센티브를 추구하고 있다고 보고 강력한 규제를 강조한다. 영화 속 개발자들은 "데이터 수집과 처리에 세금을 먹일 수도 있어요. 지구상 모든 데이터를 수집하지 말아야 할 재정적인 이유가 생기는 거예요"라고 답한다. 미디어 기업의 자율성을 억제함으로써 개인정보 수집을 통제하고, 프라이버시를 지켜야한다는 주장이다. 다큐멘터리에서는 기업에 대한 전향적인 변화와 혁신을 요구한다. 여기서 변화란 미디어 기업의 사회적 책임을 강조하려는 것으로 볼 수 있다. "우리는 인간적으로 상품들을 디자인하라고 요구할 수 있습니다" "우리를 채취 가능한 자원으로 취급하지 말아야하죠"라고 하는데, 이들은 모두 개인 정보를 활용해 막대한 수익을 거둬들이는 기업을 비판하고 있다.

이와 함께, 이용자들의 행동 변화를 촉구했다. 영화는 많은 사람들이 본인의 값진 시간에 관심을 두기보다 컴퓨터와 스마트폰에 집중하는 현상에 대해 비판의 목소리를 냈다. 미디어 기업들은 개인의 관심과 흥미를 끌 수 있는 정보만 제공하고 있을 뿐 정작 이용자들에게 필요한 지식과 문화적 향유를 제공하는 데 인색하다는 이유를 들었다. 때문에 개발자들은 소외와 불안, 분극화, 포퓰리즘과 같이 소셜 미디어의 부작용을 거론하며 이를 활용하는 개인의 행태를 문제시한다. <소셜딜레마>는 미디어 기술을 긍정적으로 보는 사회적 환경과 분위기에 대해서도 날을 세웠다. "거대한 쇼핑몰 같은 느낌이에요" 같은 텍스트는 소셜 미디어를 부정적으로 인식하지 않는 현재 상황을 꼬집은 것이다. <소셜딜레마>는 과학 기술이 인간의 진보와 사회적 풍요로움을 줄 것이라는 기대와 달리, 사회적 문제를 양산하고 있지만 정작 사회는 이를 심각하게 받아들이지 않고 있다는 사실을 우회적으로 비판하고 있다.

2.1 계열체 분석

계열체 분석은 다큐멘터리 속 서사가 무엇에 관한 것인지 밝히는 작업으로 볼수 있다. 이때, 서사를 이끄는 등장인물은 누구인지, 그들 간 관계는 어떠한 지 알아보는 것이 중요하다. 이 속에서 관계의 이항대립을 주목할 필요가 있는데 <소셜딜레마>에서는 미디어와 광고주, 기업인 간 대립 구도가 선명하게 나타났다. 구체적으로 살펴보면, 핵심 등장인물은 구글과 페이스북, 트위터 등에서 일한 전직 개발자와 이들 기업의 CEO, 광고주, 이용자 등이다. 미디어와 광고주는 인공지능 기술에 힘입어 막대한 데이터를 축적하고, 이를 활용해 부를 창출하는 존재로 그려지고 있다. 개발자들은 철저히 비윤리 행위를 저지른 기업에 반기를 드는 인물로 묘사되었다. 반면, 이용자들은 재차 '피해자'로 그려지고 있다. 이용자들은 자아 정체성과 무관하게 소셜 미디어에 의해 통제받는 인간으로 남게 되어 기업의 비윤리 행위에 대한 고발과 비판의 목소리를 내는 존재로 활용되고있는 것이다.

<소셜딜레마>에서는 등장인물을 중심으로 자본의 논리가 확대·재생산되고 있음을 알 수 있다. 또 피해자와 가해자라는 대립구도 아래 인간의 정체성이 약화되고, 미디어의 위험과 부작용을 문제시하는 서사 구조가 확인된다.

표 3. <소셜딜레마>에 대한 통합체 분석 도식화

작품에서는 소셜 미디어 이용이 선과 악이라는 이분법적 대립구도로 그려지고 있다. 다큐멘터리는 네트워크 기술 발달로, 인간은 초연결 시대를 맞았지만, 역설적으로 소외와 불안. 포풀리즘에 직면했다고 비판한다.

때문에, 소셜 미디어와 기업인, 광고주의 이윤 추구는 인간을 더욱 피폐하게 만들었으며 문제해결은 쉽지 않다는 결론에 다다르게 된다. 우선, 소외와 자본이라는 이항대립은 미디어 이용을 둘러싼 피해와 이익으로 볼 수 있다. 이용자들은 페이스북을 활용해 사람들과 관계를 맺고, 좋아요'를 누르면서 자신의 소속감과 정체성을 확립한다. 하지만, 사람들로부터 관심이 언제, 어떻게 받을지 모르는 심리적 불안함은 이용자들에게 예기치 못한 소외 현상을 불러일으키게 된다. 이 과정에서 광고주들은 이용자들의 심리 상태와 경험, 접속 장소 등을 파악해 적절한 타이밍에 광고를 삽입한다. 극중에는 소셜 미디어를 이용하는 이용자들의 평범한 삶이 나타난다. 하지만, 메시지가 도착했다는 모바일 알림이 뜨자 수업에 집중하지 못하는 학생, 부모님의 통제에도 불구하고 식사 도중 소셜 미디어를 확인하는 여자 아이의 모습에서 중독과 불안의 이미지를 읽을 수 있다. 이용자들의 패턴을 꿰뚫고 있는 광고주들은 시시 때때로 관련 영상과 글, 사진을 보여준다. 어떤 광고를 삽입할지 망설이는 이들의 입과 얼굴에는 웃음기가 드러난다. 하지만, 단순히 이용자가 좋아하는 콘텐츠를 추천하지 않는다. 이용자가 이를 뿌리치면 새로운 콘텐츠가 흥미와 호기심 관심을 유발하게 된다. 모든 장소와 시간에는 소셜 미디어가 제공하는 콘텐츠가 난립하면서 사람들은 불안함을 가지는 것이다.

이 같은 이항대립적 특성은 전직 개발자의 설명을 통해 확연히 드러난다. 이들은 기술과 현존하는 미디어에 대해 반감과 거부감을 드러낸다. "사람들은 모르고 있어요. 인공지능이 이미 세계를 지배하고 있다는 걸요", "인공지능이란 말은 비유일 뿐입니다" 등의 메시지는 크게 두 가지 관점에서 해석해 볼 수 있다. 첫째, AI 기술의 우월성이다. 개발자들은 AI 기술이 이미 전 세계를 지배하고 있다고 믿는다. 인간의 풍요로운 삶을 줄 것이라는 기대와 달리 과학기술은 포퓰리즘과 가짜뉴스를 생산하는 주범이 되고 있다. 앞서 살펴보았듯, 대규모 학살과 인권 유린 등은 모두 미디어 기술에 의한조작 정보가 핵심적인 역할을 했다. 때문에, 개발자들은 AI 기술에 반기를 들며, 이에 대한 명확한 통제가 필요하다고 주장한다. 둘째, 인간 정체성의 악화다. 인간은 AI 기술을 통제할 역량과 능력이 현재로선 부족하다. 소셜 미디어를 통해 양산된 사회적 문제를 해결하기 위해선 규제가 필요하다는 주장으로 이어진다. <소셜딜레마>는 사고와 관계를 맺는 인간을 그리기보다 문제적 존재로 위치시키면서 현 상황을 고발하고 있다. 국가기관을 향해 선동적인 행동을 보이거나 체제를 전복하려는 개인들이 화면을 채웠다. 소셜 미디어를 통해 사람들과 관계를 맺거나 경제적 부를 창출하는 모습은 찾아볼 수 없었다. 이러한 이항대립은 <소셜딜레마>가 문제해결을 위한 명확한 대안 제시보다 소셜 미디어를 둘러싼 이익을 놓고 이용자와 기업 간의 철저한 대립의 장으로 이끌고 있음을 보여준다.

V. 연구함의 및 한계

1. 요약 및 논의

본 연구는 넷플릭스의 <소셜딜레마>가 재현하는 AI 기술의 현재성과 윤리적 문제를 진단하고 대안적 시각을 모색하기 위해 진행되었다. 글로벌 콘텐츠를 분석하는 작업은 AI 기술을 둘러싼 사람들의 관심사와 방향성, 그리고 사회적 문제에 대한 대응을 파악할 수 있다는 점에서 의미 있는 시도로 판단된다.

분석결과를 통해 도출한 연구 시사점은 크게 두가지다. 첫째, <소셜 딜레마>는 AI 윤리 문제를 지적하기 위해 전문가와 객관적인 자료를 강조하는 서사 구조를 보였다. 다큐멘터리는 오프닝부터 줄곧 페이스북과 트위터, 구글 등에서 일한 전직 개발자의 목소리를 들려주었다. 이들의 입에서는 AI 기술을 활용해 이윤을 극대화하는 소셜 미디어와 기업인, 광고주들의 행태를 고발하는 모습이 전해진다. 막대한 정보를 취득한 기업들은 광고주들에게 이용자의 활동 패턴을 알려준다. 이러한 순환 구조에 의해 이용자들은 광고주의 상품에 불과하고, 이 문제가 점차 확산되고 있다는 것이 개발자들의 설명을 통해 전해진다. <소셜딜레마>는 이 과정에서 통계자료와 미얀마 학살 사건, 가짜뉴스 전파 등 국내외 사례 등을 열거하며 자신들의 주장을 정당화하는 서사구조를 보였다. 소셜 미디어 속 다양한 현상들을 문제시함으로써 AI 기술의 윤리성을 부각했다. 이는 <소셜딜레마>가 일반인이 쉽게 비판할 수 없는 전문가들의 경험과 지식을 통해 구현되고 있음을 설명한다. 이 같은 서사 구조는 아래로부터 발생하는 AI 윤리의 공론화의 필요성을 제기한다.

둘째, 다큐멘터리는 인간의 정체성을 강화하기 위한 노력이 부족했다는 점을 들 수 있다. AI 기술이 활성화되면서 인간은 과거와 달리 초연결 시대를 맞고 있다. <소셜딜레마> 속 등장인물인 벤은 수시로 페이스북의 좋아요'와 댓글을 확인하며, 사람들과 관계를 형성한다. 인간은 과학 기술을 활용해 언제·어디서든 새로운 정보를 취득하고 이를 자정하는 능력을 갖고 있다. 하지만, 다큐멘터리 속 사람들은 철저히 기업과 광고주에 종속된 것으로 그려졌다. 개인은 기업들이 제공하는 파편화된 정보만 취득하게 되었는데, 이는 사회적으로 분란과 선동으로 이어질 수 있다는 것이 개발자들의 공통된 견해였다. 하지만, 그런 만큼 인간은 '정체성 강화'라는 대의명분을 소홀히 할 수 없는 상황이 되었다. 미디어의 이해관계와 득실을 따지기보다 인간이 본래 가지고 있는 사회성과 관계성, 학습 능력을 끌려 올려야 함과 동시에 AI 기술을 능동적으로 활용해야 한다는 것이다.

이를 종합할 때 <소셜딜레마>의 서사 구조는 전문가를 활용한 객관화, 무비판적 수용 등을 띄고 있었으며, 이는 기술 결정론적 시각에 따라 인간 정체성이 약화되고 있다는 사실을 부각하는 것으로 볼 수 있다. 개발자와 미디어 기업, 이용자와 광고주 사이의 철저한 이항 대립이 나타났으며, 문제를 해결하기 위한 해법은 기업에 대한 강력한 규제로 모아졌다. 그 사이 인간의 정체성을 강화하기 위한 사회적 논의와 함의는 비교적 외면받는 모습이었다.

코로나19(COVID-19)로 인해 비대면 산업이 주목받으면서, AI 기술에 대한 의존도가 높아지고 있다. 콘텐츠 추천 시스템을 비롯해 메일링 서비스, 뉴스 알림같이 AI 기반의 서비스는 일상의 편의성을 도모하는 상황 이다[2]. 하지만, 해당 기술들이 인간의 사회성을 얼마나 증진시켜주는 지는 또 다른 문제다. 기술의 실용성만큼 가짜뉴스 확산과 알고리즘 편향성을 가볍게 볼 수 없다. 이러한 문제적 상황을 진단하고 합리적인 대안을 찾는 것은 오늘날 우리 사회가 직면한 과제라고 할 수 있다. 콘텐츠 시장에서는 이를 반영한 다양한 목소리와 담론의 구성이 절실하게 필요해지고 있다. <소셜딜레마>의 윤리와 인간의 정체성 과제를 파악한 이 연구는 그 출발점이라 하겠다.

2. 시사점 및 한계

AI 관련 콘텐츠는 그동안 윤리와 인간의 사회성 영역보다는 주로, SF 서사 장르를 통해 구현되었다. 작품 안에서 AI 캐릭터와 이를 둘러싼 세계관들은 대부분 허황되거나 기괴하게 그려졌다[22]. 하지만, 기술발전에 따라 AI 윤리가 공론화되고 있는 상황을 고려할 때, <소셜딜레마>를 분석한 본 연구는 콘텐츠 제작에 중요한 의미를 가진다. <소셜딜레마> 분석을 통해 본 연구는 인간의 사회성과 정체성을 강화하기 위한 콘텐츠 생산이 중요하다는 점을 시사한다.

나아가, 과도한 기술 결정론적 시각에서 벗어나 인간이 능동적으로 이를 활용하고, 새로운 부가가치와 사회성을 확립하는 담론의 필요성을 확인했다.

최근 AI를 활용한 콘텐츠가 다수 제작되고 있다. 이러한 경향 속에서 AI는 그 자체로 콘텐츠 시장의 중요한 개념 중 하나로 부상하고 있다. 이와 함께 AI 콘텐츠를 둘러싼 다양한 이해관계자와 문제점을 파악하는 시도는 지속적으로 필요하다. 본 연구의 한계점과 제언은 다음과 같다. 서사 구조라는 방법론적 특성상 영상의 미학적 부분을 소홀하게 다루었는데, 향후 연구에서는 AI를 활용한 콘텐츠의 다양한 요소들이 수용자들에게 어떠한 인식 변화를 주고 있는 지 알아본다면 의미 있는 결과가 나올 것으로 기대된다.