[김은영의 영상 뽀개기] 알고리즘에 윤리를 더하라, ‘소셜딜레마’
[김은영의 영상 뽀개기] 알고리즘에 윤리를 더하라, ‘소셜딜레마’
  • 김은영 이화여대 커뮤니케이션미디어연구소 연구위원
  • 승인 2021.01.23 16:24
  • 수정 2021-01-23 16:25
  • 댓글 0
이 기사를 공유합니다

넷플릭스 다큐 영화 ‘소셜딜레마’

 

ⓒ넷플릭스 ‘소셜딜레마’
‘소셜딜레마’. ⓒ넷플릭스  

‘퍼거슨 의문의 1승’. 소셜미디어(SNS)를 잘못 사용해 사회적 물의나 논란을 일으킨 유명인들(특히 스포츠 선수)의 온라인 기사에 종종 달리는 댓글이다. 과거 맨체스터 유나이티드 알렉스 퍼거슨 감독의 명언인 ‘SNS는 인생의 낭비’에서 연유한 네티즌들의 유쾌한 댓글 놀이의 일부이다. 소셜미디어 사용에 대한 다양한 경고가 이어지지만, 대다수 사람들은 소셜미디어의 세계에 접속해 자신의 삶을 기꺼이 공유하고 재미를 찾아 나서는 소통과 놀이의 공간이다. 근사한 장소, 먹음직스런 음식, 누군가와의 만남은 사진과 글로 기록되고 추억이 공유되는 곳이며, 잠자리에 들기 전 유튜브 추천 영상을 따라가다 보면 어느새 새벽이라 소스라치게 놀라게 만드는 재미난 것이 넘치는 공간이다.

IT 관계자의 내부고발이자 고해성사

누군가에는 쓸모없이 시간을 버리는 일들로 보이지만, 대부분의 사람들에게 소셜 미디어는 세상과 소통하는 도구를 넘어 우리의 일상과 뗄 수 없는 공기와 같은 존재가 되었다. 흥미로운 점은 많은 사람들이 스마트폰 중독을 걱정하면서 소셜미디어에 로그인하는 자신을 발견하는 아이러니를 자주 겪게 된다는 것이다. 무엇에 홀린 것처럼 소셜미디어에 접속하고 많은 시간을 보내며 의존하는 인간의 미래는 유토피아가 될 것인가, 아니면 디스토피아가 될 것인가? 넷플릭스의 오리지널 다큐멘터리인 ‘소셜딜레마’는 명확하게 디스토피아가 될 것이라 경고한다. 이용자들의 노력이 없다면 말이다. 이에 ‘소셜딜레마’는 구글, 페이스북, 인스타그램, 트위터, 핀터레스트 등 실리콘밸리의 유명 소셜미디어 기업의 창업자와 엔지니어의 입을 통해 소셜미디어의 이면을 소개하고 이것이 초래한 위험을 경고한다.

이들의 주장은 명확하다. 소셜미디어 기업들은 수익 창출을 위해 이용자들의 데이터를 수집하고 분석, 예측하고, 이를 토대로 광고주가 원하는 만큼 소셜미디어 세계에 체류하는 시간을 늘리기 위해 이용자가 관심을 가질만한 영상과 정보를 끊임없이 제공한다는 것이다. 우리는 수많은 개발자와 슈퍼컴퓨터가 고안한 알고리즘이 이끄는 대로 행동하도록 조종된 데이터로 존재할 뿐이다. 마치 타인에 의해 설계된 세상에서 아무것도 모른 체 평온한 삶을 살아가던 영화 ‘트루먼쇼’의 트루먼처럼. 영화 속 주인공은 짜여진 각본을 모른 체 살았다면 평온한 삶을 보냈겠지만, 현실 속의 우리들은 결코 그렇지 않다. 가짜 뉴스가 범람하고 편향된 정보 습득으로 민주주의는 위기에 처했으며, 자존감에 상처 입은 10대 청소년들의 자살률이 높아지는 문제에 직면하게 됐다.  

‘소셜딜레마’. ⓒ넷플릭스  
‘소셜딜레마’. ⓒ넷플릭스  

“추천 영상 클릭 말고 알림은 꺼라”

스마트폰 중독을 경고하는 수많은 이들과 달리, 다큐멘터리의 메시지가 신뢰를 얻는 방법은 출연진에 있다. 앞서 언급했듯 유수의 IT기업에서 일했던 이들이 자신들의 경험담과 의견을 조목조목 설명하고 있기 때문이다. IT기업, 소셜미디어 기업 관계자들이 소셜미디어 이용자에게 행하는 고해성사이자 내부고발이라는 점이 기술 이면의 어두운 면을 전달하는 내용에 신뢰를 더한다. 또한 ‘소셜딜레마’가 주장하는 소셜미디어의 폐해는 10대 청소년 자살률 통계를 통해, 그리고 민주주의에 위기를 가져오는 가짜 뉴스와 정보의 편향적인 습득의 무서운 결과는 실제 사건을 보도한 방송 뉴스 화면 제시를 통해 현실감을 확보한다. 무엇보다 흥미를 더하는 것은 다큐멘터리에 드라마적 연출을 결합한 것이다. 청소년의 자살률 급증, 편향된 정보와 가짜 뉴스가 촉발하는 분극성에 의한 민주주의 위기를 소셜미디어를 가장 능숙하게 다루는 10대 청소년들의 행동 변화를 통해 보여준다. 어느 가정에서나 있을 법한 스마트폰을 둘러싼 부모와 자녀 간에 벌어지는 갈등을 보여주며 소셜미디어에 의존해 결국 피폐해지는 10대의 이야기는 긴장감을 불러일으키면서 다큐멘터리의 주장에 귀 기울이게 한다. 그리고 쉽고 간단한 소셜미디어 세계에서 벗어나는 방법을 알려준다는 점에서 유용하다. 이들은 애플리케이션(앱)을 삭제해 시스템에서 탈출하고, 그러지 못할 경우에는 유튜브와 같은 소셜미디어가 제공하는 추천 영상을 클릭하지 말고, 알림을 끄라고 조언한다. 하지만 무엇보다 눈길을 끄는 건 원시적이긴 하지만 스마트폰을 물질적으로 떨어뜨릴 수 있는 ‘키친 세이프’로 불리는 타이머가 부착된 금욕 금고다.

스캐터랩이 출시한 인공지능(AI) 챗봇 ‘이루다’가 차별과 혐오 표현을 여과 없이 표현해 논란에 휩싸였다. ⓒ스캐터랩
성희롱, 혐오·차별, 개인 정보 유출 등 각종 논란으로 출시 3주 만에 역사 속으로 사라진 AI 챗봇 ‘이루다’. ⓒ스캐터랩

 

알고리즘 뒤 성차별 문제 다뤘어야

당연하게 우리가 이 글을 클릭하고 읽는 행위 자체가 관심 영역으로 데이터화돼 제공 처리되고 있을 것이다. 또한 넷플릭스는 해당 다큐멘터리 시청을 근거로 또 다른 콘텐츠를 추천할 것이다. 이러한 상황에 대한 자각과 이를 거부할 수 있는 방법을 제시했다는 점에서 본 다큐멘터리는 가치가 있다. 하지만 다큐멘터리의 주장을 객관적이며 중립적으로 보여줄 소셜미디어 기업 내에서 벌어지는 자정 노력과 반대 측 의견이 없다는 것은 아쉽다. ‘소셜딜레마’의 가장 큰 한계는 알고리즘 뒤에 숨겨진 성차별 문제를 제기하지 않았다는 점이다. 인공지능(AI)이 중립적일 것이라는 신화, 개발자의 가치관을 따라갈 수밖에 없는 한계를 우리는 얼마 전 ‘AI 챗봇 이루다’의 퇴출 논란을 겪으면서 깨달았다. 남성이 지배적인 IT 산업에서 의사결정 과정과 개발 과정에서의 여성의 부재는 딥러닝 과정에서 벌어진 성차별적 언어와 혐오 표현이라는 잘못된 젠더 관념의 재생산을 예상하지도 대처하지도 못했다. 차별과 편향으로부터 이용자를 보호할 수 있는 알고리즘의 윤리적 활용, 그 가운데 성인지 감수성을 지닌 알고리즘으로 나아가는 방향을 모색하는 또 다른 다큐멘터리가 필요하다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
최신기사