- 포르노와 딥페이크

 

 

배우 스칼렛 요한슨은 포르노 영화에 출연한 적이 없다. 그런데 그녀가 등장한 포르노 영상이 걷잡을 수 없이 온 지구에 공개되고 있었다. 2018년 <워싱턴 포스트>지와의 대담에서 그녀는 자신이 겪고 있는 고통을 이렇게 하소연했다.

 

“너무나 큰 충격을 받았지만, 어떻게 할 도리가 없더라고요. 모든 나라에 가서 일일이 다 그 영상을 다 내리라고 할 수는 없잖아요. 이러다가는 누구라도 영상조작의 희생자가 될 수 있습니다.”

 

인공지능 AI를 동원한 이른바 심층조작 테크놀로지 ‘딥 페이크(Deep Fake)’에 대한 이해가 없었더라면 스칼렛 요한슨은 명백한 영상증거 앞에서 거짓말을 하고 있다는 비난을 받았을 것이다. 할리우드 인기 여배우가 이런 식으로 피해자가 되고 있는 딥페이크는 오늘날 포르노 시장의 대부분을 구성하는 기술이 되고 있다.

 

이 같은 영상뿐만이 아니다. 이방카 트럼프와 미셀 오바마가 함께 변태 성행위를 하는 걸 빌 클린턴이 보고 있는 영상도 버젓이 돌아다니고 있는 판국이다. 바로 이런 딥페이크의 위험성을 경고하는 영상도 딥페이크로 만들어진 바 있다. 오바마의 영상이었다. 역설이 아닐 수 없다.

 

이 영상에서 딥페이크 기술로 만들어진 ‘가상의 오바마’는 다음과 같이 말한다.

 

“앞으로 우리는 인터넷 정보에 대해 신뢰할 것인지 말 것인지 보다 더 조심해야 하는 시대를 맞이하고 있다. 잘못하면 우리는 암담하기 짝이 없는 정보화시대의 디스토피아에서 살게 될는지도 모른다. 이런 빌어먹을!”

 

 

-<아이리쉬맨>과 딥페이크 시대

 

 

한 요양원에서 노인이 자신의 삶을 회상하며 이런 대사를 내뱉는다.

 

“어린 시절 나는 페인트공은 집에 페인트를 칠하는 사람인 줄로 알았지. 뭐 내가 그때 세상을 제대로 알았겠어? 나는 젊었을 때 노동자였지.” 여기서 “집에 페인트를 칠하다(paint the house)”라는 말은 ‘청부살인(contract killing)’을 뜻하는 마피아의 은어였다. 마틴 스코시지 감독이 2019년에 개봉한 영화 <아이리쉬맨(Irishman)>의 첫 장면이다.

 

이 영화는 마피아와 트럭화물노조(Teamster), 그리고 정치가 한데 뒤엉켜 범죄가 벌어지는 이야기를 담아냈다. 주인공은 트럭 운전사였고 우리는 이 사나이가 어떻게 청부살인자가 되는지를 보게 된다. 로버트 드니로, 알 파치노, 호세 페치가 주연인 <아이리쉬맨>은 20대부터 담아내는 과정 때문에 ‘나이를 되돌리는(the de-aging)’ 특별한 작업이 요구되었다.

 

늙게 보이는 것은 분장으로 가능한데 젊게 보이는 것은 아무래도 한계가 있기 때문에 생겨난 고민이었다. 마틴 스코시지는 이 작업에 무려 1억 4000만 달러를 써야 했다. 그러나 결과물은 그리 흡족하지는 않았다. 어색하게 보였기 때문이었다.

 

그런데 영화가 개봉되고 3개월 뒤, 어떤 무명의 유투버가 무료 앱을 가지고 훨씬 고화질의 영상조작을 해냈다. 충격이었다. 딥페이크 대중화시대의 입구가 열린 셈이었다.

 

2022년이면 전세계 인터넷 환경에서 영상 공유가 80퍼센트를 넘을 것으로 예상되고 있으며 스마트폰 사용으로 56억 인구가 영상소비자에서 영상제작자로 변신하는 상황이 다가오고 있는 실정이다. 이러니 여기에 딥페이크가 결합하면 그 결과는 가공할 기세다. 이른바 “융합미디어(synthetic media)”의 위력이 일상이 된다.

 

물론 이는 그렇지 않아도 코로나의 세계적 확산이 가져온 비대면 상황에서 우리의 영상생활에 일대 혁신이다. 새로운 상상의 세계를 펼칠 뿐만 아니라 다양한 언어가 동일한 영상에 담길 수 있다. 이와 함께 이전에는 불가능했던 여러 가지 영상제작이 이뤄져 교육을 비롯해 공공서비스에도 중요한 기여를 할 수 있다.

 

 

AI를 통한 딥페이크 기술의 비약적인 발전에는 심층학습(deep learning) 기술이 작동한 바가 결정적이다. 1985년생인 이안 굿펠로우는 바로 이 기술의 선도자로 “적대적 학습훈련(adversarial training)”이 주효했다.

 

줄여서 GAN(generative adversarial network)이라고 부르는 이 방식은 게임에서 적대적 상대의 심층학습 네트워크를 경쟁시켜 정보의 축적과 학습의 속도, 양을 고도화시킨 결과로 얻게 된 기술이었다. 얼굴을 바꾸는 “face swap”로 이렇게 만들어져 실제 움직임은 B인데 얼굴은 A로 변형되어 전혀 다른 존재가 탄생한다. 또는 지상에 존재하지 않는 인물도 만들어지니 진실과 조작/가짜의 경계선을 구별하는 것은 기술의 정교성에 따라 거의 불가능하게 될 지경이다.

 

-"정보대재앙(Infocalypse)”의 위협

 

바로 여기에서 “정보대재앙(Infocalypse)”이 발생한다. 이 단어는 ‘정보(Information)’와 ‘대재앙(Apocalypse)’의 합성어로 ‘탈진실(post-truth) 시대’의 실상을 고스란히 입증해준다. 무엇이 진짜 실체인지를 더는 알 길이 사라지는 “거대하고 깊은 불신의 늪”이 출현하고 있기 때문이다.

 

따라서 정치가 딥페이크와 손을 잡으면 그 결과는 감당할 길이 없게 된다. 정확한 정보와 그에 기초한 현실 인식, 이에 따른 소통과 논의는 민주주의를 지켜내고 발전시키는 핵심이다. 그런데 이 기반이 치명타를 입게 되는 것이다.

 

 

미국의 법학자 로버트 체스니(Robert Chesney)와 다니엘 시트론(Danielle Citron)은 <캘리포니아 법률 리뷰(California Law Review)>지에 기고한 논문 “딥페이크: 사생활, 민주주의 그리고 안보에 대한 불길한 위협(Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security)”에서 이를 우려하는 논지를 폈다. 그 핵심은 당연하게도 “해악을 끼칠 거짓말이 진실로 둔갑해서 사람들을 속인다”는 것이다.

 

이 논문이 예를 든 내용들은 실제 가공이 충분히 가능하다. 가령 특정 정치인이 누군가로부터 뇌물을 받는 장면, 종교분쟁을 일으킬 만한 모습, 성 스캔들을 만들 수 있는 상황, 발언의 일부를 살짝 비틀어 왜곡하는 것 등 이루 헤아릴 수 없이 많은 조작이 이뤄질 수 있다. 이는 기본적으로 사회 전체를 혼란에 빠뜨리고 진실이 규명되기까지 지불해야 하는 비용은 엄청날 수밖에 없게 된다.

 

2020년 미국 대선은 바로 이 딥페이크의 우려가 현실로 나타났던 해였고, 이에 대한 논쟁이 치열해지기 시작한 출발점이다. 선거에서는 민감한 사안을 가지고 딥페이크가 작동할 경우, 작은 차이로 승부가 갈라질 수 있으며 이미 엎질러진 물을 담기에는 시간이 없을 때 그 피해는 더욱 막심해진다. 그야말로 정보대재앙이다.

 

- AI 아무개”의 기만

 

 

이에 대한 대응이 고민되지도 않은 한국의 대선과정에서 난데없이 등장시킨 어느 당의 “AI 아무개”가 제4차 첨단사업의 미래를 보여주는 것이라는 선전은 완전히 기만이다. 이걸 전국 방방곡곡에 유포하겠다는 말을 아무렇지도 않게 하고 있는 걸 보면서 도대체 정치를 어떻게 만들 작정인지 걱정되지 않을 수가 없었다.

 

실제 물건은 A인데 정작 파는 것이 B라면 이건 분명한 사기다. 딥페이크 기술을 통해 만들어진 가상의 인물이 대행하는 정치는 시민의 판단을 왜곡하고 정보를 오염시킬 뿐만 아니라 선택을 오도하게 된다. 그 오도의 결과는 엉뚱한 자에게 권력이 이동해가는 것이다. 민주주의는 파괴된다.

 

딥페이크와 정치가 한 몸이 되면 이런 때에 누가 쉽사리 주도권을 가지게 될 것인가? 딥페이크 기술이 대중화될 가능성이 높아진다해 도 조작의 흔적을 알아차리기 어려운 고화질의 영상은 역시 자본과 기술로 무장한 세력이 장악하게 마련이다. 게다가 이들은 정치를 자신의 의도대로 주물럭거리겠다는 의지가 강한 “보이지 않는 정부(invisible government)”다. 아담 스미스가 말했던 “보이지 않는 손의 실체”다.

 

자본주의 체제유지를 가장 강력하게 주도하는 것은 독점자본이며 이들은 시민들의 주도권을 끊임없이 약화, 박탈하는 전략을 구사한다. 비판적 의식을 가진 시민사회의 힘이 강력해지는 것은 이들의 이해와 정면으로 충돌할 수밖에 없기에 정보교란을 통해 시민사회의 정치적 판단력이 흐려지는 것을 기도하게 되어 있다. 그리고 이에 기초한 정치를 조성하는 것을 기본으로 한다. 따라서 민주주의는 자본주의의 독점구조와 본질적으로 모순이다.

 

이렇게 보자면 AI 딥페이크까지 가지 않더라도 사실 “딥페이크 정치”는 이미 우리가 경험하고 있는 언론의 현실이 고스란히 드러내고 있다. 이들은 거대 독점자본의 이해관계를 철저하게 수호하고 이를 위한 정치지형을 만들기 위해 왜곡된 뉴스 생산에 진력을 다한다.

 

이들의 움직임은 언제나 공개될 수 없는 자들이 꾸미는 음모적 기획이다. 실체가 노출되면 비판에 직면하게 되기 때문이다. 거대언론의 한 특정 신문사를 “밤의 대통령”이라고 부르는 까닭도 여기에 있다. 문제는 이들의 음모가 범죄라는 점에 있다. 사실을 비틀고 은폐하는 동시에 거짓을 양산해서 진실을 죽이기 때문이다.

 

- 대자본의 음모, 그리고 ‘딥 페이크 정치의 돌파’

 

<자본의 음모(The Conspiracy of Capital)>를 쓴 마이클 마크 코헨은 미국의 남북전쟁 이후 독점자본이 생성되기 시작한 1877년부터 이런 대자본의 음모가 발동되기 시작했다고 지목한다. “인민당(People’s Party/Populist Party)”에 대한 주류언론들의 공격을 비롯해서 1910년대에서 1920년대에 이르는 ‘빨갱이 사냥(Red Scare)’등은 모두 노동자들의 저항을 짓밟기 위한 독점 대자본의 음모적 기획이라는 것이다.

 

코헨은 세계 노동절 메이데이의 기원이 된 1886년 5월 4일 헤이마켓 폭동(Haymarket Roit) 사건을 보기로 든다. 미연방정부는 여덟 명의 노동자들을 무정부주의자로 몰아 사형에 처하는 등 노동자들을 탄압하고 노조 지도자들을 죽인 이 사례는 정치의 주도권을 쥔 이들 독점자본의 음모가 범죄적 차원으로 나간 것을 보여준다고 강조했다.

 

 

헤이마켓 사건은 국가폭력의 발동이었고 희생된 이들을 무고함에도 불구하고 범죄자로 만들었다. 결국 자본주의의 독점체제가 지배하는 것은 당연하게 여기도록 했고 이에 대한 저항과 도전은 묵과하지 않겠다는 것이다. “딥페이크 정치”는 이런 체제의 필연적인 산물이다.

 

신자유주의는 더더욱 이러한 상황을 심화시킨다. 불평등한 현실을 바꿀 논리와 의지를 끊임없이 왜곡하고 말살하며, 이제는 “신자유주의 파시즘”의 방식으로 시민사회의 도전을 무력화시키는 지점까지 가고 있다. 평등한 권리를 모색하는 민주주의에 대한 공격을 펼치는 것이다. 한국사회가 오늘날 직면한 위기다.

 

우리도 모르는 사이에 실로 깊게 작동하는 기만이다. 공정은 논의하게 하지만 평등은 사회적 담론으로 대하지 않는다. 평등을 사회적 정의로 규정하게 되는 순간, 거대독점자본의 지배구조가 드러나고 이를 해결하자는 운동이 일어날 수 있기 때문이다.

 

 

<21세기 자본>으로 유명한 토마스 피케티가 낸 최신저작 <사회주의가 시급하다(Time for Socialism)>는 어떤 언론도 심층적으로 언급하지 않는다. 이 책에서 그는 놀라운 제안 하나를 한다. 25세에 도달한 청년들에게 아무 유산상속을 받지 못하는 경우에는 우리 돈으로 1억 6000만 원에 달하는 12만 유로를 “사회적 유산상속”으로 제공해주자는 것이다. 이 재원은 누진세 방식의 부자세, 상속세를 비롯 기업이 내도록 하는 탄소세 등을 통해 거둘 수 있는 돈 들이다.

 

이렇게 되면 “기본소득”의 개념이 완전히 달라진다. 부의 재편성과 함께 자신의 미래를 스스로 자신있게 기획할 수 있는, 자본의 지배로부터 자유로운 세대가 등장할 수 있게 되기 때문이다. 그러니 이런 이야기를 독점대자본이 장악한 언론이나 이들의 기획에 따라 만들어진 교육에서 사회적 논의로 삼으려들리 만무하다.

 

한때 그토록 화제가 되었던 피케티는 이렇게 해서 우리사회에서 어느새 망각되어간다. 독점 대자본이 이끄는 딥페이크 기획이 만든 결과다. 그렇기에 “사회주의”라는 말은 이 나라에서 범죄를 지칭하는 용어가 되어 있다.

 

어디 이뿐이랴? 주한미군의 역할과 그 미래, 분단체제의 초극을 위한 담론 등은 이미 조작된 말과 글, 영상으로 우리사회의 의식을 진실에서 벗어난 방식으로 지배하고 있다. 그런데 이걸 “범죄”로 인식하지 못하고 있다. 보이지 않는 정부가 따로 배후에서 움직이고 있으며, 이걸 직접 앞에 나서서 하는 자들이 있다. 집에 페인트칠을 하는 페인트공. 영화 <아이리쉬맨>의 첫 장면에 나오는 대사처럼, 청부살인을 하는 자들이다.

 

이들은 진실을 살해하고 그 위에 범죄 은폐를 위한 덧칠을 하고 있다. 그게 누구인지 우리는 잘 알고 있다.

 

“AI에 의한 딥페이크 이전의 딥페이크”부터 제대로 가려보고 이를 해체하는 일이 절실하다. 그런 시민사회 의식은 우리를 끊임없이 교란시키는 첨단의 속임수도 구별해낼 싸움에 능한 힘을 갖추게 될 것이다.

 

“보이지 않는 정부의 지배”를 끝내야 한다. 우리가 정부다.