가짜뉴스의 시대… 딥페이크를 경계하라

지난 4월 1일은 만우절이었습니다. 만우절은 기업들에게 있어 1년 중 가장 위트있는 마케팅을 선보이는 날이기도 하고, 공식적으로 거짓말이 인정되는만큼 거짓말에 대한 사회적 분위기가 너그러워지는 때이기도 합니다. 하지만 올해는 분위기가 사뭇 달랐습니다. 바로 전 세계적인 코로나 바이러스 확산 때문인데요. 전염병 확산으로 인해 모두가 예민해져 있는 이 시기, 만우절 장난이랍시고 섣불리 가짜뉴스를 만들어내는 것을 모두가 경계한 것이죠. 만우절 장난으로 새로운 것을 많이 선보이는 것으로 유명했던 구글도 올해는 만우절 장난을 건너뛰기로 했다고 공식적으로 발표했었습니다. 국내의 여러 기업들도, 만우절을 기념하는 마케팅을 대부분 진행하지 않거나, 과하지 않은 선에서 소비자들에게 약간의 웃음을 선사해줄 수 있는 정도로 수위를 조절했습니다.

그런 와중에 매년 퍼지는 ‘흔들바위 추락’에 관련된 만우절 거짓말이 네이버 실검에 오르는 해프닝이 벌어지기도 했죠. 매년 퍼지는 거짓말이지만, 올해는 기업들을 주축으로 한 만우절 마케팅이 없어 별다른 이슈가 생기지 않다보니, 이러한 ‘흔들바위 추락’이 더 사람들의 주목을 받게 되었을지도 모르겠습니다.

출처 : freepik

가짜뉴스의 시대… 악의적인 가짜뉴스 배포는 처벌

국내에서는 코로나로 인해 어수선한 시국에 대응하여 공포심이나 불안감을 유발하는 가짜뉴스를 반복적으로 상대방에게 도달하도록 한 경우 1년 이하의 징역 또는 1000만원 이하의 벌금형을 받을 수 있다고 경찰이 엄중하게 경고했습니다. 다른 때였다면 웃고 넘어갈 수 있지만 코로나 전염병을 소재로 한 악의적인 거짓말은 사회를 혼란에 빠뜨릴 수 있다고 생각한 것이지요.

사실 현대사회에서 가짜뉴스는 만우절이 아니라 하더라도 이미 우리 사회 주변에 만연해있습니다. 심지어 최근 영국에서는 코로나 바이러스와 관련하여 5세대 이동통신인 5G 네트워크를 타고 코로나 19가 전파된다는 가짜뉴스가 일파만파로 퍼져 사회를 혼란에 빠뜨리기도 했습니다. 해당 가짜뉴스로 인해 영국 버밍햄과 리버풀 등에선 이동통신 기지국에서 불이나는 등 유사한 화재가 지난 4월 초부터 20건 이상 발생했습니다. 이러한 사회적 혼란에 대응해 세계이동통신협회(GSMA0는 5G와 코로나19간 연관성이 없다는 성명을 내고 가짜뉴스와 기지국 파괴행위를 비난했으며, WHO까지 나서서 공식 트위터에 #KnowTheFacts 란 해시태그를 건 게시물을 통해 “바이러스는 전파나 모바일 네트워크로 퍼지지 않는다”고 밝혀야 했습니다.

출처 : freepik

이러한 와중에 가짜뉴스와의 싸움에 나선 시민 영웅들도 나타나고 있습니다. 영국 북부 뉴캐슬 근처의 작은 도시 모페스에 살고 있는 레이첼 호그는 자신이 운영하는 페이스북 그룹에 올라오는 코로나19와 관련된 가짜 게시물을 틈틈히 삭제하며 신뢰할 수 있는 정보가 사람들에게 전파될 수 있도록 노력하고 있습니다. 그가 운영하는 ‘모페스 메터즈’ 페이지의 회원 수는 2만 2천명. 동네에 거주하는 주민보다도 많은 수인데요, 이는 이곳에 살다가 다른 곳으로 이주한 사람들과 인근 마을에 사는 사람들까지 지역 정보를 얻기 위해 해당 페이스북 페이지를 찾기 때문입니다. 레이첼 외에도 스스로 온라인 자정 활동에 나선 봉사자들이 소셜 미디어 회사가 직접 해야할 역할을 대신하고 있습니다. 누군가 시키지 않았음에도, 제대로 된 정보가 사람들에게 퍼질 수 있도록 노력하는 자원봉사자들의 힘에 의해 가짜뉴스의 확산이 줄어들고 있는 것은 사실이지만, “선동은 문장 한줄로도 가능하지만, 그것을 반박하려면 수십장의 문서와 증거가 필요하다. 그리고 그것을 반박하려고 할 때면 사람들은 이미 선동당해 있다“라는 말처럼 가짜뉴스를 유포하는 사람들과의 전쟁이 결코 쉽지만은 않은 일입니다. 정보를 받아들이는 사람들 스스로가 잘못된 정보에 현혹되지 않도록 신중한 태도를 가져야 할 때라고 할 수 있을 것 같습니다.

​

​

기술로 고도화된 가짜뉴스, 딥페이크 (Deepfake)를 경계하라

​

인터넷의 기술의 발달, 소셜 네트워크 서비스의 활성화는 가짜뉴스가 확산되기 쉬운 환경을 만들었다면, 최근 4차 산업혁명 기술의 발달은 가짜뉴스의 정교함을 높이고 있습니다. 작년에는 이런 사건이 있었는데요. 영국의 한 에너지 기업 사장은 지난해 3월 독일에 있는 본사 사장으로부터 전화 한통을 받게 됩니다. 22만 유로(약 2억 9000만원)를 본사로 송금해달라는 긴급 요청이었는데, 그는 본사 사장의 명령에 따라 한 치의 의심없이 22만 유로를 송금합니다. 억양과 발성 패턴이 실제 본사 사장과 매우 닮았기에 본인이 아닐 거라고 상상도 하지 못했지요. 하지만 결국 사기임을 알게 되었고, 송금한 돈은 이미 헝가리와 멕시코 등 여러 국가를 거쳐 세탁된 상태라 추적이 불가능해졌습니다. 이러한 고도로 정교화된 음성 합성, 영상 합성 기술을 통틀어 딥페이크(Deepfake)라고 이야기 합니다. 딥페이크는 4차 산업혁명 핵심 기술 중 하나인 인공지능 기술을 활용해, 기존에 있던 인물의 얼굴이나 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 뜻하는 것으로, 인공지능의 원천 기술인 ‘딥러닝(DeepLearning)’과 가짜를 뜻하는 ‘페이크(Fake)’의 합성어입니다. 엄밀히 따지자면 딥페이크는 이러한 인공지능기술로 재 합성한 영상편집물만을 이야기하는 것이지만, 인공지능 기술을 활용한 음성 합성 기술 들도 함께 발달하고 있기 때문에, 일각에서는 포괄적인 의미에서 ‘딥페이크’를 사용하기도 합니다. 딥페이크 기술의 발달은 ‘보이스피싱’을 넘어, ‘페이스피싱’까지도 초래할 수 있기 때문에 사회적으로 우려의 대상이 되고 있는데요, 실제로 2018년 멕시코 대선 기간에는 딥페이크를 이용한 정치 공작이 시도되기도 했었습니다. 현 대통령인 안드레스 마누엘 로페스 오브라도르가 “캠프 사람들이 선불카드를 뇌물로 받았다”고 말하는 4분짜리 딥페이크 음성이 유포되 당시 멕시코 사회에 큰 파장이 일었습니다.

출처 : Bloomberg Youtube