백악관에 폭발 사고가 발생해 오바마 대통령이 부상을 입었다는 소식이 전해졌다. 트윗은 단 5분 만에 4000번 넘게 리트윗됐고, 수십만 명의 사람이 해당 뉴스를 접했다. 주식시장은 즉각적으로 반응했다. 주춤하던 시장 반응은 곧 궤도를 이탈해버렸다. 일반투자자뿐만 아니라 시장 동향을 예측해 매수 혹은 매도를 제안하는 데이터 회사들이 만든 자동 거래 알고리즘이 작동해 주식을 팔아치워버린 것이다. 문제는 해당 소식이 ‘가짜뉴스’였다는 점이다. 해당 뉴스는 해커들이 AP통신의 트위터 계정에 침투해 퍼뜨린 가짜뉴스였다. 테러의 사상자는 주식시장에서 발생한 셈이 됐다. 가짜뉴스에 기반해 주식을 사고판 사람들은 돈을 잃었다.
실제 많은 가짜뉴스가 금융시장에 영향을 미친다. 미국 증권거래위원회는 주가 조작을 목적으로 한 상장기업들의 가짜뉴스를 잡아내기 위해 조사를 진행했다. 이들은 10년간 발표된 7500개 이상의 기업에 대한 35만 건의 기사를 대상으로 언어 분석을 했다. 이들의 분석에 의하면 진짜뉴스가 발표된 뒤 주식 거래 물량은 평소보다 37% 늘었는데, 가짜뉴스가 발표된 뒤에는 50% 늘어났다. 투자자들이 가짜뉴스에 더 민감하게 반응한 것이다. 이는 규모가 작은 기업일수록, 기관투자가보다 소매 투자자 비율이 높을수록 더 심했다. 가짜뉴스는 주가에 미치는 영향도 더 컸다.
진짜뉴스에 비해 평균 세 배 컸으며, 발표 3일 전이나 3일 후 해당 주식의 절대 수익에 미치는 영향도 가짜뉴스가 진짜뉴스보다 훨씬 컸다.
가짜뉴스 생성의 목적
가짜뉴스를 만들어내는 목적은 다양하다. 금융시장 교란이 될 수도 있고, 정치적인 목적에서 이뤄지기도 한다. 2019년 4월 발표된 미국 특별검사 로버트 뮬러의 보고서가 이를 지적하고 있다. 해당 보고서는 미국의 주적인 러시아가 2016년 미국 대통령선거 결과를 조작했다는 내용이 담겨 있다. 러시아는 소셜미디어 사이트에 가짜 계정을 만들고, 팔로어들과 어울리며 신뢰를 쌓았다. 그리고 이들을 대상으로 투표를 포기하거나 선호 후보를 바꾸게 할 목적으로 가짜뉴스를 만들어 배포했다. 4000개에 달하는 공유계정은 리트윗과 해시태그를 통해 콘텐츠 퍼날랐고, 계정 대부분은 ‘사이보그’ 계정이어서 자동으로 미리 정해진 시간에 트윗 및 리트윗이 이뤄졌다.
경제적인 동기도 무시할 수 없다. 마케도니아 벨레스 지역은 주민이 5만5000명에 불과한 작은 마을이다. 고즈넉한 산악 마을이 전 세계에 알려진 것은 2016년 대선 기간이었다. 벨레스의 청소년들은 가짜뉴스가 돈이 된다는 것을 깨달았다. 수백 개의 웹사이트를 만들어 유권자들에게 가짜뉴스를 퍼뜨렸다. 이들은 구글과 같은 인터넷 브라우저 기업들이 방문객 수에 따라 돈을 준다는 것을 알고 있었다. 이들의 계정이 실시간 알고리즘에 포착되자 이들이 만든 가짜뉴스는 훨씬 더 많은 사람에게 노출됐다. 가짜뉴스가 쏟아지는 만큼 이들에게 돈이 쏟아져 들어온 것이다. 가짜뉴스 웹사이트들이 이렇게 벌어들인 돈이 2019년에만 연간 2억달러가 넘었다.
가짜뉴스에서 딥페이크로
가짜뉴스는 ‘합성 미디어(synthetic media)’로 점차 진화하고 있다. ‘딥페이크’가 대표적이다. 글씨로 된 가짜뉴스보다 훨씬 더 사람을 현혹하는 실감나는 합성 음성과 영상이 만들어지고 있다. 이 기술은 다층 신경망을 토대로 한 인공지능 기술로, 초현실적인 음성과 영상을 만들어내 진짜와 가짜를 구별하기가 어렵다. 2018년 영화감독 조던 필은 버락 오바마가 도널드 트럼프를 향해 “완전히 쓸모없는 인간”이라고 말하는 딥페이크 동영상을 만들어냈다. 가짜임을 밝히지 않았다면 누구도 알아차릴 수 없을 정도로 정밀했다.
이 같은 문제는 규제만 도입한다고 해결될 수 있는 게 아니다. 효율적인 그리고 자생적인 정화가 이뤄지도록 하려면 소셜미디어가 어떤 원리에 의해 작동하고, 어떻게 공감을 얻는지에 대한 면밀한 검토가 선행돼야 한다. 정보화 사회에서는 상상으로만 가능했던 많은 일이 현실화될 수 있지만, 그 정보가 왜곡됐을 때는 상상도 못했던 디스토피아를 경험할 수 있다는 것을 기억해야 할 것이다.
