[뉴스토리] 진짜 같은 가짜 딥페이크, 선거판을 흔들다

올해는 76개 나라에서 선거가 열리는 '슈퍼 선거의 해'. 전 세계 인구의 3분의 1이 투표를 하는 만큼 선거에 대한 관심이 그 어느 때보다 뜨겁다. 오는 11월 대선이 열리는 미국은 조 바이든 대통령과 도널드 트럼프 전 대통령이 2020년에 이어 또다시 맞붙게 되면서 선거 열기는 벌써 뜨거워지고 있다. 미국 사회에서는 선거판을 흔들고 유권자들의 판단을 흐리는 허위 정보에 대한 우려도 커지고 있다. 특히 인공지능(AI) 기술을 악용한 가짜 사진, 영상 등 선거를 위협할 것이란 경고가 나오는 상황. 실제 본격 대선 레이스가 시작되면서 바이든, 트럼프 후보의 목소리나 얼굴을 활용한 다양한 '딥페이크'가 확산 되고 있다. <뉴스토리> 취재진은 미국 선거 현장을 찾아가 AI가 만들어낸 가짜 정보들이 미국 유권자들에게 어떤 영향을 미치고 있는지 취재했다.
  딥페이크는 몇 년 전만 해도 얼굴을 합성하는 기초적 수준에 불과했지만 AI 기술의 빠른 진화로 점차 교묘해지고 있다. 내가 보고, 듣는 것이 진짜인지 가짜인지 구분하기 힘든 세상이 현실화한 셈. 실제로 지난 1월 미국 민주당 뉴햄프셔주 예비 경선은 바이든 대통령의 목소리로 당원들에게 "투표를 하지 말라"라고 말하는 '바이든 사칭 전화' 사건이 벌어져 모두를 놀라게 했다. 또, 트럼프 전 대통령이 흑인 여성, 청년들과 함께 찍은 사진이 화제가 되고 있는데, 이 또한 AI 기술을 활용한 딥페이크로 밝혀졌다. 전문가들은 선거가 임박할수록 이런 딥페이크, 허위 정보의 파급력이 커질 수 있다고 경고했다.
  진짜 같은 가짜들이 빠르게 생성되고 확산되면서 이를 찾아내고 바로잡으려는 노력도 뒤따르고 있다. 미국에선 선거, 정치 관련 딥페이크 콘텐츠를 무료로 탐지해 주는 전문 탐지 단체까지 생겨나고 있다. <뉴스토리>는 미국 시애틀에 위치한 딥페이크 탐지 비영리단체 '트루미디어'를 찾아가 딥페이크 허위 정보의 실태와, 어떤 기술을 이용해 딥페이크 콘텐츠를 탐지해 내는지 들어봤다.

구글, 메타, 오픈AI 등 20개 빅테크 기업은 지난 2월 독일 뮌헨안보회의에서 딥페이크 차단 방안에 합의하며 유권자가 속을 위험이 있는 콘텐츠를 감지해 워터마크나 라벨을 다는 등의 자발적 조치를 취하기로 했다. 다음 달 총선을 앞두고 있는 우리나라는 개정된 공직선거법에 따라 선거일 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지하고 있다. <뉴스토리>가 만난 정치, 정보 전문가들은 정부와 기업들의 자발적 규제도 필요하지만, 잘못된 정보가 퍼져나가는 걸 막을 수 있는 통제 수단은 사실상 없다며 더 근본적인 해결책이 필요하다고 입을 모았다. AI는 많은 이들의 우려대로 민주주의에 대한 심각한 위협이 될까? 이번 주 <뉴스토리>에선 점차 진화하는 AI 기술이 선거와 민주주의 미치는 영향과 실태를 전하고, 해결책을 모색해보고자 한다.