[월드리포트] '설마 모를까'…나의 AI 구분 능력은 몇 점?

요즘 SNS나 인터넷에서 손쉽게 접할 수 있는 것 중 하나가 인공지능 AI가 생성한 가상 인물입니다. 사진도 있고 동영상도 있는데 얼핏 봐도 쉽게 알 수 있는 게 있는가 하면, 아무리 봐도 구분 안 되는 정교한 것들도 적지 않습니다. 이미 상당수 사람들이 이런 가상 이미지에 익숙해진 터라 다들 그런가 보다 하고 지나치지만, 막상 현실과 가상이 구분되지 않는 상황과 직접 맞닥뜨리게 되면 당황스러울 수밖에 없습니다.
저 역시 처음에 <시험해 보세요: 어떤 얼굴들이 AI가 만든 건가? (Test Yourself: Which Faces Were Made by A.I.?)>라는 제목의 뉴욕타임스 기사를 접했을 때 제일 먼저 든 생각은 '다소 식상하다'였습니다. 하지만 사진 10장을 놓고 'AI가 만든 가상 얼굴'이냐 '실물'이냐를 테스트한 결과는 말하기가 민망할 정도였습니다. 둘 중 하나를 고르는 것으로 확률 50%였지만 거짓말처럼 하나도 맞추지 못했습니다. (그 충격이 컸던 것도 이 글을 쓰게 된 이유 가운데 하나입니다.)

▶ 뉴욕타임스 기사 (도전해 보세요~)

뉴욕타임스는 특히 백인 얼굴의 경우, 실제 백인의 사진보다 가상 사진이 더 실물인 것처럼 인식되는 걸로 나타났다고 전했습니다. 이른바 극사실주의(hyper-realism)이라고 불리는 현상으로, AI가 가상의 얼굴을 만들 때 학습하는 훈련 데이터 가운데 상당수가 백인 이미지이기 때문이라고 합니다. 훈련 양이 많은 분야에서 성적이 좋은 아주 당연한 결과인 셈입니다. (사실 AI 훈련이 지나치게 백인 이미지에 편중돼 있다는 건 이 업계에서는 널리 알려진 문제라고 합니다.)
연구 결과 중에 또 하나 재미있는 것은 가상 얼굴과 실물을 구분할 때 시험 참가자의 자신감이 높을수록 틀릴 가능성이 높은 걸로 나타났다는 점입니다. 연구에 참여했던 호주국립대학교 부교수인 에이미 다웰(Amy Dawel) 박사는 자신감이 과도하게 넘쳐나는 것을 보고 매우 놀랐다면서 이런 지나친 자신감이 사람들을 인터넷에서 더 취약하게 만들고 잘못된 정보에 더 쉽게 넘어가게 만든다고 설명했습니다.
가상 이미지의 폐해는 이미 사회 문제가 된 지 오랩니다. 딥페이크(deepfake)로 불리는 합성 영상이 사기, 음란물 제작 같은 범죄에 이용되거나 가짜 정치인 영상을 만드는 데 활용되면서 사회 전반에 악영향을 미치고 있습니다. 미국에서는 생성형 AI가 만든 가수 테일러 스위프트 영상에 속아 스위프트의 팬들이 돈을 뜯기는가 하면, 우리나라에서도 조인성, 송혜교 배우의 얼굴을 딥페이크로 합성한 투자 사기 영상이 논란이 되기도 했습니다.


특히 올해 대선을 앞둔 미국에서는 이 '딥페이크'가 선거의 최대 위협 요소 중 하나로 떠올랐습니다. SNS에 넘쳐나는 정치인 영상을 AI에게 학습시켜 가짜 영상을 만든 뒤 이를 다시 SNS에 올려 퍼뜨리는 방식인데, AI 기술 발달로 누구나 손쉽게 조작할 수 있게 되면서 대처가 쉽지 않은 상황입니다. 이미 바이든 대통령이 성소수자를 비하하거나 민주당 대선후보 출신인 힐러리 클린턴 전 미 국무장관이 공화당의 론 디샌티스 후보를 지지하는 영상 등이 문제가 된 바 있습니다.

사실 이런 혼란은 기술 발달과 함께 이미 어느 정도 예견된 것이기도 합니다. 하지만 이런 환경에서 혹시 모를 피해를 막기 위해서는 연구진의 이야기처럼 인터넷상에서 뭔가 판단이 필요할 때 지나친 자기 확신에 의존하기보다 신중하게 접근하는 것이 필요합니다. 어떤 일이든 자기 자신에게 엄격해지는 게 가장 안전한 길입니다.