[스브스夜] '그알' 유명인 사칭 온라인 피싱 범죄, 피해액만 1조 원…딥페이크 피싱 범죄, 피할 방법은?

딥페이크 피싱 범죄, 어떻게 막을 수 있을까? 20일 방송된 SBS '그것이 알고싶다'(이하 '그알')에서는 딥페이크 영상과 딥보이스 음성을 활용한 범죄를 조명했다. 개인 투자 전문가로 제2의 인생을 살고 있는 코미디언 황현희는 불미스러운 일로 인사드려서 유감이다. 어떻게 이런 일이 발생할 수 있나 라고 하소연을 했다. 이어 그는 아내와 함께 시장을 갔는데 한 할아버지가 광고 잘 보고 있다면서 투자를 그렇게 잘했다는데 나도 벌고 싶다고 하더라 라며 자신의 이름과 사진을 도용한 후 사칭해서 투자 사기를 벌이는 것에 대해 폭로했다. SNS에 이름을 검색하면 수많은 사칭 계정이 나왔다. 그리고 링크를 클릭하자 투자 정보를 알려주는 채팅방으로 연결되며 황현희를 사칭한 이가 주식 투자를 유도했다는 것이다. 투자 전문가 존 리도 비슷한 피해를 당했다며 고충을 토로했다. 특히 그는 피해자가 자신을 고소하는 일까지 있었다고 밝혀 이들이 입은 일의 심각성을 확인시켰다. 그리고 최근 유재석, 송은이 등 유명인을 사칭한 온라인 피싱 범죄로 피해를 입은 피해액이 약 1조 원에 달하고 수백 명의 피해자가 나오고 있는 것으로 확인되어 충격을 안겼다. 또한 배터리 아저씨 박순혁 작가를 사칭한 계정에서는 송혜교, 조인성 등 유명인의 딥페이크 영상을 이용해 투자를 부추기는 사기가 일어난 것으로 드러났다. 그리고 이러한 딥페이크 영상을 활용한 범죄는 멀리 있는 것이 아니었다. 제보자는 최근 딸이 대부업자에게 납치되었다는 전화를 받았다고 했다. 목소리와 전화번호는 딸의 것이 분명했지만 대부업자로 추정되는 이의 말투가 조선족이라 보이스피싱이라고 생각하고 전화를 끊었지만 큰일을 당할 뻔했다는 것. 또한 헬스 트레이너로 일하고 있는 한 제보자는 자신의 사진과 이름을 도용한 사칭 계정이 딥페이크 기술까지 활용해 로맨스 스캠 범죄를 저질렀다고 했다. 특히 피해자는 국내뿐만 아니라 해외에서도 발생했는데 자신이 딥페이크 로맨스 스캠에 당한 줄 모르는 베트남 여성은 그를 찾아와 빌려준 돌을 갚으라고 하기도 했다는 것이다. 방송에서는 실험을 통해 실시간으로 딥보이스 기술을 통한 목소리 변조가 가능하며 딥페이크 기술도 날로 발전해 실시간 영상 통화도 딥페이크 영상을 활용할 수 있음을 확인했다. 그리고 최근 검거된 최대 규모의 보이스피싱 조직이 검거 직전까지 딥페이크와 딥보이스를 기반으로 한 보이스피싱을 준비했던 것으로 밝혀져 눈길을 끌었다. 전문가는 지금은 사람이 있어야 딥페이크나 딥보이스가 가능하지만 나중에는 사람이 없어도 속일 수 있는 딥페이크가 가능할 것이다 라고 경고했다. 또한 경찰은 최근 일어나는 딥페이크 기술을 활용한 범죄의 경우 단서들은 많지만 그 범죄가 일어나는 근거지가 국내가 아니기 때문에 상선을 파악하거나 검거가 힘들다며 지금은 대부분 캄보디아에서 범죄가 이뤄진다. 공장처럼 범행이 진행되고 있다 라고 밝히기도 했다. 그리고 방송에서는 사칭 계정 등에 대한 제재가 거의 없어 일어나는 범죄에 책임지려 하지 않는 SNS 플랫폼 서비스를 지적하며 자율 규제 강화가 논의되고 있지만 이러한 범죄를 막기 위해서는 명확한 법적 체계가 필요하다 라고 목소리를 높였다. (SBS연예뉴스 김효정 에디터)

[스브스夜] '그알' 유명인 사칭 온라인 피싱 범죄, 피해액만 1조 원…딥페이크 피싱 범죄, 피할 방법은?

[SBS연예뉴스 | 김효정 에디터] 딥페이크 피싱 범죄, 어떻게 막을 수 있을까? 20일 방송된 SBS '그것이 알고싶다'(이하 '그알')에서는 딥페이크 영상과 딥보이스 음성을 활용한 범죄를 조명했다. 개인 투자 전문가로 제2의 인생을 살고 있는 코미디언 황현희는 불미스러운 일로 인사드려서 유감이다. 어떻게 이런 일이 발생할 수 있나 라고 하소연을 했다. 이어 그는 아내와 함께 시장을 갔는데 한 할아버지가 광고 잘 보고 있다면서 투자를 그렇게 잘했다는데 나도 벌고 싶다고 하더라 라며 자신의 이름과 사진을 도용한 후 사칭해서 투자 사기를 벌이는 것에 대해 폭로했다. SNS에 이름을 검색하면 수많은 사칭 계정이 나왔다. 그리고 링크를 클릭하자 투자 정보를 알려주는 채팅방으로 연결되며 황현희를 사칭한 이가 주식 투자를 유도했다는 것이다. 투자 전문가 존 리도 비슷한 피해를 당했다며 고충을 토로했다. 특히 그는 피해자가 자신을 고소하는 일까지 있었다고 밝혀 이들이 입은 일의 심각성을 확인시켰다. 그리고 최근 유재석, 송은이 등 유명인을 사칭한 온라인 피싱 범죄로 피해를 입은 피해액이 약 1조 원에 달하고 수백 명의 피해자가 나오고 있는 것으로 확인되어 충격을 안겼다. 또한 배터리 아저씨 박순혁 작가를 사칭한 계정에서는 송혜교, 조인성 등 유명인의 딥페이크 영상을 이용해 투자를 부추기는 사기가 일어난 것으로 드러났다. 그리고 이러한 딥페이크 영상을 활용한 범죄는 멀리 있는 것이 아니었다. 제보자는 최근 딸이 대부업자에게 납치되었다는 전화를 받았다고 했다. 목소리와 전화번호는 딸의 것이 분명했지만 대부업자로 추정되는 이의 말투가 조선족이라 보이스피싱이라고 생각하고 전화를 끊었지만 큰일을 당할 뻔했다는 것. 또한 헬스 트레이너로 일하고 있는 한 제보자는 자신의 사진과 이름을 도용한 사칭 계정이 딥페이크 기술까지 활용해 로맨스 스캠 범죄를 저질렀다고 했다. 특히 피해자는 국내뿐만 아니라 해외에서도 발생했는데 자신이 딥페이크 로맨스 스캠에 당한 줄 모르는 베트남 여성은 그를 찾아와 빌려준 돌을 갚으라고 하기도 했다는 것이다. 방송에서는 실험을 통해 실시간으로 딥보이스 기술을 통한 목소리 변조가 가능하며 딥페이크 기술도 날로 발전해 실시간 영상 통화도 딥페이크 영상을 활용할 수 있음을 확인했다. 그리고 최근 검거된 최대 규모의 보이스피싱 조직이 검거 직전까지 딥페이크와 딥보이스를 기반으로 한 보이스피싱을 준비했던 것으로 밝혀져 눈길을 끌었다. 전문가는 지금은 사람이 있어야 딥페이크나 딥보이스가 가능하지만 나중에는 사람이 없어도 속일 수 있는 딥페이크가 가능할 것이다 라고 경고했다. 또한 경찰은 최근 일어나는 딥페이크 기술을 활용한 범죄의 경우 단서들은 많지만 그 범죄가 일어나는 근거지가 국내가 아니기 때문에 상선을 파악하거나 검거가 힘들다며 지금은 대부분 캄보디아에서 범죄가 이뤄진다. 공장처럼 범행이 진행되고 있다 라고 밝히기도 했다. 그리고 방송에서는 사칭 계정 등에 대한 제재가 거의 없어 일어나는 범죄에 책임지려 하지 않는 SNS 플랫폼 서비스를 지적하며 자율 규제 강화가 논의되고 있지만 이러한 범죄를 막기 위해서는 명확한 법적 체계가 필요하다 라고 목소리를 높였다.

가짜 송혜교·조인성 만들어낸 딥페이크의 덫…'그알', 신종 범죄 추적

SBS '그것이 알고 싶다'가 딥페이크 신종 범죄에 대해 추적한다. 오는 20일 방송될 '그것이 알고 싶다'(이하 '그알')은 '빼앗긴 얼굴과 가짜의 덫-화면 속 그들은 누구인가?'라는 부제로, 딥페이크 기술을 활용한 신종 범죄를 파헤치고, 예방법을 알아본다. 코미디언이자 성공한 개인투자자로 제2의 인생을 살고 있는 황현희가 '그알' 카메라 앞에 섰다. 얼마 전부터 SNS에 자신을 사칭하는 계정이 수도 없이 등장해 피해를 주고 있다는 것이다. 직접 영상 속 링크를 클릭하자 투자 정보를 알려주는 채팅방으로 연결됐는데, 그곳에서 '황현희'라고 행세하는 인물이 주식 투자를 유도했다고 한다. 황현희는 30만 원으로 어떻게 100억을 버나? 채팅방에서 자기가 황현희라고 인사를 하는데, 이게 얼마나 코미디인가 라며 황당해했다. 투자 전문가로 유명한 금융인 존 리 씨도 비슷한 피해를 입었다며 인터뷰에 나섰다. 그를 사칭한 계정이 투자를 유도하는 식으로 SNS나 동영상 플랫폼에서 사기를 치고 있는데, 이에 속은 투자피해자가 실제로 존 리 씨를 고소하기까지 했다고 한다. 최근 유재석, 송은이 등 유명인들을 사칭한 온라인 피싱 범죄 피해액만 약 1조 원에 달하는 상황이다. 수많은 피해자들은 왜 사기범죄에 당했던 걸까. 2차 전지 관련주로 돌풍을 일으킨 이른바 '배터리 아저씨' 박순혁 작가. SNS와 동영상 플랫폼에 그를 사칭한 계정이 등장하면서, 앞으로 상승할 주식 종목을 추천해 많은 투자자들을 유인했다고 한다. 투자규모가 점점 커지더니 수익률 400%의 대규모 공모주 프로젝트를 진행하겠다고 하자, 반신반의했다는 투자자들. 하지만 이들의 의심을 단번에 거두게 했다는 영상이 등장했다. 배우 송혜교가 단체방에 공모주 프로젝트를 기념하는 영상 메시지를 보내왔다는 것이다. 뒤이어 배우 조인성의 축하영상 메시지도 올라왔다. 이 영상을 본 투자자들은 어린이 자선사업에 쓰일 공모주 프로젝트에 별다른 의심 없이 투자하게 됐다고 한다. 하지만 놀랍게도, 두 배우의 영상은 딥페이크 기술로 얼굴과 목소리가 조작된 것이었다. 대부업자에게 납치되었다는 딸의 다급한 전화를 받았다는 강정희(가명) 씨. 분명 딸의 전화번호와 목소리가 분명했는데 누가, 어떻게 딸의 목소리를 실시간으로 변조한 걸까. 헬스 트레이너 조용태 씨는, 일면식도 없는 베트남 여성이 빌려준 돈을 갚으라며 자신을 찾아왔다고 한다. 그와 영상통화까지 했다며 캡처한 사진을 보여줬다는 여성. 이성의 환심을 사 돈을 가로채는 이른바 '로맨스 스캠'에 딥페이크 기술까지 결합한 것으로 보였다. 유명인뿐 아니라 일반인들마저 표적으로 삼고 있는 딥페이크 신종 범죄. '그알' 제작진은 전문가들의 자문을 받아 딥보이스 기술을 이용한 실시간 변조 실험을 진행했다. 자녀나 동생의 목소리로 돈을 요구하는 전화가 걸려왔을 때, 가족들은 과연 어떻게 반응할까. 딥페이크 영상을 활용해 은밀하게 침투한 신종 범죄를 파헤치고, 예방법과 대책을 강구할 '그알'은 20일 밤 11시 10분 방송된다. (SBS연예뉴스 강선애 기자)

가짜 송혜교·조인성 만들어낸 딥페이크의 덫…'그알', 신종 범죄 추적

[SBS연예뉴스 | 강선애 기자] SBS '그것이 알고 싶다'가 딥페이크 신종 범죄에 대해 추적한다. 오는 20일 방송될 '그것이 알고 싶다'(이하 '그알')은 '빼앗긴 얼굴과 가짜의 덫-화면 속 그들은 누구인가?'라는 부제로, 딥페이크 기술을 활용한 신종 범죄를 파헤치고, 예방법을 알아본다. 코미디언이자 성공한 개인투자자로 제2의 인생을 살고 있는 황현희가 '그알' 카메라 앞에 섰다. 얼마 전부터 SNS에 자신을 사칭하는 계정이 수도 없이 등장해 피해를 주고 있다는 것이다. 직접 영상 속 링크를 클릭하자 투자 정보를 알려주는 채팅방으로 연결됐는데, 그곳에서 '황현희'라고 행세하는 인물이 주식 투자를 유도했다고 한다. 황현희는 30만 원으로 어떻게 100억을 버나? 채팅방에서 자기가 황현희라고 인사를 하는데, 이게 얼마나 코미디인가 라며 황당해했다. 투자 전문가로 유명한 금융인 존 리 씨도 비슷한 피해를 입었다며 인터뷰에 나섰다. 그를 사칭한 계정이 투자를 유도하는 식으로 SNS나 동영상 플랫폼에서 사기를 치고 있는데, 이에 속은 투자피해자가 실제로 존 리 씨를 고소하기까지 했다고 한다. 최근 유재석, 송은이 등 유명인들을 사칭한 온라인 피싱 범죄 피해액만 약 1조 원에 달하는 상황이다. 수많은 피해자들은 왜 사기범죄에 당했던 걸까. 2차 전지 관련주로 돌풍을 일으킨 이른바 '배터리 아저씨' 박순혁 작가. SNS와 동영상 플랫폼에 그를 사칭한 계정이 등장하면서, 앞으로 상승할 주식 종목을 추천해 많은 투자자들을 유인했다고 한다. 투자규모가 점점 커지더니 수익률 400%의 대규모 공모주 프로젝트를 진행하겠다고 하자, 반신반의했다는 투자자들. 하지만 이들의 의심을 단번에 거두게 했다는 영상이 등장했다. 배우 송혜교가 단체방에 공모주 프로젝트를 기념하는 영상 메시지를 보내왔다는 것이다. 뒤이어 배우 조인성의 축하영상 메시지도 올라왔다. 이 영상을 본 투자자들은 어린이 자선사업에 쓰일 공모주 프로젝트에 별다른 의심 없이 투자하게 됐다고 한다. 하지만 놀랍게도, 두 배우의 영상은 딥페이크 기술로 얼굴과 목소리가 조작된 것이었다. 대부업자에게 납치되었다는 딸의 다급한 전화를 받았다는 강정희(가명) 씨. 분명 딸의 전화번호와 목소리가 분명했는데 누가, 어떻게 딸의 목소리를 실시간으로 변조한 걸까. 헬스 트레이너 조용태 씨는, 일면식도 없는 베트남 여성이 빌려준 돈을 갚으라며 자신을 찾아왔다고 한다. 그와 영상통화까지 했다며 캡처한 사진을 보여줬다는 여성. 이성의 환심을 사 돈을 가로채는 이른바 '로맨스 스캠'에 딥페이크 기술까지 결합한 것으로 보였다. 유명인뿐 아니라 일반인들마저 표적으로 삼고 있는 딥페이크 신종 범죄. '그알' 제작진은 전문가들의 자문을 받아 딥보이스 기술을 이용한 실시간 변조 실험을 진행했다. 자녀나 동생의 목소리로 돈을 요구하는 전화가 걸려왔을 때, 가족들은 과연 어떻게 반응할까. 딥페이크 영상을 활용해 은밀하게 침투한 신종 범죄를 파헤치고, 예방법과 대책을 강구할 '그알'은 20일 밤 11시 10분 방송된다. 강선애 기자 sakang@sbs.co.kr

[월드리포트] '설마 모를까'…나의 AI 구분 능력은 몇 점?

요즘 SNS나 인터넷에서 손쉽게 접할 수 있는 것 중 하나가 인공지능 AI가 생성한 가상 인물입니다. 사진도 있고 동영상도 있는데 얼핏 봐도 쉽게 알 수 있는 게 있는가 하면, 아무리 봐도 구분 안 되는 정교한 것들도 적지 않습니다. 이미 상당수 사람들이 이런 가상 이미지에 익숙해진 터라 다들 그런가 보다 하고 지나치지만, 막상 현실과 가상이 구분되지 않는 상황과 직접 맞닥뜨리게 되면 당황스러울 수밖에 없습니다. 가상 vs 실물…여러 분은 몇 점? 저 역시 처음에 &<시험해 보세요: 어떤 얼굴들이 AI가 만든 건가? (Test Yourself: Which Faces Were Made by A.I.?)&>라는 제목의 뉴욕타임스 기사를 접했을 때 제일 먼저 든 생각은 '다소 식상하다'였습니다. 하지만 사진 10장을 놓고 'AI가 만든 가상 얼굴'이냐 '실물'이냐를 테스트한 결과는 말하기가 민망할 정도였습니다. 둘 중 하나를 고르는 것으로 확률 50%였지만 거짓말처럼 하나도 맞추지 못했습니다. (그 충격이 컸던 것도 이 글을 쓰게 된 이유 가운데 하나입니다.) ▶ 뉴욕타임스 기사 (도전해 보세요~) 뉴욕타임스는 특히 백인 얼굴의 경우, 실제 백인의 사진보다 가상 사진이 더 실물인 것처럼 인식되는 걸로 나타났다고 전했습니다. 이른바 극사실주의(hyper-realism)이라고 불리는 현상으로, AI가 가상의 얼굴을 만들 때 학습하는 훈련 데이터 가운데 상당수가 백인 이미지이기 때문이라고 합니다. 훈련 양이 많은 분야에서 성적이 좋은 아주 당연한 결과인 셈입니다. (사실 AI 훈련이 지나치게 백인 이미지에 편중돼 있다는 건 이 업계에서는 널리 알려진 문제라고 합니다.) 연구 결과 중에 또 하나 재미있는 것은 가상 얼굴과 실물을 구분할 때 시험 참가자의 자신감이 높을수록 틀릴 가능성이 높은 걸로 나타났다는 점입니다. 연구에 참여했던 호주국립대학교 부교수인 에이미 다웰(Amy Dawel) 박사는 자신감이 과도하게 넘쳐나는 것을 보고 매우 놀랐다면서 이런 지나친 자신감이 사람들을 인터넷에서 더 취약하게 만들고 잘못된 정보에 더 쉽게 넘어가게 만든다고 설명했습니다. '딥페이크' 사기부터 여론 호도까지 가상 이미지의 폐해는 이미 사회 문제가 된 지 오랩니다. 딥페이크(deepfake)로 불리는 합성 영상이 사기, 음란물 제작 같은 범죄에 이용되거나 가짜 정치인 영상을 만드는 데 활용되면서 사회 전반에 악영향을 미치고 있습니다. 미국에서는 생성형 AI가 만든 가수 테일러 스위프트 영상에 속아 스위프트의 팬들이 돈을 뜯기는가 하면, 우리나라에서도 조인성, 송혜교 배우의 얼굴을 딥페이크로 합성한 투자 사기 영상이 논란이 되기도 했습니다. 특히 올해 대선을 앞둔 미국에서는 이 '딥페이크'가 선거의 최대 위협 요소 중 하나로 떠올랐습니다. SNS에 넘쳐나는 정치인 영상을 AI에게 학습시켜 가짜 영상을 만든 뒤 이를 다시 SNS에 올려 퍼뜨리는 방식인데, AI 기술 발달로 누구나 손쉽게 조작할 수 있게 되면서 대처가 쉽지 않은 상황입니다. 이미 바이든 대통령이 성소수자를 비하하거나 민주당 대선후보 출신인 힐러리 클린턴 전 미 국무장관이 공화당의 론 디샌티스 후보를 지지하는 영상 등이 문제가 된 바 있습니다. 사실 이런 혼란은 기술 발달과 함께 이미 어느 정도 예견된 것이기도 합니다. 하지만 이런 환경에서 혹시 모를 피해를 막기 위해서는 연구진의 이야기처럼 인터넷상에서 뭔가 판단이 필요할 때 지나친 자기 확신에 의존하기보다 신중하게 접근하는 것이 필요합니다. 어떤 일이든 자기 자신에게 엄격해지는 게 가장 안전한 길입니다.