손 전 사장 사칭한 허위 광고... 전문가 'AI 기술로 조작된 딥페이크 영상'
- 이 기사는 작성된 지 1 년이 지났습니다
- 입력 월요일 2023/12/01 09:43
- 4 분 읽기
- SHIM Kyu-Seok, AFP 한국
저작권 © AFP 2017-2025. 구독 없이 저작물을 영리적인 목적으로 사용하는 것을 금합니다. 자세한 정보는 여기서 확인하실 수 있습니다.
문제의 영상은 2023년 11월 20일 "은행들은 이 새로운 방법을 두려워하며 이를 단계적으로 폐지하려고 노력하고 있습니다"라는 내용의 페이스북 광고 게시글에 공유됐다.
1만 2천 이상의 조회를 기록한 이 영상에는 손 전 사장이 "소숙희"라는 이름으로 등장해 "한국인을 위한 혁신적 플랫폼을 개발해 AI기반 투자를 통해 재정적 자유를 위한 길을 열었다"라며 "오백 원만 투자하면 매월 최대 십오천 원의 수익을 올릴 수 있습니다"라고 말한다.
이어 "인생을 바꿀 수 있는 기회를 놓치지 마세요"라며 게시글에 기재된 링크를 클릭하여 신청하라고 권유한다.
2021년 JTBC 총괄사장직에서 물러난 손 전 사장은 순회특파원 직을 맡아오다 지난 9월 JTBC 입사 10년 만에 퇴사한 것으로 알려졌다 (아카이브 링크).
이와 유사한 방식으로 손 전 사장을 앞세운 광고가 조선일보 제호 등을 달고 반복적으로 공유됐다.
해당 광고는 2022년 12월 29일 자 조선일보 보도의 형태를 띠고 있는데, 손 전 사장이 특정 암호화폐 거래 프로그램을 통해 거액을 벌었다는 내용이 어색한 문장으로 적혀있다.
다음은 해당 광고에서 발췌한 내용이다.
"지난 주, (손 전 사장)은 라이브 영상 통화에 초대되었고, 3-4 개월 안에 누구든지 백만장자로 만들 수 있는 새로운 '제벌들의 투자 비밀' 을 발표했습니다.손석희 사장은 한국의 모든 사람들에게 대형 은행들이 뛰어들어서 기회를 막기전에 멋진 기회를 놓치지 말라고 강력히 권고했습니다."
한국일보, 한겨레 등 여러 국내 언론 보도에 따르면 최근 김종인 전 국민의힘 비상대책위원장, 장하준 영국 케임브리지대 교수 등 유명 인사들을 사칭해 투자를 권유하는 허위광고들이 페이스북 등 소셜미디어를 중심으로 확산하고 있다.
손 전 사장을 사칭한 유사한 내용의 게시글들이 네이버 블로그, 다음 카페 여기와 여기에도 공유됐다.
그러나 이들은 모두 손 전 사장을 사칭한 허위 광고들로, 딥페이크 기술 및 언론사 로고 무단 도용 등을 통해 조작된 것이다.
딥페이크 영상
구글 역 이미지 및 키워드 검색을 통해 조작된 영상의 원본이 2018년 7월 30일 JTBC 공식 유튜브 채널에 게시된 것을 알 수 있었다 (아카이브 링크).
원본 영상에는 JTBC 유튜브 채널이 구독자 70만 명을 달성한 데에 감사를 표하고 구독자들에게 JTBC 시청 경험 관련 설문조사에 응답해 달라고 요청하는 손 전 사장의 모습이 담겼다.
5분 13초 분량의 영상 어디에서도 투자, 암호화폐, AI 등과 관련된 언급은 등장하지 않는다.
조작된 영상에 사용된 장면은 원본 영상의 3분 26초~3분 43초 부분, 그리고 3분 51초 부분~4분 3초 부분에 해당한다.
원본 영상 속 해당 부분에서 손 전 사장은"JTBC 유튜브에서 꼭 챙겨보는 뉴스 콘텐트가 있다면 그것은 무엇일까? 그게 답이 나오면 저희들이 그 부분을 좀 더 강화한다든가 아니면 그에 못지않은 다른 콘텐트를 준비한다든가 그건 논의를 시작하겠습니다"라고 발언한다.
다음은 조작된 영상(좌)과 원본 JTBC 유튜브 영상(우) 속 두 장면을 비교한 것이다.
두 영상 비교를 통해 조작된 영상에는 손 전 사장의 목소리를 모방한 AI 음성이 사용됐으며 이에 맞춰 손 전 사장의 입 모양이 변조됐음을 확인할 수 있었다.
숭실대학교 전자정보공학부 정수환 교수는 11월 27일 AFP와 서면 인터뷰에서 조작된 영상 속 음성은 AI를 활용한 '딥보이스' 기술로 합성된 것이 맞다며 딥페이크 음성을 탐지하는 소프트웨어로 이를 확인했다고 설명했다 (아카이브 링크).
연세대학교 정보대학원 권태경 교수 역시 두 개의 딥페이크 탐지 모델을 통해 설험해 본 결과 영상이 조작된 것으로 판정했다고 말했다 (아카이브 링크).
허위 광고
한편 과거 웹 기록 검색사이트인 '웨이백머신'을 통해 확인한 2022년 12월 29일 자 조선일보 홈페이지와 비교를 통해 언론 보도를 가장한 광고 역시 조작됐음을 알 수 있었다.
별도의 조선일보 홈페이지 및 구글, 네이버 검색을 통해 손 전 사장이 투자를 권유하거나 투자 플랫폼 등을 홍보하는 내용을 담은 보도는 찾을 수 없었다 (아카이브 링크).
다음은 조선일보 보도를 가장한 허위 광고(좌)와 아카이빙 웹사이트에 수록된 2022년 12월 29일 자 실제 조선일보 홈페이지 모습(우)을 비교한 것이다.
오마이뉴스는 지난 9월 23일 동일한 광고와 관련해 손 전 사장과 연락이 닿았다고 보도했는데, 기사에 따르면 당시 JTBC 순회특파원으로 활동하고 있었던 손 전 사장은 허위 광고가 자신의 이미지를 무단 도용했다고 밝히며 이를 수개월 전부터 인지하고 있었으나 JTBC 법무팀으로부터 법적 대응의 방법이 없다고 통보받았다고 말했다 (아카이브 링크).
팩트체크 신청하기
문의