AI로 조작된 영상... 원본 영상, 한국어 연설 담겨

문제의 영상은 2023년 12월 6일 "놀라운 수준의 김 여사 영어 연설"이라는 글귀와 함께 네이버 밴드에 공유됐다.

영상에는 유창한 영어로 연설하는 김 여사의 모습과 연설에 해당하는 한국어 자막 등이 담겼는데, 김 여사의 입 모양이 영어 음성에 맞춰 움직이는 것을 알 수 있다.

영상에서 김 여사는 "예술과 디자인은 종교와 이념을 초월해 인간의 꿈을 하나로 모으는 가장 강력한 도구"라며 "미래는 예술과 디자인에 그 답이 있다고 생각한다"라고 말한다.

Image

문제의 주장이 공유된 네이버 밴드 게시글 스크린샷. 2023년 11월 8일 캡처.

동일한 영상이 유사한 주장과 함께 네이버 밴드, 그리고 페이스북 여기와 여기에도 공유됐다.

게시글에 남겨진 댓글을 통해 여러 사용자들이 이 영상을 김 여사의 실제 연설로 받아들인 것을 알 수 있었다.

하지만 이 영상은 AI 기술을 활용해 조작된 것이다.

조작된 영상

영상 속 자막에 등장하는 단어를 이용한 페이스북 키워드 검색을 통해 영어로 발언하는 김 여사의 모습이 담긴 동일한 영상이 11월 28일 Iza Helena라는 사용자의 인스타그램 계정에 게재됐음을 알 수 있었다 (아카이브 링크).

원본 변조 영상의 하단에는 "이 영상은 AI를 활용해 제작됐다"라며 "원본 영상은 한국어"라는 설명이 담긴 영어 문구가 삽입됐는데, 잘못된 주장과 함께 네이버 밴드 등에 재공유된 영상에는 해당 부분이 잘려나간 것을 확인할 수 있었다.

다음은 잘못된 주장과 공유된 영상(좌)과 Iza Helena 인스타그램 계정에 게재된 변조 영상(우)을 비교한 것이다.

Image

잘못된 주장과 공유된 영상(좌)과 Iza Helena 인스타그램 계정에 게재된 변조 영상(우) 비교

실제 연설 영상

별도의 유튜브 키워드 검색을 통해 김 여사의 실제 연설 영상을 KTV가 운영하는 채널 '윤니크'에서 찾을 수 있었는데, 원본 영상에는 김 여사가 한국어로 약 1분간 연설하는 것을 확인할 수 있다 (아카이브 링크).

영상은 11월 1일 서울의 코엑스에서 열린 디자인 산업 박람회 '디자인 코리아 2023' 개막식에서 축사하는 김 여사의 모습을 담고 있다 (아카이브 링크).

영상 속 김 여사의 연설 내용은 하단에 등장하는 한국어 자막과 일치한다.

다음은 잘못된 주장과 공유된 영상(좌)과 KTV가 촬영한 원본 영상(우)을 비교한 것이다.

Image

잘못된 주장과 공유된 영상(좌)과 KTV가 촬영한 원본 영상(우) 비교

김 여사의 디자인 코리아 2023 개막식 축사 내용은 연합뉴스, 조선일보 등 여러 국내 언론 보도에도 실렸는데, 그 어떤 보도에서도 김 여사가 영어를 사용했다는 내용은 찾을 수 없었다 (아카이브 링크 여기와 여기).

해당 영상과 별개로 김 여사가 영어로 연설하는 모습을 담은 영상 역시 찾을 수 없었다.