성갈등 조장하는 AI 이미지

'한국 남자들은 기본적으로 예비 범죄자죠'라는 자막이 달린 한 여성의 사진이 실제 인터뷰 장면으로 오인돼 소셜미디어상에서 반복적으로 공유됐다. 이 사진은 최근 딥페이크 성 착취물이 텔레그램 단체 대화방 등을 통해 대량 유포돼 수사가 진행 중인 가운데 퍼지기 시작했다. 그러나 이 사진은 인공지능(AI)으로 제작됐다. AI로 만든 패러디물을 주로 공유하는 콘텐츠 크리에이터가 해당 사진을 인스타그램에 최초로 게재했는데, 온라인 커뮤니티에 유포되는 과정에서 AI 이미지라는 설명이 누락된 것으로 파악됐다.

문제의 사진은 10월 14일 '남자가 무서워요'라는 제목으로 온라인 커뮤니티 보배드림에 게재됐다.

한남동에 거주하는 박아랑이라는 여성의 인터뷰 장면으로 보이는 이 사진에는 '한국 남자들은 기본적으로 예비 범죄자죠. SNS 사진도 다 내렸거든요. 딥페이크 예방 차원에서...'라는 자막이 달렸고 얼굴은 블러 처리됐다.

이미지 좌측 상단 코너에는 '"남자가 무서워요" 눈물'이라는 문구가 보인다.

조회수가 16만을 넘긴 이 게시글에는 수백 개의 댓글이 달렸다. 

Image
보배드림 게시글 스크린샷. 2024년 10월 18일 캡처.

이 사진은 소셜미디어 플랫폼 엑스스레드를 비롯해 디시인사이드, 퀘이사존, 뽐뿌, 핫게이토랜드, 바다, 코인판, 네이버 카페 등 여러 온라인 커뮤니티에도 퍼졌다.

지난 8월 말 딥페이크 성 착취물이 텔레그램 단체 대화방 등을 통해 대량 유포돼 논란이 됐다. 이에 대해 수사를 진행 중인 경찰은 올해 1월 1일부터 10월 14일까지 딥페이크 성범죄 사건과 관련해 피의자 474명을 검거했다고 밝혔다 (아카이브 링크 여기, 여기). 

게시글 댓글창에는 사진 속 여성의 외모를 비하거나 적대적이고 여성 혐오적인 댓글로 넘쳐났는데, 이를 통해 많은 사람들이 이 사진을 실제 인터뷰 장면으로 오해했음을 알 수 있었다.

그러나 해당 사진은 AI로 제작됐다.

AI 이미지

구글 역 이미지 및 키워드 검색을 통해 문제 사진과 동일한 사진이 10월 10일 '화성인 릴도지'의 인스타그램 계정에 게재된 것을 알 수 있었다 (아카이브 링크).

해당 게시글에는 'AI로 제작된 가상이미지입니다'라는 설명이 붙었다.

Image
'화성인 릴도지' 인스타그램 게시글 스크린샷. 2024년 10월 15일 캡처. 'AI로 제작된 가상이미지입니다'라는 설명을 빨간색으로 표시함.

'화성인 릴도지'의 인스트그램유튜브 채널에는 AI로 만든 패러디 콘텐츠가 주로 공유됐는데 이들 영상의 조회수는 수십만 회에서 수백만 회에 달한다 (아카이브 링크).

인스타그램 계정은 현재 삭제된 것으로 보이는데 문제 사진과 비슷한 스타일의 이미지를 유튜브 채널에서 확인할 수 있었다 (아카이브 링크).

Image
문제 사진과 비슷한 스타일의 이미지 스크린샷. '화성인 릴도지' 유튜브 채널 캡처.

이 외에도 페미니즘 커뮤니티에서 한국 남성들을 부정적인 맥락에서 일컬을 때 주로 사용되는 표현인 '한남'이 인터뷰이의 거주지로 표기된 점과 사진 속 여성이 남성 비하의 의미가 담긴 것으로 알려진 '집게손' 모양을 하고 있는 점 등은 문제 사진이 반페미니즘 정서를 조장하기 위해 의도적으로 제작된 사진이 아닌가 의심케 하는 대목이다 (아카이브 링크).

팩트체크 신청하기

문의