AI로 제작된 가상 이미지에 기반한 허위 주장

문제의 주장은 2023년 5월 7일 "바포멧 북 클럽"이라는 글귀와 함께 텔레그램에 공유됐다.

게시글에는 총 10장의 이미지가 공유됐고, 이 이미지들에는 모두 악마를 연상케 하는 복장을 착용한 아이들과 어른들이 도서관으로 보이는 공간에 앉아있는 모습이 등장한다.

같은 사진들이 이 네이버 블로그 게시글에도 공유됐는데, 이 게시글에는 사진에 등장하는 아이들이 "사탄에 빠진 자들의 자녀들"이며 해당 사진들은 "사탄콘의 10주년 기념행사"에 맞춰 공개된 것이라는 주장이 포함됐다.

Image

문제의 주장이 공유된 페이스북 게시글 스크린샷. 2023년 5월 11일 캡쳐.

동일한 사진들이 유사한 주장과 함께 영어와 스페인어 페이스북 사용자들 여기와 여기, 그리고 국내 페이스북, 다음 카페, 네이버 블로그 사용자들 사이에서도 공유됐다.

하지만 이 사진들은 실제 아이들을 촬영한 것이 아니며 이미지 생성 인공지능(AI) 기술을 통해 생성된 가상 이미지들이다.

AI 생성 이미지

게시글에 공유된 모든 이미지에는 "The Pumpkin Empress"라는 워터마크가 새겨진 것을 알 수 있었는데, 이를 활용한 구글 검색을 통해 해당 이미지를 최초로 공유한 사용자의 인스타그램과 페이스북 계정을 찾을 수 있었다 (아카이브 링크 여기와 여기).

해당 이미지들이 최초 공유된 페이스북 게시글은 이 사진들이 온라인상에 반복적으로 공유되자 한 차례 수정됐는데, 사용자는 게시글에 "[사진 속 장면은] 실제가 아니다. 나는 이 사진들을 인공지능 프로그램을 활용해 제작했다. 사진 속 아이들은 실제 인물이 아니며 이 의식 또한 실제로 진행된 것이 아니다"라는 설명을 추가했다.

사용자는 AFP와 서면 인터뷰를 통해 해당 이미지는 미드저니(Midjourney)라는 인공지능 이미지 생성 프로그램을 통해 제작됐다고 밝혔다.

이 사용자은 5월 9일 게재한 별도의 페이스북 게시글을 통해 이미지 제작 과정을 공개하며 "사진 속 아이들은 실재하지 않고 컴퓨터로 생성됐기 때문에 사진 제작 과정에 아이들이 피해를 보았다는 주장은 사실이 아니다"라며 사진들은 "오직 재미를 위해 제작된 것"이라고 부연했다 (아카이브 링크).

사용자가 추가로 공개한 스크린샷에는 온라인 메신저 디스코드에 탑재된 미드저니 AI에 "도서관에서 오각성 문양이 새겨진 양탄자 위에 앉아 있는 아이들의 모습"을 생성하라는 명령어가 입력된 화면과 그 결과로 생성된 이미지가 등장한다.

시각적 단서

AFP는 과거에도 전문가들의 자문을 기반으로 AI를 통해 생성된 이미지와 실제 사진을 구별하는 방법에 관해 보도한 바 있다.

전문가들은 특정 이미지가 AI로 생성된 것인지 아닌지를 판별할 때 사용할 수 있는 시각적 단서들로 일관성 부족, 흐린 부분, 손 모양 등을 예시로 들었는데, 특히 이미지 생성 AI가 현재까지 손가락 등을 제대로 묘사하지 못하고 있음을 지적했다.

바포메트를 숭배하는 아이들의 모습이라는 주장과 함께 공유된 사진 속에도 이러한 단서를 찾을 수 있었는데, 한 사진에는 아이들의 손에 다섯 개 이상의 손가락이 달려있었으며, 다른 사진에는 아이들의 얼굴 혹은 팔다리가 제대로 생성되지 않은 것을 알 수 있었다.

Image

잘못된 주장과 공유된 두 장의 이미지. AI 생성 이미지임을 나타내는 시각적 단서는 붉은색으로 표시.

사탄콘

몇몇 게시글에 언급된 사탄콘(SatanCon) 역시 소설미디어에서 공유된 이미지들과 무관하다.

사탄콘은 사탄의 성전(The Satanic Temple)이라는 조직이 2023년 4월 28일에서 30일까지 보스턴에서 진행한 행사다 (아카이브 링크).

사탄의 성전은 공식 웹사이트를 통해 스스로를 "세계 주요 사탄주의 교단"이라며 "세속주의와 개인의 자유를 지키고 진전시키기 위해 대형 행사 등을 개최하며 전 세계에 조직을 갖추고 있다"라고 소개하고 있다 (아카이브 링크).

사탄의 성전 관계자는 2023년 5월 8일 AFP와 서면 인터뷰를 통해 해당 이미지는 AI를 통해 제작된 것으로 보인다며 사탄콘 행사와는 무관하다고 말했다.