AI 생성 이미지에 기반한 허위 주장

문제 이미지는 2월 10일 "(최)근 일어난 미국 LA 산불"이라는 글귀와 함께 페이스북에 공유됐다.

다음은 게시글에서 발췌한 내용이다. 

"불을 끄기 위해 최선을 다했지만 직접 끌수가 없으니 소방관 모두가 무릎 꿇고 기도하는 것입니다. 어쩌면 소방관으로서 진정한 '최후 소임'을 다한 것이라 볼 수 있겠습니다."

Image

문제 주장이 공유된 페이스북 게시글 스크린샷. 2월 13일 캡쳐

허리케인급 강풍이 몰아치는 가운데 1월 7일 로스앤젤레스 주변에서 발생한 화재는 40,000 에이커(16,000헥타르)를 집어삼키고 약 30명의 목숨을 앗아간 후, 3주 만에 완전히 진화되었다 (아카이브 링크).

캘리포니아 남부 로스앤젤레스 카운티에서 발생한 팔리세이즈 화재와 이튼 화재는 로스앤젤레스 역사상 가장 파괴적인 화재로 기록됐으며, 37,000 에이커(150제곱킬로미터) 이상과 10,000채 이상의 주택을 태우고 수천억 달러에 달하는 피해를 초래했다.

동일한 이미지가 유사한 주장과 함께 페이스북 여기, 여기, 여기에도 공유됐다. 

그러나 이 이미지는 AI로 생성된 것으로, 실제 사진이 아니다. 

AI 이미지

구글 역 이미지 검색을 통해 해당 이미지를 공유한 한국어 게시글보다 앞서 공유된 게시물들을 찾을 수 있었는데, 그중 일부는 우측 하단 모서리에 "AI로 제작된 이미지(picture from AI)"라는 워터마크가 달렸다 (아카이브 링크 여기, 여기). 

그러나 한국어 게시글에 공유된 이미지에는 이 설명이 잘렸다. 

구글에서 제공하는 "이미지 정보"에도 역시 해당 이미지가 "구글 AI로 생성"됐다고 나타내는 설명이 붙었다. 

Image

해당 사진이 구글 AI로 제작됐음을 나타내는 구글 "이미지 정보" 스크린샷

구글의 DeepMind AI 연구소는 2023년 구글 AI로 생성된 이미지를 디지털 워터마킹하고 식별할 수 있는 도구 SynthID를 출시했다 (보관된 링크).

구글 공식 웹사이트는 "사용자가 검색 또는 크롬의 '이미지 정보' 기능을 통해 이미지 전체 또는 일부가 구글의 AI 도구로 생성됐는지 확인할 수 있다"라고 설명하고 있다 (아카이브 링크).

디지털포렌식 전문가들 역시 사진에서 AI 기술이 사용된 흔적이 발견됐다고 설명했다. 

미국 버펄로 대학교 미디어 포렌식 연구소(Media Forensics Lab) 류 시웨이 (Siwei Lyu) 소장은 AFP와 인터뷰에서 해당 이미지가 "AI로 생성되었을 가능성이 매우 높다"라고 밝혔다 (아카이브 링크).

류 교수는 소방관 방화복에 적힌 글자와 소방차 전면 부분의 불균일성, 폭과 색상이 변하는 도로 표시선과 같은 시각적 요소들을 고려하면 이를 실제 사진으로 보기 어렵다고 말했다. 

Image

AI 생성 흔적을 여러 색상으로 표시한 문제 이미지 스크린샷

미국 퍼듀대학교의 후 슈(Shu Hu) 머신러닝 및 미디어포렌식 연구소장 역시 사진 속 그림자의 불규칙성을 지적하며 문제 사진이 AI로 제작됐을 가능성이 높다고 분석했다 (아카이브 링크).

앞서 로스앤젤레스 화재와 관련된 다른 사진 및 영상이 여러 차례 온라인상에 공유된 적이 있었는데, AFP는 취재를 통해 이들 역시 AI를 활용해 제작됐음을 검증한 바 있다.