전문가 'AI 사용된 흔적 없어... 비행기 선체에 반사된 모습은 왜곡된 것'

문제의 주장은 8월 13일 페이스북에 공유됐다.

게시글 작성자는 "해리스 난리났다! AI로 군중 조작 후 美 민주당 뒤집혀! 집회현장 충격모습!"이라는 문구가 적힌 유튜브 영상 섬네일 이미지와 링크를 공유하며 해리스 부통령은 "사기 조작의 선전 선동꾼"이라고 주장했다.

영상 속 진행자는 트럼프 전 대통령이 며칠 전 소셜미디어에서 주장한 내용을 인용하며 이 같은 주장을 펼쳤다고 말한다. 

Image

문제 주장이 공유된 페이스북 게시글 스크린샷. 2024년 8월 26일 캡처.

트럼프 전 대통령은 지난 11일 자신이 만든 소셜미디어 플랫폼인 트루스소셜에 "카멀라가 공항에서 속임수를 쓴 것을 알아챈 사람이 있느냐"라며 "그녀는 AI를 이용해 소위 추종자들로 구성된 대규모 '군중'을 보여줬다. 하지만 그들은 존재하지 않았다!"라고 주장했다. 

트럼프 전 대통령이 문제 삼은 사진은 8월 7일 미시간주 로물루스에 있는 디트로이트 메트로폴리탄 웨인 카운티 공항에서 촬영됐는데 수많은 지지자들의 환호를 받으며 전용기에서 내리는 해리스 부통령의 모습이 담겼다.

그는 이어 "그 공항의 정비사가 가짜 군중 사진을 알아채고 그녀를 신고했지만 그곳에는 아무도 없었고, 이후 부통령 전용기의 거울 같은 표면에 반사된 모습을 통해 확인됐다. 그녀는 사기꾼이다"라며 "그녀는 후보 자격이 박탈돼야 한다. 가짜 사진을 만드는 것은 선거 개입이기 때문이다"라고 덧붙였다.

Image

도널드 트럼프 전 미국 대통령이 트루스소셜에 올린 게시글 스크린샷. 2024년 8월 12일 캡처.

이 주장은 조 바이든 대통령이 경선에서 물러나며 해리스 부통령을 민주당 후보로 지지한다고 밝힌 뒤 미국 대선이 새 국면을 맞은 가운데 제기됐다.

보수 성향의 소셜미디어 이용자들과 음모론자들 사이에서 먼저 퍼진 후에 비행기 표면에 반사된 장면을 사진 조작의 증거로 제시한 보수 논객 척 칼레스토(Chuck Callesto)의 엑스 게시글을 트럼프 전 대통령이 공유하면서 문제 주장은 소셜미디어상에서 더욱 확산됐다. 

미국과 우리나라를 비롯해 세계 각국에서 선거가 치러지는 올해 인공지능 기술의 빠른 발전은 여론 조작 등에 악용되는 등 그 폐해도 커지고 있다.

그러나 디트로이트 유세 현장 사진이 조작됐다는 주장은 사실이 아니다.

8월 7일 미시간주 디트로이트 유세 현장을 취재한 AFP 영상기자에 따르면 당시 해리스 부통령과 그의 러닝메이트인 부통령 후보 팀 월즈 미네소타 주지사를 보기 위해 수천 명의 인파가 결집해 공항 격납고를 가득 메우고 활주로까지도 이어졌다.

Image

미국 민주당 대통령 후보인 카멀라 해리스 부통령이 2024년 8월 7일 미시간주 로물루스에 있는 디트로이트 메트로폴리탄 웨인 카운티 공항에서 열린 유세에 도착해 무대에 오르고 있다 (AFP / JEFF KOWALSKY)

Image

미국 민주당 대통령 후보인 카멀라 해리스 부통령이 2024년 8월 7일 미시간주 로물루스에 있는 디트로이트 메트로폴리탄 웨인 카운티 공항에서 대선 유세를 하고 있다 (AFP / JEFF KOWALSKY)

여러 언론매체가 촬영한 생중계 영상과 사진, 집회 참석자들이 찍어서 소셜미디어에 공유한 사진과 영상을 통해서도 이날 유세 현장에 몰린 인파를 확인할 수 있었다 (아카이브 링크 여기, 여기, 여기, 여기, 여기).

일부 민주당원들은 유세장에서 직접 촬영한 사진을 소셜미디어에 공유하며 트럼프 전 대통령의 발언을 조롱했는데 라보라 반스(Lavora Barnes) 미시간 민주당 의장은 엑스에 "디트로이트에서 @kamalaharris와 @tim_walz를 열렬히 환영하는 1만 5000여 민주당원들의 AI 이미지를 누가 만들었건 친절하게 연단에 나를 넣어줘서 고맙다"라고 비꼬았다 (아카이브 링크 여기, 여기).

AFP는 트럼프 선거캠프 측에 입장 표명을 요청했으나 즉각 답을 받지 못했다.

AI 사용 흔적 없음

문제가 된 사진은 해리스 선거캠프 측 관계자가 다른 직원에게 전달받은 사진이라며 엑스에 처음 게시한 것으로 보이는데, 이와 관련해 해리스 캠페인 측에 확인을 요청했으나 즉각 답변을 받지 못했다 (아카이브 링크).

영국의 BBC 방송국은 해리스 선거캠프 측으로부터 원본사진을 확보했으며 해당 사진의 메타데이터를 확인한 결과 촬영 시간이 해리스 부통령이 유세장에 도착한 시간과 일치하는 것을 확인했다고 보도했다 (아카이브 링크).

또한 선거캠프 측은 문제 사진을 촬영한 직원이 같은 위치에서 촬영한 다른 사진들도 함께 보내왔는데 그중 어느 사진에서도 집회에 참석한 인파의 규모를 조작한 증거는 찾을 수 없었다고 밝혔다.

해리스 선거캠프 측 관계자는 BBC에 문제 사진은 "해리스 선거캠프 직원이 촬영했고 어떤 식으로든 AI로 수정되지 않았음을 확인할 수 있다"라고 전했다. 

이날 해리스 선거캠프는 엑스를 통해 "미시간에서 열린 해리스-월즈 집회에 모인 1만 5000명 군중의 실제 사진"이라며 원본사진을 공개했다 (아카이브 링크).

AFP는 사진의 밝기 보정 여부를 확인할 증거를 찾지 못했는데, 전문가들은 문제 사진에서 격납고에 모인 집회 참석자들 위로 드리운 그림자 형태로 인해 일부 사람들은 AI가 사용된 것으로 오인했을 수 있다고 말했다.

미국 캘리포니아대학교 버클리캠퍼스의 디지털 포렌식 전문가 해니 파리드(Hany Farid) 교수는 8월 12일 AFP에 "간단하게 명도/대비 그리고 아마도 선명도만 수정"한 것으로 보인다며, AI 사용 흔적을 감지하도록 설계된 두 가지 모델을 통해 확인한 결과 AI 흔적이 발견되지 않았다고 설명했다 (아카이브 링크).

미국 드렉셀대학교 전기컴퓨터공학과에서 정보 보안, 머신러닝, 위조 이미지 감지 기술 등을 연구하는 매튜 스탬(Matthew Stamm) 조교수도 같은 날 AFP에 특수 소프트웨어도 "이 사진이 AI로 생성됐다는 증거를 찾지 못했다"라고 말했다 (아카이브 링크).

한편 문제 사진에 포착된 몇몇 집회 참석자들은 이날 현장에서 촬영된 다른 사진들에서도 찾을 수 있었다 (아카이브 링크). 

다음은 해리스 선거캠프 직원이 엑스에 올린 사진과 MLive.com 웹사이트에 게재된 사진에서 일치하는 부분을 같은 색으로 표시했다.

Image

엑스 게시글 스크린샷. 2024년 8월 12일 캡처.

Image

MLive.com 웹사이트 스크린샷. 2024년 8월 12일 캡처.

비행기 선체에 반사된 모습

전문가들은 비행기 측면 표면에 반사된 이미지에 집회 참가자들이 보이지 않은 것은 트럼프 전 대통령의 주장처럼 아무도 없었기 때문이 아니라 사람들과 비행기 사이의 거리 그리고 선체의 각도 때문일 가능성이 크다고 말했다.

파리드 교수는 "비행기 선체처럼 볼록한 표면에서는 표면 위아래에 있는 물체가 가장 잘 보이고 반사에서 지배적이다"라며 "멀리 떨어져 있고 가운데에 있는 물체는 압축되어 잘 보이지 않는다"라고 설명했다. 

당시 현장 영상과 사진을 보면 집회 참가자들이 비행기로부터 거리를 두고 설치된 바리케이드 너머에 위치해 있음을 알 수 있다 (아카이브 링크).

스탬 교수는"인파가 비행기에서 상당히 떨어져 있는 것으로 보인다"라며 "촬영 각도와 비행기 선체가 곡선이라는 사실이 복합적으로 작용해 비행기 선체와 엔진은 비행기 바로 앞의 지면을 반사하게 된다"라고 말했다. 

또한 "카메라가 너무 멀리 떨어져 있기 때문에 반사면이 약간만 회전해도 반사된 이미지는 많이 움직이게 된다"라고 파리드 교수는 덧붙였다. 

예를 들어 비행기 측면에 반사된 한 구조물은 집회 참가자들이 밀집해 있던 격납고 옆에 위치해 있다. 

Image

트루스소셜 게시글 스크린샷. 2024년 8월 12일 캡처.

Image

미국 민주당 대선 후보인 카말라 해리스 부통령과 그의 러닝메이트 팀 월즈 미네소타 주지사가 2024년 8월 7일 미시간주 로물루스에 있는 디트로이트 메트로폴리탄 공항에서 유세를 하기 위해 도착하자 지지자들이 환호하고 있다 (AFP / JEFF KOWALSKY)

2024 미국 대선 관련 허위 주장을 검증한 AFP 기사는 여기에서 볼 수 있다.