전 필리핀 대통령 로드리고 두테르테가 딸 사라의 부통령 역할과 2028년 대선 출마를 지지하라는 내용의 바이럴 영상이 AI 생성으로 확인됐다. 인공지능 사용을 밝히지 않은 이 영상은 소셜 미디어에서 13만3000회 이상 조회됐다. 팩트체커들은 탐지 도구를 사용해 조작된 것으로 확인했다.
12월 3일 게시된 영상에는 로드리고 두테르테가 필리핀인들에게 말하는 듯한 모습이 나오며, 오버레이 텍스트는 'PANAWAGAN NI DIGONG SA TAONG BAYAN'으로 '디공의 국민에 대한 호소'라는 의미다. 영상에서 그 인물은 타갈로그어로 말한다: 'Mga kababayan, buong tapang kong ipinapanawagan ang inyong buong suporta sa aking anak na si Inday sa kaniyang tungkulin bilang bise-presidente at sa kaniyang pagtakbo bilang presidente ng Pilipinas sa 2028.' 이는 '동포 여러분, 제 딸 인데이의 부통령 역할과 2028년 필리핀 대통령 출마에 대한 여러분의 전폭적인 지지를 대담하게 호소합니다.'로 번역된다.
연사자는 또한 자신의 생명에 대한 두려움을 표현하며, 자신의 명예와 자유를 '파괴'한 자들이 여전히 권력을 쥐고 있다고 주장하고 덧붙인다: 'Kaya buong-lakas kong iniiwan kay Inday ang responsibilidad na ituloy ang laban. Siya ang tatayo para sa bayan. Siya ang maniningil. Siya ang [mag]papanagot.' 이는 '그래서 저는 전력을 다해 인데이에게 싸움을 계속할 책임을 맡깁니다. 그녀가 국민을 위해 나설 것입니다. 그녀가 청구할 것입니다. 그녀가 책임을 물을 것입니다.'라는 의미다. AI 면책 고지가 없어 시청자들은 이를 진짜로 받아들이고 있으며, 한 댓글 'Bring tatay home…yes tay'는 42개의 긍정 반응을 받았다.
탐지 도구가 조작을 확인했다. Hive Moderation은 99.9% AI 생성 또는 딥페이크 가능성으로 플래그했다. Deepware Scanner의 Avatarify 모델은 82% 딥페이크 콘텐츠를 감지했으며, Sight Engine은 스크린샷을 98% AI로 평가하고 OpenAI의 GPT-4o 모델 생성 확률 64%로 판단했다. 주목할 점은 인물 뒤에 국제형사재판소(ICC) 로고가 나타난다는 것으로, 두테르테가 마약과의 전쟁 관련 반인도적 범죄로 3월 11일 네덜란드 헤이그에서 체포된 것을 참조한다. ICC는 최근 그의 임시 석방 항소를 기각하며 도주나 범죄 재발 등의 위험을 상쇄할 조건이 부족하다고 밝혔다.
사라 두테르테 부통령은 아버지 체포 전에 2028년 대선 출마를 암시했다. 2024년 1월 그녀는 다음 선거에 참가하겠다고 밝혔으나 구체적 직위는 명시하지 않았다. 2월에는 대통령직을 진지하게 고려 중이라고 인정하며 필리핀이 다른 동남아 국가들에 뒤처진 점을 지적했다. 그녀는 집으로 돌아오는 아버지 체포를 앞두고 3월 홍콩 행사에서 이를 재확인했다.
Rappler는 이전에 두테르테를 가상 시나리오에 배치한 유사한 AI 생성 사진과 영상을 반박한 바 있다.