O termo “deepfake”, cunhado há menos de uma década, refere-se a vídeos, fotos ou gravações de áudio alterados para mostrar pessoas fazendo ou dizendo coisas que nunca disseram ou fizeram.
Por Hannah Brockhaus / Catholic News Agency
Você ouviu o que o Papa Leão XIV disse sobre Charlie Kirk ou o presidente Donald Trump? O que ele pensa sobre o Arrebatamento ou se é aceitável ser cremado?
Estes são apenas alguns dos tópicos sobre os quais o pontífice parece ter falado longamente em vídeos que aparecem diariamente nas redes sociais. O problema é que os vídeos não são reais, e o Vaticano está lutando para combater sua disseminação.
A equipe de comunicação do Vaticano informou ter denunciado centenas de contas, a maioria no YouTube, que publicam vídeos falsos criados por IA — chamados de deepfakes — do Papa Leão desde o início de seu pontificado. Mas a batalha é árdua, com novas contas, vídeos e imagens aparecendo tão rapidamente quanto outros são removidos.
“Estamos testemunhando a proliferação exponencial de uma série de canais no YouTube com vídeos falsos, todos semelhantes entre si, alguns falando na voz de Leão XIV, outros na de seus tradutores, outros ainda na terceira pessoa. Todos usam inteligência artificial para fazer o papa dizer coisas que nunca disse”, afirmou o Dicastério para a Comunicação em comunicado à CNA.
Uma busca por “Papa Leão” no YouTube revelou dezenas de vídeos falsos do Santo Padre supostamente fazendo declarações que variam do plausível, como reflexões sobre a Eucaristia, ao improvável, como o anúncio de sua renúncia.
A maioria dos vídeos não recebeu mais do que algumas centenas de visualizações, mas alguns deepfakes começaram a viralizar. Um vídeo de 25 minutos alegando que o papa quebrou o silêncio sobre o assassinato de Charlie Kirk teve mais de 445.000 visualizações nos primeiros sete dias após sua publicação.
Um dos primeiros vídeos falsos a viralizar após a eleição de Leo parece mostrar o papa lendo uma declaração denunciando o colonialismo e elogiando o presidente interino de Burkina Faso, Capitão Ibrahim Traoré, um líder militar que chegou ao poder em um golpe em 2022. A CNA e o veículo oficial Vatican News publicaram artigos de checagem de fatos para alertar os leitores sobre as informações falsas. O vídeo de 36 minutos, postado logo após a eleição do papa em maio, recebeu pelo menos um milhão de visualizações antes que o YouTube encerrasse a conta que o publicou.
Deepfake
O termo “deepfake”, cunhado há menos de uma década, refere-se a vídeos, fotos ou gravações de áudio alterados para mostrar pessoas fazendo ou dizendo coisas que nunca disseram ou fizeram.
Leão, é claro, não é o primeiro papa a ter sua imagem alterada em vídeos. Em 2015, a apresentadora de TV Ellen Degeneres compartilhou um vídeo em seu programa do Papa Francisco puxando um pano branco de debaixo das velas de um altar. Uma imagem estática de Francisco vestindo um longo casaco branco de plumas viralizou em 2023.
Com a tecnologia avançando rapidamente para produzir imagens cada vez mais realistas, espectadores inocentes podem ser perdoados por confundir ficção com fato.
O próprio Papa Leão XIII observou recentemente um exemplo dessa confusão. Em entrevista à jornalista Elise Ann Allen, o papa relembrou sua surpresa quando um conhecido lhe perguntou, preocupado, se ele estava bem. Fotografias geradas por IA do papa aparentemente caindo de uma escadaria em frente à Basílica de São Pedro circularam na internet em junho. As imagens, que chamaram a atenção do site de checagem de fatos Snopes , eram “tão boas que eles pensaram que era eu”, disse Leão XIII.
A equipe de comunicação do Vaticano alertou sobre a proliferação de deepfakes em seu boletim informativo mensal por e-mail em agosto e convidou os leitores a denunciar postagens e vídeos suspeitos ao dicastério.
“Infelizmente, nosso dicastério recebe dezenas de relatos todos os dias sobre contas falsas que usam a imagem e a voz do papa de uma forma muito realista, usando cada vez mais inteligência artificial para fazer o papa dizer palavras que ele nunca proferiu, para retratá-lo em situações nas quais ele nunca se viu”, disse o boletim.
“Grande parte do nosso tempo é gasto denunciando, silenciando e solicitando a remoção dessas contas”, continuava a mensagem. “Dado o enorme volume de material falso, é impossível refutar publicamente cada um deles.”
A declaração do dicastério à CNA afirma que o Vaticano não está apenas denunciando contas falsas em suas plataformas, mas também está “trabalhando para conscientizar nosso público sobre esse novo fenômeno. Acreditamos ser essencial investir na alfabetização midiática”.
O Vaticano também lembrou aos leitores que devem confiar em fontes oficiais, como os próprios sites do Vaticano, para verificar as citações: “Se não estiver lá, provavelmente é falso”.