A ilusão de Deus: por que o Papa é tão fashionable como imagem deepfake | Inteligência synthetic (IA)
Para o papa, period o tipo errado de Madonna.
A lenda pop, ela do hino dos anos 80, Like a Prayer, gerou polêmica nas últimas semanas ao postar imagens deepfake nas redes sociais que mostram o pontífice abraçando-a. Atiçou as chamas de um debate que já está acirrado sobre a criação da arte da IA, na qual Papa Francisco desempenha um papel simbólico e relutante.
O chefe da Igreja Católica está acostumado a ser alvo de falsificações geradas por IA. Uma das imagens definidoras do growth da IA foi Francis em uma jaqueta Balenciaga. Uma imagem notavelmente realista que se tornou viral em março do ano passado e foi vista por milhões de pessoas. Francisco, porém, não viu o lado engraçado. Ele aludiu à imagem da Balenciaga em um discurso sobre IA em janeiro onde ele alertou sobre o impacto dos deepfakes.
“As notícias falsas… hoje podem empregar 'deepfakes', nomeadamente a criação e difusão de imagens que parecem perfeitamente plausíveis, mas falsas – eu também fui objeto disso”, disse ele.
Outros deepfakes incluem Francis envolto em uma bandeira do Orgulho e segurando um guarda-sol na praia. Tal como acontece com a imagem da Balenciaga, foram criadas pela ferramenta Midjourney AI.
O artista digital italiano por trás do Madona imagens, RickDick, disse que não pretendia ofender com as imagens, que mostram Francis com o braço na cintura da cantora e depois abraçando-a. Outra imagem na página de RickDick no Instagram tem mais probabilidade de ofender, mostrando uma foto do rosto do papa perfeitamente mesclada com a de Luigi Mangione, o suposto assassino do executivo-chefe da UnitedHealthcare, Brian Thompson.
RickDick disse que a imagem de Mangione pretendia satirizar a obsessão on-line pelo americano, que está “elevando-o a uma figura divina”.
“Meu objetivo é fazer as pessoas pensarem e, se possível, sorrirem”, disse o artista, que trabalha sob o apelido de RickDick, mas não quis informar seu nome completo.
Ele disse que os memes – imagens virais que são infinitamente ajustadas e recicladas on-line – são a nossa “nova cultura visible, e eu os considero fascinantes por sua capacidade de comunicar rapidamente ideias profundas”.
O papa é um alvo óbvio para deepfakes, de acordo com especialistas, porque existe uma vasta “pegada” digital de vídeos, imagens e gravações de voz relacionadas com Francisco. Os modelos de IA são treinados na Web aberta, que está repleta de conteúdo com figuras públicas famosas, desde políticos a celebridades e líderes religiosos.
“O papa é frequentemente apresentado aos olhos do público e há grandes volumes de fotos, vídeos e clipes de áudio dele na internet aberta”, disse Sam Stockwell, pesquisador associado do Instituto Alan Turing do Reino Unido.
“Uma vez que os modelos de IA são frequentemente treinados indiscriminadamente com esses dados, torna-se muito mais fácil para estes modelos replicar as características faciais e a semelhança de indivíduos como o papa, em comparação com aqueles que não têm uma pegada digital tão grande.”
RickDick disse que o modelo de IA que ele usou para criar as fotos de Francisco, que foram postadas em sua conta do Instagram e depois republicadas por Madonna, foi treinado especificamente em imagens do papa e da estrela pop, em uma plataforma paga chamada Krea.ai. No entanto, imagens realistas de Francisco também podem ser criadas facilmente com modelos de acesso livre, como o Secure Diffusion, que permite aos usuários colocá-lo em uma bicicleta ou em um campo de futebol com alguns comandos simples.
Stockwell acrescenta que há também o apelo óbvio de justapor uma figura poderosa a situações incomuns ou embaraçosas – um ingrediente básico da sátira.
“Ele está associado a regras e tradições rígidas, então algumas pessoas gostariam de falsificá-lo em situações incomuns em relação a esse contexto”, disse ele.
Adicione IA à mistura satírica e isso significa que é provável que haja mais deepfakes papais.
“Gosto de usar figuras públicas, objetos, moda e eventos para provocar o pensamento, misturando o absurdo com o não convencional”, disse RickDick. “É como trabalhar com um quebra-cabeça sem fim, buscando sempre novas conexões criativas. O papa é apenas um dos meus temas favoritos para trabalhar.”