Sites clonaram voz e imagem de Lula e Bolsonaro para produzir fake news

Ferramentas que permitem a criação de áudios e vídeos na internet simulando imagem e voz de personalidades, incluindo políticos, expõem uma nova trilha para a desinformação e os potenciais danos provocados pela circulação de fake news no processo eleitoral. A tecnologia surgiu há pelo menos cinco anos nos Estados Unidos, mas foi de um ano para cá que os mecanismos possibilitando a invenção em português se disseminaram.

O GLOBO encontrou quatro sites na internet nos quais, para criar uma locução em deepfake com vozes reais, basta ao usuário digitar o texto e clicar no botão. Dois desses sites possuem geradores de vozes de políticos brasileiros, incluindo Jair Bolsonaro (PL) e Luiz Inácio Lula da Silva (PT). A ex-presidente Dilma Rousseff (PT) e o deputado estadual Arthur do Val (sem partido) também tiveram as vozes clonadas. Youtubers famosos, como Felipe Neto, e jornalistas também estão na lista.

Segundo a procuradora Neide Cardoso, coordenadora-adjunta do Grupo de Apoio sobre Criminalidade Cibernética do Ministério Público Federal (MPF), deepfakes são difíceis de rastrear, ou seja, pode ser complicado para um candidato atingido retirar a gravação falsa do ar ou mesmo conseguir a punição do responsável pela desinformação. Segundo ela, uma preocupação das autoridades eleitorais é o fato de que algumas ferramentas estão hospedadas fora do Brasil.

— Estaremos sempre sujeitos a isso, porque não há tempo hábil (durante a campanha eleitoral) para pedir cooperação internacional e a retirada desse conteúdo do ar. O dano é inimaginável. Por mais que se desminta, o resultado da retratação nunca vai ser o mesmo — declarou Neide.

As equipes jurídicas dos pré-candidatos à Presidência vêm montando grupos para monitorar o alastramento de notícias falsas, embora ainda não tenham estratégias específicas para combater as deepfakes. Profissionais consultados pelo GLOBO demonstraram não saber o que fazer caso sejam disseminadas falsas declarações com vozes clonadas de seus candidatos.

Vozes retiradas

Criador de um dos sites que simulam vozes de políticos, o programador amador Cristhian Reinhard é atendente de telemarketing em Campo Grande (MS) — nas horas vagas, criou o site com a ajuda de dois amigos. Reinhard diz que está ciente do risco de mau uso de sua ferramenta, mas afirma que pesquisou a legislação brasileira e diz que não vê chance de ser responsabilizado judicialmente em um processo de difamação. Algumas das vozes de políticos do site foram retiradas recentemente.

O programador afirma que a maior parte dos áudios criados no site são peças de humor, mas, a despeito do propósito da plataforma, o GLOBO conseguiu simular declarações da ex-presidente Dilma semana passada usando a plataforma. Em outro site, a reportagem conseguiu criar falas de Lula e Bolsonaro usando a ferramenta de text-to-speech (“texto-para-fala”). As três declarações que o GLOBO produziu para ilustrar como é fácil criar áudios e atribui-los a políticos são apenas trechos genéricos de obras de William Shakespeare. Para gerar as declarações, não foi preciso pagar nem digitar uma única linha de código de programação.

A facilidade de se criar softwares para deepfakes se deve à disponibilização de “bibliotecas” de códigos de programação abertas.

Um dos sites consultados pelo GLOBO é produzido pelo cientista da computação Brandon Thomas, de Atlanta (EUA), que tem atuação na área de bioinformática. Há mais de 1.400 vozes no catálogo, a maioria em inglês e ligada a personagens de videogame ou de desenhos animados. Políticos americanos, incluindo os últimos cinco presidentes dos Estados Unidos, também compõem o catálogo. De meio ano para cá, começaram a aparecer mais vozes de pessoas reais falantes de português e espanhol.

O sucesso que o site está fazendo com frequência o torna sobrecarregado e lento para dar conta de todos os usuários que o acessam. Mantê-lo no ar custa caro. “Mais de US$ 10 mil por mês”, afirmou Thomas a usuários do site em um fórum de discussão. Ao GLOBO, ele tratou como exagerado o temor com os deepfakes.

— Tenho certeza que temores similares surgiram quando o Photoshop foi lançado, mas nós aprendemos a viver com ele. Ninguém acreditou naquelas imagens manipuladas de tubarões saltando da água e atacando helicópteros. As pessoas se adaptaram — diz ele.

Caminho no Whatsapp

Os deepfakes que circulam no Brasil não parecem ser, ainda, tentativas de abalar a reputação de candidatos. Um vídeo, por exemplo, mostra o ex-presidente Lula com um pote de paçocas na mão reclamando que o produto teria sido vendido vazio. A cena, na verdade, foi criada pelo jornalista Bruno Sartori, que se especializou em usar o instrumento para produzir peças de humor.

Analistas acreditam que, pela facilidade de produção e de transmissão via WhatsApp, deepfakes em áudios podem ser mais usadas que em vídeos, que consomem mais pacote de dados dos usuários de celular — pesquisas de mercado já apontaram que cerca de 80% dos usuários do aplicativo usam o recurso de enviar áudios.

Diretor do Comprova, projeto que verifica a autenticidade de informações divulgadas na internet, Sérgio Lüdtke minimiza os riscos e pondera que não é preciso de recursos tecnológicos para espalhar mentiras.

— O que a gente viu de 2019 para cá, quando o deepfake começou a ser temido, foi que conteúdos mais simplórios e singelos acabaram preponderando. Não é necessário produzir conteúdo sofisticado para reforçar ou mudar a opinião das pessoas — diz Lüdtke.

Pré-campanha tem proliferação de notícias falsas nas redes

Lula (PT)

O ex-presidente foi alvo de vídeos com recortes enganosos sobre suas falas. Um deles acusava Lula de mentir sobre ter fundado um clube em Pernambuco que data de 1901 — o petista, porém, referia-se a um time de futebol amador de mesmo nome. Em dezembro, uma publicação de Carlos Bolsonaro sugerindo que Lula deu refinarias da Petrobras à Bolívia foi marcada como falsa pelo Instagram. O post buscava associar a suposta doação à alta do preço dos combustíveis hoje em dia. O governo Lula, na verdade, entrou em acordo para vender as refinarias.

Jair Bolsonaro (PL)

O presidente foi alvo de uma postagem com informação falsa, compartilhada por perfis identificados à esquerda, dizendo que ele teria sido chamado de “noivinha do Aristides” por um motorista na Via Dutra, o que não ocorreu. A expressão foi associada nas postagens a um suposto episódio de sua vida privada. A facada sofrida na campanha eleitoral em 2018 também já gerou desinformação de opositores, que acusam o episódio de ter sido armado, e de apoiadores, que citaram um suposto complô. Ambas as teses foram desmentidas pela PF.

Sergio Moro (Podemos)

Perfis de apoiadores do PT circularam informações, sem documentos que lhes dessem lastro, de que Moro teria uma “vida de milionário” nos Estados Unidos, com uso de itens de luxo e moradia num distrito nobre. Em resposta, o ex-juiz apontou que não morava na residência cujas imagens eram exibidas nas postagens e chegou a apresentar os contracheques referentes a seu contrato com a consultoria norte-americana Alvarez & Marsal.

Ciro Gomes (PDT)

O pedetista já foi alvo de desinformação envolvendo uma suposta defesa ao aparelhamento das Forças Armadas no Brasil, em postagens que usaram uma versão editada de uma entrevista dada por Ciro no ano passado. O vídeo completo mostra que o presidenciável falava sobre rever o currículo de formação de militares no país, e não fez menção a propostas de readequação “inspiradas na Venezuela”, como acusava a publicação compartilhada principalmente por perfis bolsonaristas.

João Doria (PSDB)

O governador de São Paulo foi alvo de notícias falsas envolvendo seu comportamento durante medidas restritivas no estado, decretadas por conta da pandemia da Covid-19. No início de 2020, parlamentares da base de Bolsonaro fizeram publicações com vídeos de uma festa supostamente realizada pelo filho de Doria na casa do governador, burlando as regras de decretos contra aglomerações. As postagens misturaram vídeos anteriores à pandemia e de uma casa onde o governador não mora.

O Globo