10 ago O deepfake mais importante do Brasil avisou que era deepfake

Na coluna passada, escrevi que o problema da inteligência artificial não é consciência de máquina, é governança.

Duas semanas depois, o Brasil resolveu ilustrar o argumento com um caso melhor do que qualquer exemplo que eu conseguiria inventar.

Os dois lados da discussão — e por que discordo dos dois

No sábado, 25 de julho, na convenção nacional do PL, um vídeo gerado por inteligência artificial colocou Jair Bolsonaro na tela para dizer que estava “preso e silenciado por uma decisão injusta e arbitrária” e endossar a candidatura do filho. O vídeo abria com aviso de que era uma simulação feita com IA. O PT acionou o TSE. O relator é Kassio Nunes Marques — que também preside o tribunal — e o julgamento deve ser pautado para a semana do dia 17, um dia após começar a propaganda eleitoral.

De um lado, o pânico: “a IA vai decidir a eleição”. Discordo. Um vídeo legendado, exibido num palco, diante de câmeras de TV, com o partido inteiro assumindo a autoria, é a forma menos perigosa de conteúdo sintético que existe. Do outro lado, a tese da defesa: deepfake é uma coisa, IA generativa é outra, e aquilo ali era caricatura moderna — primo do boneco inflável e do santinho.

Discordo dessa também, e aqui falo como advogado de formação. O art. 9º-C, § 1º da resolução de propaganda do TSE proíbe usar conteúdo sintético para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia, ainda que mediante autorização. E, em maio deste ano, o próprio TSE já havia decidido que essa vedação é objetiva: “a mera adulteração de conteúdo digital com finalidade eleitoral basta para configurar a irregularidade, independentemente de prova quanto à sua capacidade de induzir o eleitor”. A corte afastou, naquele caso, os argumentos de humor e de precariedade técnica da montagem.

Ou seja: o mérito jurídico já está quase todo decidido. O que sobra para agosto é uma pergunta menor e mais interessante — se um rótulo bem colocado cria uma exceção que a norma não escreveu. A norma dispensa autorização. Sobre aviso, ela não diz nada.

Os dois lados estão brigando pelo caso errado. O que importa nesse julgamento não é o vídeo. É o que ele revela sobre o que acontece quando o próximo não avisar.

O escândalo não é a regra. É a arquitetura de fiscalização

Digo isso com algum carinho pela profissão: a resolução do TSE é boa. Rotulagem obrigatória com regra específica por formato — no início da peça em áudio, marca d’água e audiodescrição em imagem estática. Multa de R$ 5 mil a R$ 30 mil pelo art. 57-D da Lei das Eleições. Cassação de registro ou de mandato por abuso de poder político. E a novidade deste ciclo, incluída em março pela Resolução 23.755: fica proibido publicar, republicar ou impulsionar conteúdo sintético com imagem ou voz de candidato nas 72 horas antes e nas 24 horas depois do pleito.

Agora olhe como isso vira fiscalização na prática. O TSE regulamentou o Pardal Móvel, que passa a receber denúncias de propaganda irregular a partir de 16 de agosto, com autenticação por e-Título ou Gov.br. O que não cabe no Pardal vai para o SIADE, o sistema de alertas de desinformação, ou para os canais do Ministério Público Eleitoral. E, em 16 de julho, Meta, X, Telegram, ByteDance, Kwai, LinkedIn e Google Brasil assinaram memorandos de entendimento e aderiram ao Programa Permanente de Enfrentamento à Desinformação.

Repare no que essas três camadas têm em comum: todas começam depois. Denúncia de cidadão, alerta de partido, moderação voluntária de plataforma. É um desenho que pressupõe que alguém percebeu. Ele foi feito para outdoor irregular, carro de som e santinho na porta de escola — não para um áudio de dezenove segundos circulando em quatro mil grupos de WhatsApp às dez da noite de um sábado.

Regra sem capacidade de detecção não é regulação. É jurisprudência retroativa.

Onde a maioria das colunas desta quinzena vai errar

A leitura óbvia vai ser eleitoral: o TSE libera ou proíbe, e o que isso significa para outubro. Aposto que quase ninguém vai puxar o fio que me interessa — a eleição é o ensaio, não o espetáculo. E o ensaio já foi feito, com resultado público.

O NetLab, da UFRJ, monitorou por pouco mais de três meses e encontrou 198 anúncios fraudulentos usando a imagem de Paolla Oliveira. Anúncios, não posts: rodando nas plataformas da Meta, com alguém pagando para distribuir. Desses, 191 levavam a canais no Telegram onde um robô simulava conversa com a atriz para vender deepfake pornográfico dela. Como resumiu Marie Santini, diretora do laboratório, quem produz monetiza — e no meio do caminho a plataforma também ganha, porque foi paga para distribuir.

Guarde as duas datas. Em 16 de julho, Meta e Telegram assinaram com o TSE um programa de enfrentamento à desinformação. Em 20 de julho, entrou em vigor o Decreto 12.976, que dá às plataformas duas horas, após notificação, para tirar do ar conteúdo íntimo não consentido ou fabricado por IA. Duas horas. O NetLab levou três meses e uma universidade federal para achar 198 anúncios pagos com o rosto de uma atriz nacionalmente conhecida.

Paolla Oliveira tem advogado, assessoria e o Fantástico. A adolescente vítima da mesma montagem, feita no mesmo aplicativo, não tem nenhum dos três.

E existe o lado que não entra na pauta de costumes, que é onde trabalho todo dia. A Serasa Experian registrou 6,9 milhões de tentativas de fraude só no primeiro semestre de 2025 — uma a cada 2,3 segundos, com 53,7% mirando bancos e emissores de cartão. Mas o número que diz mais do que qualquer manchete é da Sumsub: no Brasil, a fraude de identidade caiu 10% entre 2024 e 2025, enquanto deepfake e identidade sintética subiram 126%. O país concentra hoje quase 39% de todos os deepfakes da América Latina.

Leia essas duas linhas juntas. A fraude que a gente aprendeu a detectar está diminuindo. A que a gente não detecta mais que dobrou. Isso não é uma onda de criminalidade nova. É migração para o canal onde ninguém está olhando.

A ironia que o Brasil devia usar a seu favor

Na estreia, eu disse que o Brasil não está atrasado na corrida errada: não temos e não precisamos ter modelo de fronteira. Continuo achando. Mas existe uma corrida em que estar atrasado sai caro, e é essa: detectar.

Detecção com um sinal só falha, e falha rápido. Detector de imagem morre na primeira recompressão do WhatsApp. Detector de áudio erra quando o falso foi gravado com ruído de rua por cima. O ponto no qual a mentira quebra quase nunca está dentro de um sinal — está entre eles: o fonema que não bate com o movimento do lábio, o eco da sala que existe no áudio e não existe no cômodo do vídeo, o roteiro com marca de geração que a voz executa perfeito demais.

É por isso que estamos construindo, pela Ermis aqui na HugLabs o NOVA (Neural Origin Verification & Authentication): o primeiro modelo brasileiro de detecção que cruza texto, voz, imagem e vídeo num julgamento só, em vez de somar quatro opiniões separadas e torcer para que alguma acerte. Não é altruísmo, é leitura de mercado. E é exatamente a camada que falta para a regra do TSE valer alguma coisa fora dos autos.

Isso não se resolve com bilhões de dólares em GPU. Resolve com harness: arquitetura, procedimento e prova. É a tese da coluna passada, mas com outra roupa.

Minha aposta

O TSE vai decidir alguma coisa sobre aquele vídeo e aposto que a decisão vai importar bem menos do que estão dizendo. Porque o deepfake capaz de mexer numa eleição não vai ter aviso, não vai estar num palco com câmera de TV e não vai ser publicado por um partido com CNPJ e advogado constituído. Vai aparecer numa sexta à noite, num grupo fechado, sem autoria, e vai ser removido na terça — após rodar o fim de semana inteiro.

Prefiro estar errado. Mas todo prazo de remoção que este país escreveu em 2026 só começa a correr depois da notificação. E a notificação depende de alguém perceber.

Perceber é justamente o que ninguém no Brasil consegue fazer em escala hoje.

Até a próxima coluna.