A primeira reação aos deepfakes foi perguntar se conseguiríamos distinguir um vídeo falso de um verdadeiro. Era uma pergunta natural quando a tecnologia ainda produzia rostos estranhos, mãos deformadas e movimentos artificiais.
Essa fase está terminando. A geração de imagem, voz e vídeo melhora rapidamente. Em algum momento, a pergunta deixa de ser “consigo perceber que é falso?” e passa a ser “como provo que é verdadeiro?”. Essa inversão é muito mais importante.
O dividendo do mentiroso
Se todos sabem que vídeos podem ser fabricados, uma pessoa flagrada em um vídeo verdadeiro ganha uma nova defesa: dizer que foi gerado por IA. A existência da falsificação reduz a força da evidência autêntica.
Esse fenômeno é às vezes chamado de “liar’s dividend”: quanto mais conhecida a capacidade de falsificar, mais fácil fica negar registros reais. A tecnologia não precisa convencer a população de uma mentira específica. Pode simplesmente aumentar a incerteza geral.
Eleições são apenas a parte mais visível
O Stanford AI Index registrou desinformação eleitoral associada a IA em diversos países durante 2024. Ainda é difícil medir quanto esse conteúdo efetivamente mudou votos, e qualquer afirmação grandiosa precisa ser tratada com cuidado.
Mas política é apenas uma aplicação. Golpes com voz sintética, pornografia não consensual, falsificação de executivos, fraude financeira e ataques reputacionais podem atingir pessoas e empresas sem qualquer eleição envolvida.
O custo da verificação vai subir
Produzir informação falsa está ficando mais barato. Verificar informação continua caro. Isso cria uma assimetria econômica: milhares de peças sintéticas podem ser geradas em minutos, enquanto jornalistas, empresas, tribunais e indivíduos precisam investigar uma a uma.
É possível que parte da internet passe a exigir mecanismos de proveniência, assinaturas digitais, registros de origem e cadeias de custódia para conteúdos sensíveis. Não porque tudo precise ser autenticado, mas porque alguns tipos de evidência não poderão mais depender apenas dos nossos olhos.
A confiança pode migrar do conteúdo para a origem
Durante décadas, vimos uma fotografia e perguntamos se ela parecia real. No futuro, talvez perguntemos de onde veio, quem a assinou, qual dispositivo a registrou e se há um histórico verificável de alterações.
Isso seria uma mudança cultural profunda. A autenticidade deixaria de ser principalmente uma propriedade perceptiva e passaria a ser uma propriedade de infraestrutura.
Nem toda solução será tecnológica
Detectores de deepfake ajudam, mas existe uma corrida inevitável entre geração e detecção. Educação midiática, protocolos de verificação, reputação de fontes e responsabilidade jurídica continuarão sendo necessários.
O maior risco da realidade sintética não é vivermos em um mundo onde todo mundo acredita em tudo. É vivermos em um mundo onde ninguém acredita em nada quando acreditar seria inconveniente.
