É de todo repugnante para a liberdade geral … quando a lei invade o domínio do pensamento especulativo e as opiniões são julgadas e condenadas da mesma maneira que os crimes, ao mesmo tempo que aqueles que as defendem e seguem são sacrificados não em prol da segurança pública, mas do ódio e da crueldade de seus oponentes. Se somente atos fossem motivo de persecução criminal e fosse permitido às palavras correrem soltas…. as sublevações ficariam privadas de qualquer simulacro de justificativa, ficando separadas da mera controvérsia por uma linha clara e definida.
Trecho retirado do livro “The Age of Louis XIV”, escrito por Will Durant (1885-1981) e Ariel Durant (1898-1981) sobre o pensamento do filósofo holandês de origem judaica Baruch Spinoza (1632-1677)
E ao mesmo tempo devo confessar que certos inconvenientes podem surgir às vezes de tais liberdades. Mas quem já criou alguma coisa de maneira tão sábia que nenhum mal poderia surgir de sua criação? Aquele que deseja estabelecer leis para tudo irá estimular as imperfeições ao invés de diminuí-las. O que não pode ser proibido precisa ser permitido, mesmo que às vezes isso cause malefícios.
Retirado do Tractatus Theologico-Politicus de Baruch Spinoza
Assim, com a sofisticação e popularização de algoritmos, cresceu também o desafio de compreender o que é verdade. Os deepfakes – vídeos, imagens e áudios manipulados por meio da IA – se consolidaram como ferramentas centrais de fraudes digitais de todos os tipos. Eles variam de golpes financeiros, que exploram a imagem de celebridades, a manipulações políticas cada vez mais verossímeis.
Trecho retirado do artigo “Evolução da inteligência artificial desafia compreensão da verdade”, publicado na edição do jornal O Estado de São Paulo de 2 de fevereiro
Prezados leitores, vocês já assistiram a Vladimir Putin tocando bateria e Donald Trump tocando guitarra em uma mesma festa onde se reúnem vários líderes mundiais? Ou um avatar de Vladimir Putin fazendo perguntas ao Vladimir Putin real? Eu já assisti e achei engraçado, sabendo perfeitamente que os vídeos eram uma fantasia e não atribuindo nenhum significado àquilo a não ser o de entretenimento. Por outro lado, vários candidatos às eleições municipais de 2024 em todo o Brasil usaram um vídeo do William Bonner promovendo sua candidatura, de acordo com informações de Beatriz Farrugia, pesquisadora do laboratório DFRLab. Nesse caso, o objetivo não é simplesmente fazer o espectador dar umas boas risadas e esquecer a peça. O objetivo é influenciar o voto da pessoa, valendo-se da credibilidade do apresentador do Jornal Nacional da Rede Globo para chancelar um candidato.
É o que hoje chamam de deepfakes, conforme a definição apresentada no texto que abre este artigo. As possibilidades infinitas de criação de conteúdo digital com base em pessoas de carne e osso são notícia nos órgãos da mídia tradicional, que naturalmente tem muito a perder com a proliferação de fontes de informação que não passam pelo crivo da verificação à qual são submetidos os jornais e revistas da era analógica. Mas será que essas criações são uma novidade do século XXI? É forçoso reconhecer que não. Os meios utilizados podem ter mudado, mas histórias sobre pessoas reais sempre foram contadas para influenciar a opinião de terceiros sobre elas. Vou dar-lhes um exemplo.
Durante a Revolução Francesa, a rainha Marie Antoinette (1755-1793) foi alvo implacável dos autores de panfletos que a mostravam como uma devassa, louca por sexo. Em uma dessas figuras, Marie Antoinette toca o pênis gigante e ereto do embaixador da Suécia na França, Axel von Fersen (1755-1810) e olha embevecida para o homem e seu membro. Para quem não sabe, Fersen passou para a história como amante de Marie Antoinette, mas não restou nenhuma prova cabal de que eles tenham consumado sexualmente sua paixão mútua. E no entanto, os panfletistas da segunda metade do século XVIII, querendo desmoralizar a monarquia, retratavam a rainha da França em situações indecorosas e libidinosas.
A propaganda negativa a respeito das taras sexuais de Marie Antoinette foi tão eficaz que, uma das acusações que foram feitas a ela em seu julgamento, o qual durou de 12 a 15 de outubro de 1793, foi a de ter tido relações sexuais com seu filho Louis-Charles (1785-1795), então com oito anos de idade. E por essa suposta perversão sexual e por traição ao país ela foi condenada à morte na guilhotina, em 16 de outubro. De forma que se pode dizer com certeza que os panfletos lançados regularmente sobre Marie Antoinette prepararam o espírito da opinião pública para não considerar a acusação de incesto como absurda, pelo contrário, passível de inclusão em um processo criminal.
Se as deepfakes têm uma longa história no Ocidente que remonta ao século XVIII, o que fazer em pleno século XXI? Criminalizar a produção de conteúdos mentirosos sobre personagens reais? Punir quem utiliza a voz de pessoas conhecidas para veicular as mensagens desejadas pelo produtor do conteúdo? Baruch Spinoza nos dá uma orientação a esse respeito. Para o filósofo oriundo de uma família de judeus que havia emigrado de Portugal para a Holanda para escapar da intolerância religiosa instituída pela Inquisição da Igreja Católica, a liberdade de pensamento era um elemento essencial da vida em sociedade.
Conforme o trecho que abre este artigo, para Spinoza criminalizar aquilo que as pessoas diziam ou escreviam da mesma forma que certos atos das pessoas eram criminalizados – como matar e roubar –, era um grande erro, pois criava uma categoria ampla demais, a do rebelde, que tanto poderia ser aquele que vociferava contra o governo do conforto do seu lar ou do seu esconderijo, como aquele que passava à prática e atuava para derrubar o regimre matando civis e militares, atacando e destruindo prédios públicos e por aí vai. O melhor seria estabelecer uma distinção clara entre o crime, que requeria uma ação, e a opinião dissidente, que era apenas crítica desprovida de atuação no mundo concreto. Para Spinoza, sem essa distinção os atos contra a ordem pública poderiam ter uma aura de crítica intelectual, que daria credibilidade à rebeldia, minando a estabilidade social. O filósofo nascido em Amsterdã reconhecia os inconvenientes da liberdade de pensamento, mas conforme o trecho que abre este artigo, criminalizá-la traria mais desvantagens do que vantagens, pois submeteria aqueles acusados de delito de opinião à perseguição e à crueldade de seus inimigos, que usariam a lei em prol de seus interesses individuais para calar críticas à sua atuação e ao seu comportamento em sociedade e não em prol da coletividade.
Prezados leitores, assunto espinhoso este, quando consideramos o impacto que as deepfakes podem ter em época de eleição, em um momento na história em que a mídia tradicional perde cada vez mais clientes e portanto, perde o poder de influência de que gozou no Ocidente desde o século XVIII até o século XX. O que fazer? Deixar o conteúdo produzido por IA correr solto em nome da liberdade de pensamento e do sopesamento dos prós e contras? Ou tentar fechar a caixa de Pandora cheia de surpresas proporcionada pelo avanço tecnológico? A resposta não é óbvia, mas fica a lição de Baruch Spinoza, ainda válida depois de 500 anos: em uma sociedade livre e próspera o governo não deve se intrometer nas opiniões dos cidadãos. No longo prazo esta é a melhor receita para que cada indivíduo tenha a melhor chance de concretizar suas potencialidades intelectuais. E não é este o objetivo do ser humano?