O Tribunal Superior Eleitoral (TSE) reafirmou sua posição de proibição ao uso de deepfakes durante as campanhas eleitorais, mas destacou que para que um conteúdo se torne ilícito, é necessário que ele se apresente de forma realista. Essa diretriz surge em um contexto em que a tecnologia avança rapidamente, tornando cada vez mais desafiador distinguir entre o autêntico e o falso.
Em uma reunião recente em Boston, especialistas da OpenAI e da Meta chamaram a atenção para a crescente dificuldade em identificar vídeos e áudios manipulados por inteligência artificial. Durante o encontro do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, foi discutido o impacto dessa tecnologia nos tribunais, onde a verificação da autenticidade das provas pode se tornar um desafio significativo.
Shira Anderson, consultora de políticas da OpenAI, expressou preocupações sobre a evolução da chamada IA generativa, que produz conteúdos a partir de comandos. Para ela, “as imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”. Essa dificuldade levanta questões relevantes sobre a integridade das provas em processos judiciais.
Embora os especialistas reconheçam o potencial risco que os deepfakes representam, os dados atuais mostram que esses casos ainda são raros nos tribunais americanos. Um levantamento do Centro Federal do Judiciário revelou que apenas 15 de 931 juízes relataram ter lidado com um caso em que a autenticidade de uma prova foi contestada devido a suspeitas de manipulação.
O juiz federal Jesse Furman, que preside o comitê, observou que, apesar da expectativa de que os tribunais enfrentarão mais casos relacionados a deepfakes, a realidade ainda não reflete essa previsão. No entanto, a indústria e especialistas alertam que a dificuldade em identificar provas fabricadas com IA é uma preocupação crescente.
De acordo com Devin Norder, da Meta, os modelos de IA mais sofisticados geram conteúdos que podem ser indistinguíveis dos originais para o olhar humano, e a produção desses materiais é cada vez mais acessível em termos de tempo e custo. Em resposta a essa situação, tanto na Califórnia quanto na União Europeia, novos regulamentos têm sido propostos, exigindo a implementação de marcas-d’água para facilitar a identificação de conteúdos manipulados.
No entanto, Anderson enfatiza que não existe um método universal infalível para autenticar essas marcas ou garantir a veracidade total de um conteúdo visual. A falta de um sistema padronizado entre as diferentes empresas mantém a verificação sujeita a limitações, gerando um cenário onde o avanço contínuo da tecnologia pode tornar a luta contra a desinformação ainda mais complexa.
Crédito da imagem: Foto: Pixabay — PublicDomainPictures (pixabay)
