A crescente sofisticação da tecnologia de inteligência artificial está transformando a forma como consumimos e avaliamos conteúdos digitais, especialmente em contextos críticos como as campanhas eleitorais. Em uma recente reunião em Boston, especialistas da OpenAI e da Meta alertaram que os deepfakes — vídeos e áudios gerados por IA — estão se tornando cada vez mais difíceis de distinguir de materiais autênticos. Esse fenômeno levanta questões sobre a integridade das evidências apresentadas em tribunais, especialmente nos Estados Unidos, onde a discussão sobre a admissibilidade desses conteúdos já está em andamento há três anos.
Shira Anderson, consultora de políticas da OpenAI, enfatizou que “as imagens geradas por IA estão ficando cada vez melhores”, sugerindo a possibilidade de que, no futuro, não haja uma maneira científica eficaz de detectá-las. Apesar dos temores, o número de casos judiciais envolvendo deepfakes ainda é surpreendentemente baixo; apenas 15 dos 931 juízes consultados em uma pesquisa relataram ter enfrentado disputas relacionadas a provas contestadas por serem potencialmente fabricadas.
O juiz federal Jesse Furman, que lidera o comitê responsável pela discussão, destacou que, embora haja uma expectativa crescente sobre o impacto dos deepfakes nos tribunais, a realidade atual ainda não refletiu essa preocupação. No entanto, especialistas alertam que o risco de falsificações impactar processos judiciais é real e crescente, uma vez que a tecnologia avança rapidamente e a produção de deepfakes se torna mais acessível em termos de custo e tempo.
Em resposta a esses desafios, Califórnia e União Europeia estão implementando legislações que exigem a utilização de marcas-d’água em conteúdos gerados por IA, a fim de ajudar na identificação e autenticação desses materiais. Contudo, Anderson observou que a eficácia desses métodos de verificação é limitada, uma vez que cada empresa desenvolve seus próprios sistemas. “Não acho que algum dia será à prova de falhas”, concluiu.
À medida que a tecnologia evolui, a necessidade de uma abordagem robusta e adaptável para lidar com deepfakes se torna cada vez mais evidente. A questão não é apenas a capacidade de criar conteúdo convincente, mas também como a sociedade lidará com as implicações éticas e legais resultantes dessa nova realidade digital.
Crédito da imagem: Foto: Pixabay — PublicDomainPictures (pixabay)
