Deepfakes tornam-se desafiadores para identificação, afirmam especialistas

Na última quinta-feira (15), um grupo de especialistas em tecnologia da OpenAI e da Meta emitiram um aviso sobre a crescente dificuldade em distinguir vídeos e áudios gerados por inteligência artificial, conhecidos como deepfakes. O avanço dessa tecnologia está colocando em questão a verificação de provas em julgamentos nos Estados Unidos.

O sinal de alerta foi levantado durante um encontro em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, acompanhado pelo Reuters. Este comitê está discutindo há três anos estratégias para abordar os perigos que os materiais falsificados por IA representam nos tribunais.

Os especialistas destacam que os progressos realizados na IA generativa — tecnologia que cria conteúdos a partir de comandos — tornaram as falsificações quase impossíveis de serem detectadas, tanto por humanos quanto por softwares.

“As imagens criadas por inteligência artificial têm melhorado continuamente; não vejo como poderemos cientificamente detectá-las no futuro”, comentou Shira Anderson, consultora de políticas da OpenAI.

Desde 2023, o comitê tem discutido métodos para checar a autenticidade de materiais suspeitos de serem deepfakes e como assegurar que as provas oriundas de inteligência artificial sigam os mesmos critérios de confiabilidade aplicáveis a outros tipos de evidências, que também são analisadas por peritos humanos.

Embora essa questão desperte apreensão, ainda não foram registrados muitos casos em tribunais dos EUA. Em março, uma pesquisa feita pelo Centro Federal do Judiciário, um órgão de pesquisa do Judiciário dos EUA, revelou que apenas 15 dos 931 juízes consultados relatou ter enfrentado um caso onde a autenticidade de uma prova foi contestada por suspeita de ser um deepfake.

“Muitos especialistas e fontes têm previsto que os tribunais terão de lidar com deepfakes, mas até agora não temos visto muitos casos assim”, afirmou Jesse Furman, juiz federal de Manhattan e presidente do comitê.

Entretanto, representantes da indústria, academia e governo alertam que o risco é palpável. Para eles, a identificação de provas criadas com inteligência artificial se tornará cada vez mais complexa nos tribunais.

Devin Norder, diretor de gestão de produtos da Meta, declarou à Reuters que as criações dos modelos de IA mais sofisticados já são indistinguíveis, para os seres humanos, de mídias verdadeiras. Ele ressaltou também que a fabricação de tal conteúdo requer apenas pouco tempo e investimento.

Tanto OpenAI quanto Meta estão entre as principais empresas que estão desenvolvendo ferramentas e serviços voltadas à verificação da autenticidade de mídias visuais.

Legislação nova requer marcas d'água

Na Califórnia e na União Europeia, novas legislações adotaram a exigência de marcas d'água para facilitar a identificação de materiais produzidos por IA. Essas marcas funcionam como indicadores de origem ou ajudam na verificação das mídias.

Contudo, Anderson, da OpenAI, alertou que não existe uma solução universal que possa identificar todas essas marcas com segurança ou confirmar a autenticidade de um conteúdo visual específico. Sendo assim, como cada organização utiliza seu sistema próprio, a verificação permanece com várias limitações.

“Parece-me que essa tecnologia continuará a evoluir”, disse ela. “Dificilmente, conseguiremos um método que seja totalmente infalível.”