Inteligência artificial aumenta desafios no combate a crimes cibernéticos

O combate aos crimes cibernéticos fica ainda mais desafiador com o avanço da inteligência artificial (IA): vídeos que parecem reais, mas são produzidos por IA, conquistam seguidores e podem levar pessoas a situações de risco, como a exploração sexual.

O assunto gera debates e levanta questões: como usar a inteligência artificial? Para que ela serve? Dá para confiar?

+ Justiça Federal dá 60 dias para YouTube adotar medidas contra publicidade infantil abusiva

Em uma escola de São Bernardo do Campo, no ABC Paulista, o uso das tecnologias é discutido dentro e fora da sala de aula. “Todos os meses a gente fala sobre um tema, traz essa conscientização. O que você vai escrever? O que você vai colocar? Por que a sua imagem está ali, e o que isso pode virar lá na frente, para o mal? É a vida deles, é a imagem deles, é a voz deles, e isso é para a vida. Ele colocou uma coisa na internet hoje, vai ficar para a vida”, explica a psicopedagoga e orientadora educacional Cíntia Negrini.

A inteligência artificial é capaz de gerar imagens e sons que seguem as mesmas regras dos originais, sem copiá-los. O resultado chega muito próximo da perfeição. E mesmo quem está atento pode cair em armadilhas, como o estudante Fabrício, que contratou um serviço para acessar o próprio servidor, mas acabou parando em grupos de que consomem conteúdo ilegal. “Essa manipulação de informações acabou acontecendo, eles me jogavam em alguns grupos de pornografia infantil”, conta.

Conscientizar crianças e jovens é um passo importante. Porém, mesmo sabendo distinguir o que é real do que é falso, o uso da inteligência artificial para manipular imagens, áudios e conteúdos preocupa especialistas. O tema virou objeto de estudo.

A ONG SaferNet, que atua na defesa dos direitos humanos na internet, identificou o uso crescente da IA na produção de material de abuso sexual infantil. De janeiro a julho deste ano, a organização recebeu mais de 49 mil denúncias (49.336) de pornografia infantil, um aumento de 18% em relação ao mesmo período do ano passado.

“A gente vê, por exemplo, celebridades, pessoas públicas e até anônimas que têm uma foto comum na rede social. Alguém vai lá, pega aquela imagem e usa um aplicativo para tirar a roupa dessa pessoa. Isso já tem sido usado no Brasil, e muitos casos chegaram até as escolas. Já há vítimas de conteúdos dessa natureza, que manipulam imagens de menores de idade, com o propósito de herotizar ou cometer algum tipo de abuso”, afirma Juliana Cunha, diretora de projetos da SaferNet.