Após polêmica com o Grok, senado dos EUA aprova projeto de lei contra deepfakes sexuais
Texto autoriza vítimas a processar criadores de imagens sexuais por IA sem consentimento
Congresso dos EUA | Reprodução/Getty Images
O Senado dos Estados Unidos aprovou por unanimidade, na terça-feira (13), um projeto de lei que autoriza vítimas a processarem os responsáveis pela criação de imagens sexuais geradas por inteligência artificial (IA) sem consentimento.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google DiscoverA medida vem após uma polêmica envolvendo o Grok, assistente de IA da rede social X. O recurso foi utilizado por usuários para gerar e disseminar milhares de conteúdos sexualizados de mulheres e crianças nas últimas semanas. Essas imagens manipuladas são conhecidas como "deepfakes".
A proposta, batizada de Defiance Act (Lei de Desafio, na tradução livre), cria um direito civil federal que permite às vítimas buscar amparo legal para processar, buscar indenizações e obter ordens de restrição contra autores de conteúdos pornográficos ou vexatórios.
O texto é um complemento de uma lei sancionada em 2024, que obriga as responsáveis pelas redes sociais a removerem conteúdos explícitos não consensuais em até 48 horas após a solicitação da vítima.
O senador democrata Dick Durbin, de Illinois, solicitou a votação da proposta. No plenário, ele afirmou que as imagens produzidas pela inteligência artificial são "horríveis".
"Denúncias recentes mostraram que o X, antigo Twitter, pode pedir ao seu chatbot de IA, Grok, para despir mulheres e meninas menores de idade em fotos", disse o parlamentar. "O Grok obedece e mostra vários estágios de nudez, com cenas que não vou descrever de novo para constar nos autos, mas são horríveis", pontuou.
Co-patrocinada pelo senador republicano Lindsey Graham, da Carolina do Sul, a Lei Defiance se soma à Lei Take It Down (Lei "derrube isso", na tradução literal), sancionada por Donald Trump em maio do ano passado. Ela estabelece penas criminais para aqueles que distribuem intencionalmente imagens explícitas sem o consentimento das vítimas.
Para ser sancionada, a Lei Defiance ainda precisa da aprovação da Câmara dos Deputados.
Repercussão internacional
De acordo com dados da Bloomberg, o X se tornou um dos maiores recintos para a disseminação de imagens sexualizadas feitas por IA sem o consentimento das vítimas. Em uma análise de 24h do conteúdo publicado pela conta @Grok, a pesquisadora Genevieve Oh identificou a geração de 6.700 imagens, classificadas como explícitas ou sugestivas, a cada hora.
O grande volume e o consequente alcance das imagens sexualizadas de mulheres e crianças gerou repercussão internacional. Malásia e Indonésia restringiram o acesso ao assistente de IA e, no Reino Unido, o recurso foi alvo de uma investigação do governo.
O bilionário Elon Musk, que é dono da rede social, afirmou nesta quarta-feira, 14, que não sabia que o assistente criou conteúdos explícitos. "Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", publicou no X.
"Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado", acrescentou.
Reação
Apesar da defesa de Musk, o próprio Grok já admitiu, no começo de janeiro, que "falhas nos mecanismos de proteção" ocasionaram a criação das imagens de cunho sexual. Na época, a empresa disse estar implementando melhorias para evitar esse tipo de ocorrência.
Na última sexta-feira (9), a xAI, que cuida do recurso de inteligência artificial do X, limitou a ferramenta criação de imagens do Grok a usuários do plano premium, para conter a repercussão negativa e o surgimento de novas denúncias.
De acordo com a empresa, os usuários que utilizarem o recurso para criar imagens explícitas sofrerão as mesmas penalidades aplicadas aos que publicam material ilegal diretamente na rede social.
