Após polêmica com o Grok, senado dos EUA aprova projeto de lei contra deepfakes sexuais

O Senado dos Estados Unidos aprovou por unanimidade, na terça-feira (13), um projeto de lei que autoriza vítimas a processarem os responsáveis pela criação de imagens sexuais geradas por inteligência artificial (IA) sem consentimento.

A medida vem após uma polêmica envolvendo o Grok, assistente de IA da rede social X. O recurso foi utilizado por usuários para gerar e disseminar milhares de conteúdos sexualizados de mulheres e crianças nas últimas semanas. Essas imagens manipuladas são conhecidas como "deepfakes".

+ Musk diz que não sabia que Grok gera imagens explícitas de menores

A proposta, batizada de Defiance Act (Lei de Desafio, na tradução livre), cria um direito civil federal que permite às vítimas buscar amparo legal para processar, buscar indenizações e obter ordens de restrição contra autores de conteúdos pornográficos ou vexatórios.

O texto é um complemento de uma lei sancionada em 2024, que obriga as responsáveis pelas redes sociais a removerem conteúdos explícitos não consensuais em até 48 horas após a solicitação da vítima.

+ Roblox passa a exigir verificação de idade para acesso ao chat em todo o mundo

O senador democrata Dick Durbin, de Illinois, solicitou a votação da proposta. No plenário, ele afirmou que as imagens produzidas pela inteligência artificial são "horríveis".

"Denúncias recentes mostraram que o X, antigo Twitter, pode pedir ao seu chatbot de IA, Grok, para despir mulheres e meninas menores de idade em fotos", disse o parlamentar. "O Grok obedece e mostra vários estágios de nudez, com cenas que não vou descrever de novo para constar nos autos, mas são horríveis", pontuou.

+ IA registra uso de celular ao volante e outras infrações; entenda

Co-patrocinada pelo senador republicano Lindsey Graham, da Carolina do Sul, a Lei Defiance se soma à Lei Take It Down (Lei "derrube isso", na tradução literal), sancionada por Donald Trump em maio do ano passado. Ela estabelece penas criminais para aqueles que distribuem intencionalmente imagens explícitas sem o consentimento das vítimas.

Para ser sancionada, a Lei Defiance ainda precisa da aprovação da Câmara dos Deputados.

+ Google remove resumos de IA sobre saúde após alertas de informações falsas

Repercussão internacional

De acordo com dados da Bloomberg, o X se tornou um dos maiores recintos para a disseminação de imagens sexualizadas feitas por IA sem o consentimento das vítimas. Em uma análise de 24h do conteúdo publicado pela conta @Grok, a pesquisadora Genevieve Oh identificou a geração de 6.700 imagens, classificadas como explícitas ou sugestivas, a cada hora.

O grande volume e o consequente alcance das imagens sexualizadas de mulheres e crianças gerou repercussão internacional. Malásia e Indonésia restringiram o acesso ao assistente de IA e, no Reino Unido, o recurso foi alvo de uma investigação do governo.

+ xAI queimou quase US$ 8 bi em 2025 com aposta em data centers e robôs

O bilionário Elon Musk, que é dono da rede social, afirmou nesta quarta-feira, 14, que não sabia que o assistente criou conteúdos explícitos. "Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", publicou no X.

"Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado", acrescentou.

+ Por que o modelo aberto da DeepSeek está chamando a atenção do mercado de IA

Reação

Apesar da defesa de Musk, o próprio Grok já admitiu, no começo de janeiro, que "falhas nos mecanismos de proteção" ocasionaram a criação das imagens de cunho sexual. Na época, a empresa disse estar implementando melhorias para evitar esse tipo de ocorrência.

Na última sexta-feira (9), a xAI, que cuida do recurso de inteligência artificial do X, limitou a ferramenta criação de imagens do Grok a usuários do plano premium, para conter a repercussão negativa e o surgimento de novas denúncias.

+ ChatGPT Health: OpenAI lança ferramenta que permite analisar exames médicos

De acordo com a empresa, os usuários que utilizarem o recurso para criar imagens explícitas sofrerão as mesmas penalidades aplicadas aos que publicam material ilegal diretamente na rede social.