MPF e governo cobram medidas do X após denúncias de uso do Grok para criar imagens sexualizadas de mulheres e crianças

O governo brasileiro e o Ministério Público Federal se manifestaram pela primeira vez nesta terça-feira (20) sobre o Grok, sistema de inteligência artificial da plataforma X, após denúncias de que a tecnologia teria sido utilizada para criar imagens sexualizadas de mulheres e crianças reais, em alguns casos sem roupas, a partir de fotos compartilhadas nas redes sociais.

+ Idec pede suspensão do Grok após uso para criar imagens sexuais falsas sem consentimento

Em ação conjunta, o MPF, a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública, expediram recomendações formais à empresa controladora do X.

Entre as determinações, os órgãos exigem a implementação imediata de medidas técnicas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como conteúdos de adultos identificados ou identificáveis sem consentimento. As restrições devem valer para todos os planos, versões e modalidades da ferramenta.

+ Musk diz que não sabia que Grok gera imagens explícitas de menores

Além disso, as instituições recomendaram que a empresa:

• Crie, em até 30 dias, procedimentos técnicos e operacionais eficazes para identificar, revisar e remover conteúdos desse tipo que já tenham sido gerados pelo Grok e ainda estejam disponíveis na plataforma X;
• Suspenda imediatamente as contas envolvidas na produção de imagens sexuais ou erotizadas de crianças, adolescentes ou adultos sem autorização, aplicando de forma efetiva os próprios termos de uso da plataforma. A empresa deverá comprovar o cumprimento da medida por meio de relatórios mensais;
• Implemente um mecanismo transparente e acessível para que titulares de dados denunciem o uso irregular, abusivo ou ilegal de informações pessoais, garantindo resposta adequada em prazo razoável;
• Elabore um relatório de impacto à proteção de dados pessoais, específico para atividades de geração de conteúdo sintético a partir da manipulação de imagens, vídeos ou áudios enviados por usuários, sempre que houver possibilidade de identificação de pessoas naturais.

Os órgãos alertam que, caso as recomendações não sejam cumpridas ou se mostrem insuficientes para acabar com os riscos identificados, poderão ser adotadas outras medidas administrativas e judiciais, com foco especial na proteção de mulheres, crianças e adolescentes.

O SBT News solicitou posicionamento aos representantes legais do X no Brasil, mas não obteve resposta até a publicação.