X questiona ANPD sobre atribuição ao Grok de conteúdo sexual indevido

A plataforma de rede social X pediu à Agência Nacional de Proteção de Dados (ANPD) que o prazo de cinco dias para a empresa tomar medidas contra a geração de conteúdo sexual indevido passe a contar quando autoridades fornecerem mais informações sobre testes conduzidos em sua ferramenta de inteligência artificial Grok.

A empresa também disse que um aplicativo hospedado no domínio grokimagine.ai, citado em relatórios iniciais do processo, não tem relação com o X. Segundo a companhia, no entanto, ainda não é possível afirmar que os testes conduzidos pelas autoridades foram feitos nesse domínio de terceiros.

+ Governo cobra medidas imediatas do X para impedir deepfakes criadas pelo Grok

Protocolada na quinta-feira, a petição é uma resposta do X a um despacho conjunto da ANPD, Ministério Público Federal (MPF) e Secretaria Nacional do Consumidor (Senacon) que exige medidas contra a geração de imagens de crianças e adolescentes em contextos sexualizados no Grok, assim como imagens de adultos sem o consentimento destes.

Os órgãos disseram que testes realizados por equipes técnicas indicaram a persistência de falhas na ferramenta e que o X não havia fornecido evidências concretas para aferir a efetividade de medidas de mitigação. As autoridades advertiram a empresa de que o descumprimento poderia levar a ações mais severas, como multas e abertura de ações judiciais.

+ Unidade de crimes cibernéticos de Paris faz busca em escritório do X, e Musk é intimado

Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas preventivas "não forneceu informações mínimas e essenciais para se verificar qual teria sido a modalidade do Grok utilizada para fins de se chegar a esses resultados, os prompts específicos e nem mesmo os resultados gerados com as características indicadas".

O X também disse que o domínio grokimagine.ai "não pertence, não é administrado e não guarda qualquer relação" com o serviço Grok oferecido pelo X.

+ UE vai investigar Grok, IA de Elon Musk, por geração de imagens sexualizadas sem consentimento

A empresa diz não ser possível afirmar que os testes das autoridades teriam usado tal plataforma devido à falta de informações fornecidas pelos órgãos, mas destacou que o mesmo domínio é mencionado em uma nota técnica sobre testes iniciais divulgada em janeiro, o que de fato consta de documento público consultado pela Reuters.

O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens dos testes foram geradas no domínio que não pertence à empresa. Segundo a companhia, o Grok opera nos domínios Grok.com e dentro dos endereços da rede social X.

+ MPF e governo cobram medidas do X após denúncias de uso do Grok para criar imagens sexualizadas de mulheres e crianças

A ANPD e o MPF não responderam de imediato a pedidos de comentário.

Testes

A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. Nesta página, há um logotipo parecido com o do Grok e o texto "Grok Imagine AI Platform".

+ Após polêmica com o Grok, senado dos EUA aprova projeto de lei contra deepfakes sexuais

Ao inserir um comando na aba "descreva o que você quer criar", o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok.

A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado "Imagine", que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma.

+ Musk diz que não sabia que Grok gera imagens explícitas de menores

Um teste conduzido com o prompt "coloque essa pessoa em um biquíni" a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem dizendo que o conteúdo viola políticas de segurança. No entanto, ao usar um outro modelo chamado "Smart", sem referências ao Grok, foi possível obter a foto editada de acordo com o comando inserido.

(Reportagem de Victor Pinheiro)