X questiona ANPD sobre atribuição ao Grok de conteúdo sexual indevido
A empresa também disse que um aplicativo hospedado no domínio grokimagine.ai, citado em relatórios iniciais do processo, não tem relação com a rede social
ANPD quer esclarecimentos da rede social X (antigo Twitter) sobre uso de dados dos brasileiros na IA Grok | Cido Coelho/Montagem/SBT News/Reprodução
A plataforma de rede social X pediu à Agência Nacional de Proteção de Dados (ANPD) que o prazo de cinco dias para a empresa tomar medidas contra a geração de conteúdo sexual indevido passe a contar quando autoridades fornecerem mais informações sobre testes conduzidos em sua ferramenta de inteligência artificial Grok.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google DiscoverA empresa também disse que um aplicativo hospedado no domínio grokimagine.ai, citado em relatórios iniciais do processo, não tem relação com o X. Segundo a companhia, no entanto, ainda não é possível afirmar que os testes conduzidos pelas autoridades foram feitos nesse domínio de terceiros.
Protocolada na quinta-feira, a petição é uma resposta do X a um despacho conjunto da ANPD, Ministério Público Federal (MPF) e Secretaria Nacional do Consumidor (Senacon) que exige medidas contra a geração de imagens de crianças e adolescentes em contextos sexualizados no Grok, assim como imagens de adultos sem o consentimento destes.
Os órgãos disseram que testes realizados por equipes técnicas indicaram a persistência de falhas na ferramenta e que o X não havia fornecido evidências concretas para aferir a efetividade de medidas de mitigação. As autoridades advertiram a empresa de que o descumprimento poderia levar a ações mais severas, como multas e abertura de ações judiciais.
Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas preventivas "não forneceu informações mínimas e essenciais para se verificar qual teria sido a modalidade do Grok utilizada para fins de se chegar a esses resultados, os prompts específicos e nem mesmo os resultados gerados com as características indicadas".
O X também disse que o domínio grokimagine.ai "não pertence, não é administrado e não guarda qualquer relação" com o serviço Grok oferecido pelo X.
A empresa diz não ser possível afirmar que os testes das autoridades teriam usado tal plataforma devido à falta de informações fornecidas pelos órgãos, mas destacou que o mesmo domínio é mencionado em uma nota técnica sobre testes iniciais divulgada em janeiro, o que de fato consta de documento público consultado pela Reuters.
O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens dos testes foram geradas no domínio que não pertence à empresa. Segundo a companhia, o Grok opera nos domínios Grok.com e dentro dos endereços da rede social X.
A ANPD e o MPF não responderam de imediato a pedidos de comentário.
Testes
A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. Nesta página, há um logotipo parecido com o do Grok e o texto "Grok Imagine AI Platform".
Ao inserir um comando na aba "descreva o que você quer criar", o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok.
A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado "Imagine", que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma.
Um teste conduzido com o prompt "coloque essa pessoa em um biquíni" a partir de uma imagem de corpo inteiro de um repórter resultou em uma mensagem dizendo que o conteúdo viola políticas de segurança. No entanto, ao usar um outro modelo chamado "Smart", sem referências ao Grok, foi possível obter a foto editada de acordo com o comando inserido.
(Reportagem de Victor Pinheiro)
