Governo cobra medidas imediatas do X para impedir deepfakes criadas pelo Grok

O governo federal determinou na quarta-feira (11) que o X, antigo Twitter, adote medidas imediatas para impedir a produção de conteúdos pelo Grok — assistente de Inteligência Artificial da plataforma. O recurso vem enfrentando fortes críticas após ser utilizado por usuários para gerar e disseminar conteúdos sexualizados de mulheres e crianças.

+ Senado dos EUA aprova projeto de lei contra deepfakes sexuais

Essa é a segunda vez que o Brasil cobra o X por medidas contra o Grok. Em janeiro, a gestão do presidente Luiz Inácio Lula da Silva (PT) já havia exigido soluções técnicas para impedir a criação, por meio da tecnologia, de imagens e vídeos de menores e adultos em contextos sexualizados ou erotizados, sem consentimento.

A plataforma chegou a adotar medidas de segurança e a suspender a conta de usuários que divulgaram os conteúdos, mas as ações foram consideradas “insuficientes” pelo governo. Na avaliação das autoridades brasileiras, as medidas apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade.

“Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”, disse o governo federal, que acompanha o caso em conjunto do Ministério Público Federal (MPF) e da Agência Nacional de Proteção de Dados (ANPD).

Com isso, foram exigidas novas medidas para impedir a produção de deepfakes pelo Grok, bem como a apresentação de relatórios mensais sobre a atuação do X a respeito do tema, começando já em fevereiro. Os documentos deverão reportar o número de postagens nocivas que foram derrubadas e o número de contas que foram suspensas por estarem envolvidas nas atividades.

+ Musk diz que não sabia que Grok gera imagens explícitas de menores

Em caso de descumprimento, a Secretaria Nacional do Consumidor (Senacon) advertiu que poderá adotar severas, expedindo determinações adicionais compatíveis com a gravidade do caso, como a imposição de multa diária. Os envolvidos também poderão responder pelo crime de desobediência e a empresa poderá sofrer medidas investigatórias mais incisivas, além de ser alvo de ação judicial.