UE vai investigar Grok, IA de Elon Musk, por geração de imagens sexualizadas sem consentimento
Estudo aponta que ferramenta disponível na rede social X gerou três milhões de conteúdos impróprios, com 23 mil envolvendo crianças
IA implementou mudanças para conter uso da ferramenta | Dado Ruvic/Reuters/Imagem ilustrativa
A Comissão Europeia anunciou, nesta segunda-feira (26), que abriu uma investigação para apurar o uso da ferramenta de inteligência artificial Grok para a geração de imagens sexualizadas sem consentimento, tendo entre vítimas mulheres e até crianças e adolescentes. A plataforma pertence à xAI, empresa de Elon Musk, que também é dono da rede social X (antigo Twitter).
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google Discover"Estamos abrindo uma investigação sobre o Grok sob a Lei de Serviços Digitais (DSA), porque acreditamos que o X pode ter violado o documento", afirmou o porta-voz da comissão Thomas Regnier. "Vimos nas últimas semanas e meses conteúdo antissemita. Vimos deepfakes não consensuais de mulheres e vimos material de abuso sexual infantil. Na Europa, nenhuma empresa ganhará dinheiro violando nossos direitos fundamentais."
O serviço de geração de imagens a partir de publicações no X foi disponibilizado no dia 29 de dezembro. Uma onda de manipulação de imagens para remover roupas de pessoas a partir de fotos originais despertou revolta de usuários.
Após repercussão na imprensa e repúdio de autoridades pelo mundo, a xAI limitou o uso da ferramenta para assinantes e, em meados de janeiro, afirmou ter implementado medidas para impedir a edição de imagens de pessoas reais com "roupas relevadoras, como biquinis", além do banimento de parte dos usuários que criaram os conteúdos.
"Alguém pode argumentar que o X limitou isso a assinantes 'premium'. Vamos ser muito claros: material de abuso sexual infantil não é um 'privilégio premium', porque tal conteúdo não tem lugar na Europa, e precisamos proteger nossos cidadãos de potenciais danos futuros", declarou Regnier.
Três milhões de imagens geradas
Um estudo do Centro de Combate ao Ódio Digital (CCDH, em inglês) estima que, em 11 dias, usuários do X criaram três milhões de conteúdos sexualizados pelo X. Cerca de 23 mil envolveriam menores de idade.
A organização analisou 20 mil imagens aleatórias geradas entre 29 de dezembro e 8 de janeiro – antes da rede social restringir o uso e atualizar a ferramenta para tentar conter o problema. Do total, 65% do conteúdo criado trazia contexto sexual – independentemente do consentimento ou não.
Entre exemplos do conteúdo encontrado estão mulheres com biquinis "transparentes ou pequenos", ou usando peças não usuais, como fio dental e fita adesiva transparente. O centro ainda alertou para imagens em que "fluido branco" é colocado nas vítimas, que incluem desde pessoas comuns à personalidades como artistas e políticos.
Brasil emitiu recomendação para rede social
O caso também teve grande repercussão no Brasil, com usuários da rede social X exigindo um posicionamento do governo brasileiro. No dia 20 de janeiro, a Secretaria Nacional do Consumidor (Senacon), em colaboração com a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) emitiu recomendações à xAI sobre "a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais."
Entre as medidas, foi solicitado ao Grok que crie procedimentos técnicos e operacionais para identificar e remover esse tipo de conteúdo e que suspenda contas envolvidas na produção de imagens sexuais e erotizadas sem consentimento. Como trata-se de um ato administrativo de natureza orientadora, a plataforma não é obrigada a aderir aos pedidos, nem pode sofrer punição caso por eventual descumprimento.
