Idec pede suspensão do Grok após uso para criar imagens sexuais falsas sem consentimento

O Instituto de Defesa de Consumidores (Idec) pediu nesta segunda-feira (12) a suspensão do Grok, ferramenta de inteligência artificial da plataforma X (ex-Twitter), após a constatação de que o sistema vem sendo utilizado para gerar imagens falsas sexualizadas de mulheres e crianças sem consentimento.

O ofício foi encaminhado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).

+ Deepfake: veja como funciona tecnologia que eleva risco de notícias falsas

Para o instituto, o caso configura defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor, já que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários nem pelas pessoas atingidas pelos danos. O Idec também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.

"O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética", afirma o Idec.

+ Pentágono usará IA Grok, de Elon Musk, para integrar dados do X ao governo dos EUA

Deepnude

Na semana passada, o jornalismo do SBT ouviu a jornalista Julie Yukari, que denunciou a adulteração de uma foto sua por meio de inteligência artificial e a republicação do material sem roupa nas redes sociais. Segundo ela, as imagens originais eram fotografias comuns publicadas em perfis pessoais. "Eram fotos de biquíni, blusa de time sem calça, roupas curtas", relatou.

Esse tipo de manipulação, conhecido como deepnude, quando imagens reais são alteradas por inteligência artificial para simular nudez, não é novidade, mas ganhou escala no mês passado e se espalhou como tendência no Brasil e em outros países.

No Brasil, a produção e a divulgação de conteúdo erótico ou pornográfico por meio de manipulação digital sem autorização configuram crime, com pena que pode chegar a um ano de prisão. O Projeto de Lei 370/2024, já aprovado pela Câmara dos Deputados e em análise no Senado Federal, prevê o aumento da punição, com possibilidade de triplicar a pena atual.