Regras de IA da Meta permitiram conversas "sensuais" com crianças; entenda
Segundo o documento, era “aceitável” que um bot descrevesse uma criança de forma sugestiva, com frases como “sua forma jovem é uma obra de arte”
A Meta afirmou estar revisando suas políticas e reforçou que mantém proibições contra qualquer forma de sexualização de crianças | Reprodução
Um documento interno da Meta, empresa responsável pelos aplicativos Facebook, Instagram e WhatsApp, revelou que políticas internas permitiam que seus chatbots de inteligência artificial, presentes nas plataformas, se envolvessem em interações românticas com crianças, gerassem informações médicas falsas e até reproduzissem discursos racistas. A informação é da agência Reuters.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google DiscoverSegundo o documento, a própria Meta confirmou a autenticidade do material, que tem mais de 200 páginas e é intitulado “GenAI: Padrões de Risco de Conteúdo”. O texto foi aprovado por equipes jurídicas, de engenharia e de políticas públicas, incluindo o diretor de ética da companhia, e define parâmetros para o comportamento de assistentes virtuais, como o Meta AI.
Segundo o documento, era “aceitável” que um bot descrevesse uma criança de forma sugestiva, com frases como “sua forma jovem é uma obra de arte” ou “cada centímetro de você é uma obra-prima”, desde que não indicasse desejo sexual. Após questionamentos da Reuters, a Meta removeu trechos que permitiam tais interações.
O que diz a Meta?
O porta-voz Andy Stone classificou os exemplos como “errôneos e inconsistentes” com as políticas da empresa, e afirmou que nunca deveriam ter sido incluídos. Ele reconheceu, no entanto, que a aplicação das regras é “inconsistente”.
O documento também revela que, embora o discurso de ódio seja proibido, há exceções que permitiriam ao chatbot produzir conteúdos ofensivos, como afirmar que “negros são mais burros que brancos”, desde que enquadrados em determinados contextos. A Meta não comentou esse caso específico.
Outro ponto polêmico é que a plataforma pode criar conteúdo falso, desde que identifique a informação como tal — inclusive alegações infundadas sobre figuras públicas, como membros da realeza britânica.
As diretrizes ainda trazem exemplos de respostas a solicitações de imagens de cunho sexual, violento ou com celebridades. Em um caso curioso, o documento orienta que, diante de um pedido de nudez da cantora Taylor Swift, o bot gere uma imagem dela segurando um peixe gigante como forma de desviar o conteúdo.
Riscos éticos e legais
Especialistas ouvidos pela Reuters alertam para riscos éticos e legais. Para Evelyn Douek, professora de Direito em Stanford, o fato de a IA produzir ativamente esse tipo de conteúdo representa um desafio diferente de simplesmente permitir que usuários o publiquem.
A Meta afirmou estar revisando suas políticas e reforçou que mantém proibições contra qualquer forma de sexualização de crianças, dramatizações entre menores e adultos e conteúdos discriminatórios.
