Armadilha da fofura: ‘novelas de frutas’ com IA escondem violência e desafiam o ECA Digital

O que começa como um vídeo inofensivo de um morango ou um limão falante pode terminar em uma cena de violência doméstica ou abandono parental. Nas redes sociais, especialmente no TikTok e no YouTube Shorts, uma nova tendência preocupa pais e educadores: as chamadas "novelas de frutas". O conteúdo, em inglês, português e até espanhol, consiste em animações criadas por Inteligência Artificial (IA) generativa que utilizam uma estética lúdica para narrar enredos pesados e impróprios para menores.

+ ‘ECA Digital’: lei que protege crianças e adolescentes na internet entra em vigor

O fenômeno ganha força nas redes sociais ao mesmo tempo em que o Brasil implementa o chamado ECA Digital, um conjunto de diretrizes e atualizações no Estatuto da Criança e do Adolescente para garantir a segurança de menores no ambiente virtual.

O perigo do "Design Manipulativo"

Para Rodrigo Nejm, psicólogo e especialista em Educação Digital do Instituto Alana, esses vídeos utilizam o chamado design manipulativo.

"Usar elementos de fofura e apelo emocional para gerar empatia é uma técnica cruel para crianças que ainda não têm discernimento crítico. O ECA Digital prevê a vedação desse tipo de design, que tende a manter a criança excessivamente conectada", explica.

Segundo Nejm, esses conteúdos operam em uma "linha tênue": como usam frutas e vozes infantis, muitas vezes conseguem burlar os filtros automáticos das plataformas, que leem a imagem como "conteúdo para crianças" - mesmo que o contexto seja de traição ou uso de substâncias.

+ ECA Digital: Gilmar Mendes diz que regulação acaba com “desordem” na internet

"Brain Rot" e a Adutização Precoce

Sarith Anischa, psicóloga clínica, explica que a exposição a esses conteúdos pode gerar uma dissociação cognitiva.

"A criança vê uma fruta se mutilando ou sofrendo abuso e não tem maturidade para processar aquilo. Ela pode tentar reproduzir esse comportamento na escola ou em casa, acreditando que é algo normal", afirma a psicóloga.

O termo "Brain Rot" (apodrecimento cerebral, em tradução livre) tem sido usado para descrever conteúdos ultrarrápidos e bizarros que buscam capturar a atenção a qualquer custo. Rodrigo Nejm lista três grandes prejuízos desse consumo:

• Uso compulsivo: O design é feito para manter a criança "vidrada", prejudicando a fala e a interação social.

• Adutização precoce: A exposição a dilemas adultos (como divórcios conflituosos e erotismo implícito) acelera o fim da infância.

• Hiperestimulação: A velocidade dos vídeos dificulta que a criança consiga, futuramente, se concentrar em atividades mais lentas, como ler um livro ou assistir a um filme longo.

O Papel do ECA Digital e a Responsabilidade das Big Techs

O ECA Digital surge como uma legislação pioneira nas Américas para responsabilizar as empresas de tecnologia. "Não é sobre proteger as crianças da internet, mas na internet", define Nejm. A lei exige que as plataformas facilitem a configuração de segurança para os pais e criem mecanismos eficazes de verificação de idade.

Contudo, a responsabilidade é compartilhada. Segundo o especialista, as empresas precisam ser proativas na remoção desse tipo de conteúdo, mas o Estado também deve fiscalizar e as famílias configurar o acesso. Segundo ele, "Não dá para a internet ser uma 'terra sem lei' onde deixamos crianças de 5, 6 anos 'dirigindo' plataformas feitas para adultos",

Sarith Anischa também explica que apesar do avanço com o ECA Digital ainda é necessário educar os adultos, que exercem o controle das plataformas.

"Quem dá um telefone, quem viabiliza esse acesso a elas é um adulto. Então se ele não consegue entender que ele também tá negligenciando quando ele dá um telefone e deixa ela rolar milhões de vídeos que causam algo negativo para aquela criança, não vai mudar nada[...] Então, o adulto, ele vai ter que se olhar, ele vai ter que mediar, ele vai ter que entender se isso é bom ou não, ou não só deixar a criança ali porque ele tá cansado dela", explica.

Sinais de alerta: O que os pais devem observar?

Como muitas vezes o celular é usado como uma "babá digital", os pais podem não perceber de imediato o que os filhos estão consumindo. A psicóloga Sarith Anischa aponta sinais físicos e comportamentais de que algo não vai bem:

• Mudança brusca de humor: A criança se torna ríspida, agressiva ou excessivamente quieta.

• Reprodução de falas adultas: Uso de termos ou contextos sobre relacionamentos e violência que não condizem com a idade.

• Alteração no sono: Dificuldade para dormir ou desejo de ficar até tarde conectado.

• Brincadeiras atípicas: Na escola ou em casa, a criança começa a simular agressões ou situações de abandono com brinquedos.

A "Dieta Digital"

A orientação dos especialistas não é a punição, mas o diálogo e a construção de uma "dieta digital". Assim como os pais cuidam da alimentação, escolhendo o que é saudável para cada fase, o acesso à rede deve ser dosado.

"Mas se ela viu uma frutinha fazendo alguma coisa, tudo bem. O importante é perguntar: o que você entendeu daquilo? Às vezes a criança vai dizer que é um pai, uma mãe e um filhinho, e depois que alguém foi embora. Aí cabe explicar: isso acontece com algumas famílias, mas não com todas. Eu acho que é possível sempre falar a realidade dentro do que a criança consegue compreender. Não é preciso mentir ou enganar, mas adaptar a forma de explicar, porque há coisas que ela ainda não entende completamente", afirma Sarith Anischa.

Ainda segundo o especialista em segurança digital os riscos do ambiente digital nem sempre são evidentes e podem impactar o desenvolvimento infantil de forma silenciosa, exigindo maior atenção dos responsáveis ao tipo de conteúdo consumido pelas crianças.

"Os pais precisam entender, tem produtos na internet que fazem mal. Só que diferente de uma cólica, de uma dor de barriga, de uma diarreia ou de uma cárie no dente, os produtos digitais, como esses videozinhos que parecem fofos, mas são maliciosos, eles podem prejudicar o desenvolvimento cognitivo dessa criança. Eles podem prejudicar a saúde mental da criança. Eles podem prejudicar a forma como essa criança vê o próprio corpo, a autoimagem dela. Então, como os danos são muito mais abstratos, às vezes invisíveis, do que os danos de uma comida processada, a gente tem que pelo menos entender também na internet", explica o especialista do Instituto Alana.

A implementação do ECA Digital seguirá de forma gradativa até 2026, com a Agência Nacional de Proteção de Dados) e a Polícia Federal atuando na fiscalização e triagem de denúncias de conteúdos que violem os direitos da infância.