IA pode ser pior que redes para crianças, diz ex-Google

O fundador da equipe de confiança e segurança do Google, Tom Siegel, fez um alerta nesta terça-feira sobre o uso da inteligência artificial para crianças. Para ele, a indústria d tecnologia está repetindo os mesmos erros das redes sociais, podendo causar danos ainda maiores. Além do alerta, ele pede uma "desaceleração" no desenvolvimento das IAs

Passada a euforia da 'era das redes sociais' pelo mundo, as empresas passaram a pagar quantias enormes em indenizações, com milhares de processos judiciais que acusam as big techs de prejudicarem usuários mais jovens. Ao mesmo tempo, governos ao redor do mundo trabalham para restringir o acesso de menores às plataformas.

No ano passado, uma reportagem exclusiva publicada pela Reuters revelou um documento interno da Meta que afirmava que os seus chatbots podiam "envolver uma criança em conversas românticas ou sensuais", o que resultou numa investigação do Congresso dos Estados Unidos. Mesmo assim, a regulamentação das redes no território norte-americano ainda não conseguiu acompanhar o ritmo acelerado do desenvolvimento da IA.

“Estamos numa situação realmente terrível em termos do que a IA está fazendo com as crianças”, disse Tom Siegel. “A ideia de que a indústria conseguirá resolver isso sozinha, sem ajuda externa, é irrealista.”

As preocupações de Siegel refletem um temor crescente entre alguns especialistas em tecnologia e pesquisadores acadêmicos de que a IA represente uma ameaça maior para as crianças do que as redes sociais. As grandes empresas de inteligência artificial correm para adicionar recursos cada vez mais avançados aos chatbots, que milhões de jovens já usam diariamente.

Nesta terça-feira (22), Siegel anunciou uma parceria com a Common Sense Media, um grupo de defesa dos direitos das crianças na internet. A organização sem fins lucrativos, fundada em 2003, realiza pesquisas e avalia a adequação de diversas mídias para crianças.

Em maio, lançou o Youth AI Safety Institute, uma organização de pesquisa para avaliar o uso de inteligência artificial por crianças, da qual Siegel será o primeiro diretor executivo. A Anthropic e a OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI, estão entre os apoiadores do instituto.

Siegel afirmou que planeja desenvolver padrões para responsabilizar as empresas de IA e espera fazer isso trabalhando em conjunto com essas empresas e grupos terceirizados.

Segundo o especialista, atualmente, as principais empresas de IA estão implementando recursos para crianças sem estabelecer salvaguardas suficientes

“Acho que estamos diante de cenários muito, muito graves de danos sendo causados”, disse ele.

Ele sugeriu que as empresas poderiam tomar medidas imediatas para melhor proteger os jovens, citando riscos que variam de suicídio e psicose à sobrecarga cognitiva, um termo usado para descrever a diminuição do pensamento crítico causada pela dependência da IA ​​para responder a perguntas.

Siegel argumenta que a Anthropic e a OpenAI poderiam implementar medidas de verificação de idade mais robustas para impedir que crianças menores de idade acessem seus chatbots. E que o Google poderia facilmente implementar uma opção para desativar a 'Visão Geral da IA' ​​e o 'Modo IA' em seu mecanismo de busca, da mesma forma que já possui uma opção que permite aos usuários filtrar conteúdo sexualmente explícito.

Embora essas medidas possam afetar o uso ou os lucros no curto prazo, as empresas de IA que não agirem correrão o risco de processos judiciais e regulamentações que podem impactar seus negócios de forma mais significativa, acrescentou o ex-Google .

Questionado sobre os comentários de Siegel, um porta-voz do Google disse que os pais têm opções para desativar completamente o acesso de seus filhos ao mecanismo de busca.

Quem é Tom Siegel

Siegel trabalhou no Google de 2004 a 2019, mas saiu após concluir que a indústria de tecnologia estava "estagnada" em sua capacidade de criar espaços online seguros para os consumidores.

Em seguida, cofundou a TrustLab, uma startup que desenvolveu ferramentas para ajudar empresas a detectar ameaças à segurança, antes de deixar o cargo de CEO no início deste mês.

Na Common Sense Media, Siegel afirmou que uma das principais prioridades seria ampliar a implementação de padrões independentes, semelhantes aos testes de colisão de automóveis, que mensurassem o risco de ferramentas de IA disponíveis ao público. A eficácia dependerá, em parte, da disposição das empresas de IA em colaborar.

O que dizem as empresas

Procurado pela Reuters, a OpenAI afirmou que a empresa utiliza "sinais de conta e comportamentais", além da idade autodeclarada, para identificar usuários menores de idade.

A Anthropic não respondeu imediatamente ao pedido de comentários.