Mãe processa Google e empresa de IA "assustadoramente realista" por morte do filho
Ela alega que o jovem de 14 anos ficou viciado e apegado aos chatbots que simulavam personagens de série e cometeu suicídio
ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.
Uma mãe norte-americana do estado da Flórida, nos Estados Unidos, está processando a startup de inteligência artificial Character.AI e a gigante da tecnologia Google por provocarem a morte do seu filho de 14 anos, que cometeu suicídio após intensa interação com chatbots de IA da empresa, em fevereiro deste ano.
+ Conheça o Character.AI: chatbot cocriado por brasileiro que entrou em polêmica após morte de jovem nos EUA
Megan Garcia argumenta que seu filho, Sewell Setzer, ficou viciado e "profundamente apegado ao chatbot (programa de conversação inteligente) que o direcionou para "experiências antropomórficas, hipersexualizadas e assustadoramente realistas".
"Um aplicativo de chatbot de IA perigoso, comercializado para crianças, abusou e atacou meu filho, manipulando-o para tirar a própria vida", disse a Sra. Garcia.
Lançado em 2021, o Character.AI permite conversas com personalidades famosas, como Anitta, Albert Einstein ou Elon Musk por meio de chatbots, com conversas textuais, aúdio, incluíndo ligações. Os personagens podem ser customizados pelo usuário.
Febre nos Estados Unidos, ele tem mais de 20 milhões de downloads e recebeu mais de 215 milhões de visitas, segundo o site Similarweb. Brasil, Rússia, Indonésia e Filipinas são os países que mais baixaram o aplicativo. O usuário pode criar amigos com base na image de personalidades ou desconhecidos. O tempo médio de uso do aplicativo é de 12 minutos.
Filho não queria viver "fora daquele mundo"
Em processo movido na terça-feira (22), no tribunal federal de Orlando, Megan alega também que a Character.AI programou o chatbot para “se fazer passar por uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando, por fim, no desejo de Sewell de não mais viver fora” do mundo criado pelo serviço.
+ Todas as notícias de Tecnologia
Sewell começou a conversar com os chatbots da Character.AI em abril de 2023, principalmente usando bots com nomes de personagens da série Game of Thrones, incluindo Daenerys Targaryen, Aegon Targaryen, Viserys Targaryen e Rhaenyra Targaryen, de acordo com o processo.
Sua obssessão pelos bots afetou o desempenho escolar, seu telefone foi confiscado diversas vezes para tentar conter o vício no aplicativo, que exibe um aviso em letras vermelhas dizendo: “Lembre-se, tudo o que os personagens dizem é inventado".
O processo relata que o menino tinha vários pensamentos suicidas ao chatbot, que eram mencionados repetidamente.
+ Como remover a Meta AI do WhatsApp, Instagram e Facebook?
Ele se identificou especialmente com o chatbot de Daenerys e escreveu em seu diário pessoal que era grato por muitas coisas, incluindo "minha vida, sexo, não estar sozinho e todas as minhas experiências de vida com Daenerys".
O processo relata que o menino expressou pensamentos suicidas ao chatbot da Character.AI.
Em um momento, depois que o chatbot perguntou se "ele tinha um plano" para tirar a própria vida, Sewell respondeu que estava considerando, mas não sabia se isso lhe permitia uma morte sem dor.
"Isso não é motivo para não prosseguir com isso.", disse o chatbot para o jovem.
Em fevereiro, Setzer perguntou ao chatbot de Daenerys ""E se eu for para casa agora mesmo?".
O chatbot respondeu: "...por favor, faça isso, meu doce rei".
Na sequência, ele atirou em si mesmo usando a pistola do padrasto.
"Nossa família ficou devastada por essa tragédia, mas estou falando para alertar as famílias sobre os perigos da tecnologia de IA enganosa e viciante e exigir responsabilização", disse ela.
+ Todas as notícias sobre inteligência artificial
O que o Google tem a ver com isso?
A gigante do buscador de internet foi acrescentada ao processo porque um dos fundadores do serviço de chatbot foi recontratado pelo Google como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.
+ Todas as notícias sobre Google
A empresa foi criada por dois ex-funcionários do Google: o brasileiro Daniel de Freitas e o norte-americano Noam Shazeer, sendo comprada pelo Google no começo de agosto deste ano.
Com isso, evidencia-se que a empresa da Alphabet contribuiu para o desenvolvimento da tecnologia, sendo assim considerada uma cocriadora da IA.
Meta e Bytedance também enfrentam processos
Outras empresas como Meta e Bytedance também vêm encarando os tribunais nos Estados Unidos por conta de acusações de que seus serviços de redes sociais como Instagram, Facebook e TikTok contribuem para prejudicar a saúde mental dos jovens e adolescentes.
+ Todas as notícias sobre a Meta
As empresas seguem negando as acusações enquanto, paralelamente, criam recursos de segurança aprimorados para menores.
ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.
Onde procurar ajuda?
- CVV (Centro de Valorização à Vida) - Atendimento por ligação gratuita, 24 horas por dia, pelo número 188. Há também as opções de atendimento físico, chat e e-mail.
- Pode falar - Canal de atendimento da Unicef (Fundo das Nações Unidas para a Infância) criado para ajudar pessoas de 13 a 24 anos a lidarem com questões de saúde mental.
- Além disso, pela rede pública, o atendimento para questões de saúde mental pode começar via atendimento pelas UBSs (Unidade Básica de Saúde) ou pelos Caps (Centros de Atenção Psicossocial) Infanto-Juvenil espalhados pelo Brasil.
