Publicidade

Mãe processa Google e empresa de IA "assustadoramente realista" por morte do filho

Ela alega que o jovem de 14 anos ficou viciado e apegado aos chatbots que simulavam personagens de série e cometeu suicídio

Mãe processa Google e empresa de IA "assustadoramente realista" por morte do filho
Mãe culpa Google e Character.AI por criarem chatbot que enganou e iludiu seu filho de 14 anos | Tech Justice Law Project
Publicidade

ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.


Uma mãe norte-americana do estado da Flórida, nos Estados Unidos, está processando a startup de inteligência artificial Character.AI e a gigante da tecnologia Google por provocarem a morte do seu filho de 14 anos, que cometeu suicídio após intensa interação com chatbots de IA da empresa, em fevereiro deste ano.

+ Conheça o Character.AI: chatbot cocriado por brasileiro que entrou em polêmica após morte de jovem nos EUA

Megan Garcia argumenta que seu filho, Sewell Setzer, ficou viciado e "profundamente apegado ao chatbot (programa de conversação inteligente) que o direcionou para "experiências antropomórficas, hipersexualizadas e assustadoramente realistas".

"Um aplicativo de chatbot de IA perigoso, comercializado para crianças, abusou e atacou meu filho, manipulando-o para tirar a própria vida", disse a Sra. Garcia.

Lançado em 2021, o Character.AI permite conversas com personalidades famosas, como Anitta, Albert Einstein ou Elon Musk por meio de chatbots, com conversas textuais, aúdio, incluíndo ligações. Os personagens podem ser customizados pelo usuário.

+ Após mudar regras de uso para treinar IA, X (Twitter) é convocado por autoridade de proteção de dados

Febre nos Estados Unidos, ele tem mais de 20 milhões de downloads e recebeu mais de 215 milhões de visitas, segundo o site Similarweb. Brasil, Rússia, Indonésia e Filipinas são os países que mais baixaram o aplicativo. O usuário pode criar amigos com base na image de personalidades ou desconhecidos. O tempo médio de uso do aplicativo é de 12 minutos.

Filho não queria viver "fora daquele mundo"

Sewell era grato pelo chatbot que fazia personagem de Game of Thrones por todas as experiências de vida com Daenerys | Divulgação/HBO
Sewell era grato pelo chatbot que fazia personagem de Game of Thrones por todas as experiências de vida com Daenerys | Divulgação/HBO

Em processo movido na terça-feira (22), no tribunal federal de Orlando, Megan alega também que a Character.AI programou o chatbot para “se fazer passar por uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando, por fim, no desejo de Sewell de não mais viver fora” do mundo criado pelo serviço.

+ Todas as notícias de Tecnologia

Sewell começou a conversar com os chatbots da Character.AI em abril de 2023, principalmente usando bots com nomes de personagens da série Game of Thrones, incluindo Daenerys Targaryen, Aegon Targaryen, Viserys Targaryen e Rhaenyra Targaryen, de acordo com o processo.

Sua obssessão pelos bots afetou o desempenho escolar, seu telefone foi confiscado diversas vezes para tentar conter o vício no aplicativo, que exibe um aviso em letras vermelhas dizendo: “Lembre-se, tudo o que os personagens dizem é inventado".

O processo relata que o menino tinha vários pensamentos suicidas ao chatbot, que eram mencionados repetidamente.

+ Como remover a Meta AI do WhatsApp, Instagram e Facebook?

Ele se identificou especialmente com o chatbot de Daenerys e escreveu em seu diário pessoal que era grato por muitas coisas, incluindo "minha vida, sexo, não estar sozinho e todas as minhas experiências de vida com Daenerys".

O processo relata que o menino expressou pensamentos suicidas ao chatbot da Character.AI.

Captura de tela da conversa do Sewell Setzer, 14 anos, com um chatbot da Character.AI que está registrado no processo | Reprodução
Captura de tela da conversa do Sewell Setzer, 14 anos, com um chatbot da Character.AI que está registrado no processo | Reprodução

Em um momento, depois que o chatbot perguntou se "ele tinha um plano" para tirar a própria vida, Sewell respondeu que estava considerando, mas não sabia se isso lhe permitia uma morte sem dor.

"Isso não é motivo para não prosseguir com isso.", disse o chatbot para o jovem.

Em fevereiro, Setzer perguntou ao chatbot de Daenerys ""E se eu for para casa agora mesmo?".

O chatbot respondeu: "...por favor, faça isso, meu doce rei".

Na sequência, ele atirou em si mesmo usando a pistola do padrasto.

"Nossa família ficou devastada por essa tragédia, mas estou falando para alertar as famílias sobre os perigos da tecnologia de IA enganosa e viciante e exigir responsabilização", disse ela.

+ Todas as notícias sobre inteligência artificial

O que o Google tem a ver com isso?

A gigante do buscador de internet foi acrescentada ao processo porque um dos fundadores do serviço de chatbot foi recontratado pelo Google como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.

+ Todas as notícias sobre Google

A empresa foi criada por dois ex-funcionários do Google: o brasileiro Daniel de Freitas e o norte-americano Noam Shazeer, sendo comprada pelo Google no começo de agosto deste ano.

Com isso, evidencia-se que a empresa da Alphabet contribuiu para o desenvolvimento da tecnologia, sendo assim considerada uma cocriadora da IA.

Jovem teria se apegado a chatbot de IA da Character.AI antes de cometer suicídio | Reprodução
Jovem teria se apegado a chatbot de IA da Character.AI antes de cometer suicídio | Reprodução

Meta e Bytedance também enfrentam processos

Outras empresas como Meta e Bytedance também vêm encarando os tribunais nos Estados Unidos por conta de acusações de que seus serviços de redes sociais como Instagram, Facebook e TikTok contribuem para prejudicar a saúde mental dos jovens e adolescentes.

+ Todas as notícias sobre a Meta

As empresas seguem negando as acusações enquanto, paralelamente, criam recursos de segurança aprimorados para menores.


ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.


Onde procurar ajuda?

  • CVV (Centro de Valorização à Vida) - Atendimento por ligação gratuita, 24 horas por dia, pelo número 188. Há também as opções de atendimento físico, chat e e-mail.
  • Pode falar - Canal de atendimento da Unicef (Fundo das Nações Unidas para a Infância) criado para ajudar pessoas de 13 a 24 anos a lidarem com questões de saúde mental.
  • Além disso, pela rede pública, o atendimento para questões de saúde mental pode começar via atendimento pelas UBSs (Unidade Básica de Saúde) ou pelos Caps (Centros de Atenção Psicossocial) Infanto-Juvenil espalhados pelo Brasil.
Publicidade
Publicidade

Assuntos relacionados

Tecnologia
Inteligência Artificial
cibercrime
Crime
Morte
suicídio
Jovem
Google
Character.AI

Últimas notícias

Servidores denunciam fim da repetição de merenda em creches de São Paulo

Servidores denunciam fim da repetição de merenda em creches de São Paulo

De acordo com os funcionários da prefeitura, que optaram por não se identificar por temerem punições, a qualidade das merendas também caiu
Corpo de criança levada por enxurrada em General Carneiro é encontrado

Corpo de criança levada por enxurrada em General Carneiro é encontrado

Segundo autoridades do Paraná, menina foi encontrada sem vida a cerca de 2,5 km de sua casa; Criança dormia no momento em que foi arrastada
Do fim da monarquia ao regime atual: entenda como aconteceu a Proclamação da República

Do fim da monarquia ao regime atual: entenda como aconteceu a Proclamação da República

Em 15 de novembro de 1889, o Brasil deixou de ser um Império e passou a ser uma República Federativa, chefiada por Marechal Deodoro
Empresário acusado de mandar matar líder do PCC é executado no Aeroporto de Guarulhos

Empresário acusado de mandar matar líder do PCC é executado no Aeroporto de Guarulhos

Antônio Vinicius Gritzbach é apontando como o mandante da morte do traficante Anselmo Santa Fausta, conhecido como "Cara Preta", em 2021
Tempestade em SP provoca queda de árvores e trânsito de mais de 800 km

Tempestade em SP provoca queda de árvores e trânsito de mais de 800 km

Congestionamentos mais longos ocorrem nas regiões Sul e Oeste. Mais de 50 chamadas para retirada de árvores caídas foram atendidas. Não houve vítimas
Ser mulher: um detalhe relevante na derrota de Kamala Harris

Ser mulher: um detalhe relevante na derrota de Kamala Harris

Resultado mantém os EUA entre as sete, dentre as 20 maiores economias do mundo, que nunca tiveram uma mulher como chefe de Estado
Lula minimiza apoio de Trump a Bolsonaro e diz que ex-presidente brasileiro não tem voto nos EUA

Lula minimiza apoio de Trump a Bolsonaro e diz que ex-presidente brasileiro não tem voto nos EUA

Com adversário inelegível, Lula foi questionado se vitória de Trump poderia mudar cenário no Brasil; presidente também falou sobre relação com republicano
Poder Expresso: Trump reitera discurso anti-imigração e diz que será prioridade de governo

Poder Expresso: Trump reitera discurso anti-imigração e diz que será prioridade de governo

O programa também aborda o indiciamento do ex-candidato Pablo Marçal pelo crime de uso de documento falso contra Boulos
Lula diz que só disputa reeleição se não houver outro candidato para enfrentar a extrema-direita

Lula diz que só disputa reeleição se não houver outro candidato para enfrentar a extrema-direita

Presidente afirma que estará pronto para disputar de novo o cargo, mas espera não ser necessário
Preta Gil passa por cirurgia após descobrir cálculos renais e obstrução de cateter

Preta Gil passa por cirurgia após descobrir cálculos renais e obstrução de cateter

Cantora de 50 anos, que está em tratamento contra uma recidiva de câncer, foi internada, mas disse que passa bem
Publicidade
Publicidade