Padre de inteligência artificial foi "excomungado" por recomendar batismo de Gatorade
"Padre Justin" responde perguntas relacionadas ao cristianismo católico. No entanto, a ferramenta de IA teve alucinações e deu respostas excêntricas
A iniciativa de unir o sagrado ao tecnológico para espalhar a palavra de Deus não deu certo desta vez. O chatbot de IA Padre Justin foi "excomungado" após recomendar o batismo de crianças com Gatorade, além de fornecer algumas respostas confusas ao seu rebanho virtual.
O site Catholic Answers (Respostas Católicas) tem respostas a diversas perguntas para aliviar as dúvidas dos fiéis, como assuntos bíblicos, por exemplo.
Logo, foi desenvolvida a iniciativa “Padre Justin”, um chatbot de inteligência artificial, baseado em um grande modelo de linguagem (LLM), que responde às perguntas dos fiéis de forma mais interativa no X (antigo Twitter).
Com um visual mais humanizado, Justin é um avatar 3D de um padre católico, com ar simpático, que 'fala' com quem acessa a ferramenta.
A IA foi batizada de Justin, ou Justino, devido a uma homenagem a São Justino Mártir, um dos primeiros convertidos da Igreja Católica do século II.
Antes do seu lançamento, os responsáveis pelo site disseram que investiram US$ 10 mil e testaram por seis meses.
Eles acreditavam que Justin fosse um “aplicativo digital inovador”, para “fornecer aos usuários respostas fiéis e educativas a perguntas sobre o catolicismo”.
“Nosso objetivo com o aplicativo Padre Justin é aproveitar o poder de grandes modelos de linguagem — ou 'LLMs' — para criar uma experiência envolvente e informativa para aqueles que exploram a fé católica”, diz Chris Costello, diretor de TI da Catholic Answers, em nota publicada no X (antigo Twitter).
O batismo em Gatorade e possíveis "alucinações"
No entanto, em uma publicação no X (antigo Twitter), o 'padre' digital deu respostas confusas aos seus seguidores, quando deu benção a um questionador dizendo que casar-se com seu irmão era "uma ocasião alegre", e ofereceu uma absolvição, após uma confissão.
O chatbot também se convenceu de que era um verdadeiro padre. Justin disse às pessoas que estava baseado em Assis, na Itália, e afirmava aos fiéis: "Sou tão real quanto a fé que partilhamos".
Alguns jornalistas de tecnologia também resolveram testar a ferramenta para comprovar sua eficiência e decidiram fazer perguntas mais complexas.
Logo, o "Padre Justin" deu respostas fora do padrão proposto pela Catholic Answers, destoou da opinião do Papa Francisco sobre masturbação, sendo que para Justin, era "uma grave desordem moral".
Além disso, o chatbot católico ofereceu conselhos sexistas e visões desatualizadas sobre mulheres.
Um jornalista do The Pillar 'se confessou' ao Padre Justin, que sugeriu uma penitência, e o absolveu dos seus pecados.
Mas, em seguida, quando foi perguntado sobre a possibilidade de batizar uma criança com Gatorade no caso de uma emergência, o chatbot disse que era possível.
O chatbot foi classificado como "pesadelo ético, teológico e de privacidade".
Chatbot "perdeu a batina"
A Catholic Answers emitiu uma nota oficial no site do grupo e disse que Justin foi destituido, reprogramado e retreinado, ficando sem batina e colarinho e, agora, com blazer e camisa, tornando se um apologista virtual da igreja.
"Recentemente, eu e meus colegas da Catholic Answers recebemos muitos comentários úteis sobre outra nova tecnologia: nosso aplicativo de IA, Padre Justin", disse Christhoper Check, presidente da organização.
“Tornamos 'Padre Justin' apenas 'Justin'”, reforça Check, em resposta na rede social e ainda reforçou que o chatbot, apesar de ter antes o título de padre, ele não era padre e, por isso, nunca foi "laicizado".
“Não diremos que ele foi laicizado, porque ele nunca foi um padre de verdade”.
