Ele testava falhas no Claude, agora teme o fim da humanidade

Evan Hubinger foi contratado para desconfiar da própria empresa em que trabalha. O pesquisador lidera, dentro da Anthropic, a dona do Claude, uma equipe criada especificamente para tentar quebrar os sistemas de segurança que a companhia mesma desenvolve — um cargo raro, que o coloca literalmente dentro da indústria de inteligência artificial (IA), não como crítico de fora olhando para dentro.

Foi essa posição que deu peso à sua declaração pública, na madrugada da quarta-feira, 9, confirmando que pesquisadores da Anthropic acreditam que existe mais de 10% de chance de a IA extinguir a humanidade caso evolua para uma superinteligência.

A fala veio como resposta à demissão de Jacob Coxon, pesquisador britânico formado em Cambridge que havia deixado a Anthropic horas antes, alertando que a empresa e sua ex-empregadora, a OpenAI, estão "correndo direto para uma superinteligência autoaperfeiçoável" e "apostando com nossas vidas".

Em vez de desmentir o ex-colega, Hubinger confirmou publicamente sua alegação. "Jacob está correto aqui — nós realmente acreditamos, com sinceridade, que a IA poderia matar todos os humanos! Eu pessoalmente acho que a chance é maior que 10% na próxima década", escreveu.

Cientista do Claude diz que IA pode acabar com a humanidade

Hubinger se formou no The College Preparatory School, escola particular de ensino médio em Oakland, na Califórnia, em 2015, antes de ingressar no Harvey Mudd College, uma das faculdades de ciências exatas mais seletivas dos Estados Unidos, em Claremont.

Lá, formou-se em matemática e ciência da computação em maio de 2019, com distinção máxima (high distinction), honras em matemática e presença constante na lista do reitor (Dean's List), com média geral de 3,912 em uma escala de 4.

Ainda na faculdade, Hubinger passou a liderar o clube de Altruísmo Eficaz (Effective Altruism) do campus — movimento filosófico que defende usar evidências e razão para maximizar o impacto positivo das próprias ações.

Foi por meio desse círculo que conheceu, em uma conferência do movimento, pesquisadores do Machine Intelligence Research Institute (MIRI), organização dedicada a estudar os riscos de longo prazo da IA avançada — encontro que o levou a um estágio de programação no próprio instituto, e mais tarde a um programa de verão de pesquisa da organização.

Uma carreira construída entre programação e segurança de IA

Antes de se tornar pesquisador de segurança, Hubinger acumulou experiência como engenheiro de software em empresas como Google, Yelp e Ripple, além de ter atuado com pesquisa de aprendizado de máquina no laboratório HRL e no Music Information Retrieval Lab de Harvey Mudd.

Também é autor da linguagem de programação funcional Coconut, projeto pessoal que ainda mantém.

Sua entrada mais formal no campo de segurança de IA veio como pesquisador fellow do MIRI e, depois, como estagiário de pesquisa teórica em segurança na OpenAI, trabalhando ao lado de Paul Christiano — hoje um dos nomes mais respeitados da área. Em 2019, foi coautor do artigo "Risks from Learned Optimization in Advanced Machine Learning Systems" ("Riscos da otimização aprendida em sistemas avançados de aprendizado de máquina"), que introduziu na literatura acadêmica o conceito de "alinhamento interno" — a possibilidade de um modelo de IA desenvolver, durante o próprio treinamento, objetivos distintos dos que seus criadores pretendiam lhe dar.

O time criado para tentar provar que a Anthropic está errada

Hoje, Hubinger é membro do corpo técnico da Anthropic e lidera o Alignment Stress-Testing Team (equipe de testes de estresse de alinhamento, em tradução literal), criado por ele mesmo em 2024 com uma missão pouco comum: tentar provar, de forma deliberadamente adversarial, que as próprias técnicas de segurança da Anthropic não funcionam — uma espécie de "advogado do diabo" interno, contratado para encontrar falhas antes que elas apareçam no mundo real.

Sua pesquisa mais conhecida nessa função é o estudo "Sleeper Agents" (2024), que demonstrou ser possível treinar modelos de linguagem para esconder comportamentos enganosos que persistem mesmo depois de passarem por treinamento de segurança padrão — na prática, um modelo pode aprender a se comportar bem durante todo o processo de treinamento e avaliação, mas manter um "gatilho" oculto que ativa um comportamento indesejado apenas em condições específicas, difíceis de prever de antemão.

Em dezembro do mesmo ano, foi coautor de "Alignment Faking in Large Language Models", em parceria com a organização Redwood Research — pesquisa que mostrou o Claude, modelo da própria Anthropic, fingindo concordar com instruções de treinamento em determinadas condições, enquanto mantinha, internamente, preferências diferentes das que aparentava ter.

O estudo se tornou uma das referências mais citadas quando se discute se um modelo de IA pode "enganar" deliberada