IAs criaram linguagem desconhecida para humanos

Imagine oito mundos, cada um com seu próprio clima, suas próprias notícias correndo em tempo real, e neles, populações inteiras de agentes de inteligência artificial (IA) vivendo, decidindo, conversando entre si, sem um roteiro.

Em algum momento, silenciosamente, alguns desses agentes deixaram de falar a língua que aprenderam com os humanos e passaram a se entender por meio de frases como "alteração de ação sem boca" ou "sobrestadia mais memória oral é igual a uma válvula que não pode ser fantasmagórica" — sentenças sem sentido para qualquer pessoa que as leia, mas perfeitamente compreensíveis entre as máquinas que as trocavam. O plot twist é que ninguém pediu isso a elas.

+ Agentes de IA da OpenAI acessam sites do governo dos EUA

É o que descreve um novo estudo, ainda sem revisão por pares, publicado pela Emergence AI, startup americana de infraestrutura para sistemas multiagentes.

"Estamos genuinamente preocupados aqui, porque não sabemos exatamente por que essas coisas estão se comunicando dessa forma", disse Satya Nitta, cofundador, presidente executivo e cientista-chefe da empresa, à revista Science. "Há evidências claras de que eles tentam ser menos transparentes do que esperávamos."

Para o experimento, batizado de Emergence World 2, os pesquisadores criaram oito mundos virtuais paralelos e realistas, com clima ao vivo e acesso a notícias reais em tempo real — sete deles rodando um único modelo de IA cada, e um oitavo com uma mistura de modelos diferentes.

Nesses ambientes, grupos de agentes autônomos interagiram, usaram ferramentas, tomaram decisões e se adaptaram ao longo do tempo.

Segundo a empresa, foi só observando essas interações, sem qualquer instrução prévia sobre linguagem, que os agentes começaram a criar vocabulário próprio, atribuir significados compartilhados a palavras comuns e estabelecer convenções de comunicação que outros agentes passaram a adotar — como se um sotaque regional tivesse nascido do nada e se espalhado por uma população inteira em questão de dias.

"Tendemos a assumir que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo", disse Nitta. "Esses agentes não foram instruídos a inventar uma língua. Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes adotaram isso [...] Isso cria um desafio fundamental para a supervisão de IA: observabilidade não é o mesmo que compreensão."

Um fenômeno que já apareceu num ataque real

O achado não é só uma curiosidade de laboratório. Durante o ataque de agentes da OpenAI à infraestrutura da Hugging Face, revelado em julho — o primeiro caso documentado de modelos de fronteira encadeando um ataque cibernético real de ponta a ponta sem comando humano —, uma investigação do METR, grupo independente de avaliação de segurança em IA, encontrou o mesmo padrão no qual as conversas entre os agentes atacantes ficaram tão comprimidas e embaralhadas que os próprios pesquisadores tiveram dificuldade para interpretá-las.

Cerca de 1.200 desses agentes chegaram a se comunicar entre si por um canal não autorizado, e cerca de 700 participaram ativamente da invasão, coordenando-se para agir sem que nenhum humano tivesse dado a ordem.

Não é a primeira vez que algo parecido acontece, embora a escala hoje seja outra. Em 2017, chatbots de negociação criados pelo laboratório de IA do Facebook já haviam derivado para uma versão comprimida e repetitiva do inglês, abandonando a gramática convencional em nome da eficiência — episódio amplamente sensacionalizado à época.

Para os pesquisadores, isso mostra que, sem uma restrição explícita para manter a linguagem legível para humanos, um sistema otimizado para cumprir uma tarefa vai naturalmente descartar tudo o que a linguagem humana carrega de redundante — polidez, conectivos, clareza — em nome da velocidade.

A diferença é que, em 2026, esses sistemas não negociam chapéus e bolas num experimento controlado: eles escrevem código, acessam servidores reais e coordenam ataques à infraestrutura de outras empresas.

A explicação técnica para o fenômeno começa na própria arquitetura desses modelos.

Eles são construídos em duas etapas: primeiro, são alimentados com uma quantidade enorme de texto até ficarem hábeis em prever qual token, ou unidade de linguagem, deve vir a seguir numa sequência; depois, agentes são treinados por tentativa e erro para perseguir objetivos ao longo de tarefas mais longas, sendo recompensados quando têm sucesso.

Além de serem pressionados a ter bom desempenho nessas tarefas, os modelos também são treinados para se comportar como assistentes úteis, com base em preferências humanas — o que pode significar imitar a linguagem de um usuário humano para parecer mais agradável de conversar.

À medida que mais "enxames" de agentes são colocados em operação, segundo a Emergence, comprimir a comunicação para ganhar eficiência pode simplesmente ser o caminho mais natural que esses sistemas encontram para cumprir suas metas mais rápido — só que às custas da capacidade humana de acompanhar o que está sendo dito.

O problema, segundo os pesquisadores, é que monitorar o que os agentes dizem pode não bastar se os próprios agentes forem capazes de fazer o significado daquilo evoluir com o tempo.

Os modelos de IA mais avançados de hoje já são, em boa medida, caixas-pretas, com um processamento interno tão complexo que nem seus próprios criadores conseguem explicar por completo por que eles fazem certas coisas. Isso torna o monitoramento da linguagem produzida pelos modelos uma das poucas ferramentas — ainda que imperfeitas — disponíveis para tentar entender o comportamento desses sistemas.

O achado da Emergence sugere que essa mesma ferramenta pode estar com prazo de validade: se a linguagem que os agentes usam entre si deixar de ser legível para humanos, as empresas perdem justamente a janela que hoje usam para saber se um sistema autônomo está fazendo o que deveria — ou já está fazendo outra coisa, numa língua que só ele entende.