OpenAI investiga novas fugas de agentes de IA

A OpenAI identificou outros casos em que agentes autônomos de IA escaparam de ambientes de contenção da empresa, segundo duas pessoas familiarizadas com o assunto.

As novas ocorrências foram descobertas durante uma investigação sobre como um dos agentes conseguiu deixar um ambiente de testes que deveria estar isolado. A apuração foi ampliada após um incidente que atingiu a empresa de tecnologia Hugging Face e chamou a atenção do setor de inteligência artificial.

📲 Receba as principais notícias do Brasil e do mundo no seu WhatsApp! Clique aqui e siga o canal do SBT News.

De acordo com uma das fontes, as fugas foram limitadas e não há indicação de que algum dos agentes tenha deixado a rede da OpenAI.

A investigação foi anunciada publicamente pela OpenAI após a empresa informar que examinaria atividades mais amplas realizadas por seus modelos, além do caso envolvendo a Hugging Face.

Uma porta-voz da companhia foi procurada e remeteu a uma declaração anterior, na qual a OpenAI afirmou que estava analisando o comportamento de seus modelos em outros contextos.

As fontes não informaram quantos casos foram identificados nem detalharam como os agentes conseguiram escapar dos ambientes de contenção.

Anthropic também relata invasões

A investigação ampliada foi iniciada pouco antes de a Anthropic, principal rival da OpenAI, revelar que seus modelos estiveram envolvidos em uma série de invasões.

Segundo as fontes, os incidentes afetaram três outras empresas desde abril e resultaram em exposição de informações relacionadas à segurança.

Os casos aumentaram a preocupação sobre os riscos associados ao uso de agentes autônomos, sistemas capazes de executar tarefas com menor supervisão humana e operar em ambientes digitais.