IA da OpenAI invade cliente de empresa nos EUA

Um agente de inteligência artificial usado pela OpenAI, dona da plataforma ChatGPT, em um teste de segurança também comprometeu o ambiente de um cliente da Modal Labs, empresa de tecnologia com sede em Nova York. O caso ocorreu durante uma série de invasões que atingiu a infraestrutura da Hugging Face, plataforma conhecida por hospedar modelos e ferramentas de inteligência artificial.

A informação foi divulgada pela Reuters nesta terça-feira (28), com base no relato de um executivo da Modal e de outras duas fontes familiarizadas com o caso.

📲 Receba as principais notícias do Brasil e do mundo no seu WhatsApp! Clique aqui e siga o canal do SBT News.

Segundo a linha do tempo publicada pela Hugging Face, o ataque começou quando o agente conseguiu acessar um sandbox, ambiente separado usado para testes. Esse ambiente estava hospedado na infraestrutura de um provedor externo, ainda não identificado pela empresa. Depois, o agente teria usado o ambiente como ponto de partida para avançar contra outros sistemas.

+ México investiga fraude com IA no maior vestibular do país

A Modal confirmou que um de seus clientes foi afetado. De acordo com o diretor de tecnologia da empresa, Akshat Bubna, o cliente havia publicado um endpoint sem autenticação. Na prática, isso permitia que qualquer pessoa na internet utilizasse os ambientes de teste do cliente para executar códigos.

“Estamos cientes de que um cliente da Modal publicou um endpoint sem autenticação que permitia que qualquer pessoa na internet usasse seus ambientes para executar códigos. Isso foi usado pelo agente”, afirmou Bubna em comunicado.

O executivo também disse que a plataforma da Modal e o sistema de isolamento da empresa não foram comprometidos.

A Hugging Face havia informado que o ataque envolveu milhares de ações automatizadas em vários ambientes temporários. A empresa afirmou ainda que não encontrou evidências de alterações em modelos, conjuntos de dados ou espaços públicos usados pelos clientes.

A OpenAI confirmou que seus modelos participaram do incidente durante uma avaliação de capacidades de segurança cibernética. Segundo a empresa, os modelos identificaram vulnerabilidades e acessaram sistemas da Hugging Face para obter respostas de um teste.

A OpenAI não respondeu imediatamente ao pedido de comentário sobre o ataque envolvendo o cliente da Modal.