Agentes de IA da OpenAI acessam sites do governo dos EUA

Os modelos de inteligência artifical da OpenAI, empresa dona do ChatGPT, acessaram informações disponíveis publicamente em sites do governo dos Estados Unidos, incluindo os do Departamento do Censo e da Comissão de Valores Mobiliários (SEC), informou a Bloomberg News na sexta-feira.

Segundo o relatório, que cita pessoas familiarizadas com a situação, os sistemas de IA da empresa interagiram com dados do SEC.gov, do Investor.gov e do Census.gov, que são de acesso público.

Questionado sobre o assunto, um porta-voz da OpenAI disse que a empresa está: "conduzindo uma revisão abrangente da atividade desalinhada do modelo e notificando as organizações quando identificamos impactos potenciais em seus sistemas. Esperamos fazer notificações adicionais à medida que esse trabalho continuar."

Dificuldade em mapear os incidentes

Dois meses após a OpenAI divulgar um ataque hacker acidental à Hugging Face, a criadora do ChatGPT ainda trabalha para entender a extensão total da atividade de seu agente malicioso, disseram à Reuters duas pessoas familiarizadas com o assunto.

O exemplo mais recente ocorreu na sexta-feira, quando a OpenAI afirmou que seus agentes vazaram 53 imagens de usuários do ChatGPT. A empresa se recusou a dizer se as imagens foram geradas por IA ou se identificavam pessoas reais, e também não informou quando foram publicadas.

Em meados de setembro, uma pessoa próxima à empresa estimou que a OpenAI havia encontrado cerca de duas dúzias de incidentes em que seus agentes agiram de maneira indesejável. O número, porém, continuou a aumentar à medida que as equipes examinam os registros internos das atividades — o que ilustra a discrepância entre a robustez dos modelos testados e a capacidade da empresa de supervisionar suas ações.

Caso na Austrália

A Austrália informou, nesta quarta-feira (23), que um agente de IA desenvolvido pela OpenAI obteve acesso não autorizado a arquivos de um portal governamental de dados de saúde.

O acesso teria ocorrido em 18 de junho, no portal de estatísticas do Medicare, administrado pela Services Australia. Segundo o primeiro-ministro Anthony Albanese, o sistema continha informações públicas e não públicas, mas relacionadas a dados estatísticos considerados não sensíveis, como gastos públicos com saúde.

O caso pode ser o primeiro incidente publicamente conhecido de um agente de IA invadindo um site governamental.

Albanese afirmou que conversou com o CEO da OpenAI, Sam Altman, e manifestou a "extrema preocupação" do governo australiano com o episódio. Ele disse estar profundamente decepcionado com o tempo levado pela empresa para comunicar a violação — cerca de três meses.

As autoridades seguem investigando quais arquivos foram acessados e se houve extração ou alteração de dados. Até o momento, as informações indicam que não há evidências de acesso a dados pessoais sensíveis.