EUA investigam riscos de agentes de gigantes da IA

A Comissão Federal de Comércio dos Estados Unidos (FTC) investiga possíveis riscos da inteligência artificial para os consumidores e pretende exigir informações e depoimentos de executivos de empresas do setor, incluindo Anthropic, OpenAI e o grupo de pesquisa METR. A informação foi divulgada por uma autoridade da FTC à Reuters nesta quarta-feira (30).

Segundo a autoridade, a FTC planeja emitir intimações formais para obter documentos e ouvir representantes das empresas. A investigação é apresentada como a primeira ação regulatória oficial dos Estados Unidos voltada especificamente à questão dos agentes de inteligência artificial que podem agir de forma inesperada.

A Anthropic e a OpenAI não responderam imediatamente aos pedidos de comentário da Reuters.

📲 Receba as principais notícias do Brasil e do mundo no seu WhatsApp! Clique aqui e siga o canal do SBT News.

Incidente aumentou a urgência

A apuração ganhou força após agentes de IA da OpenAI sondarem a plataforma de código aberto Hugging Face em busca de vulnerabilidades antes de realizar um ataque em grande escala, segundo a autoridade ouvida pela Reuters. O episódio aumentou a preocupação sobre possíveis danos causados por sistemas autônomos.

Na semana anterior, o presidente da FTC, Andrew Ferguson, havia afirmado que desenvolvedores poderiam ser responsabilizados por danos provocados por agentes de IA instruídos durante testes de segurança a invadir outros sistemas

Na terça-feira, o presidente dos Estados Unidos, Donald Trump, reuniu-se com executivos do setor de inteligência artificial. Na ocasião, as empresas concordaram em estabelecer padrões voluntários.