NY debate multa de US$ 25 mil e 'botão de desligar' para IA

Os riscos da inteligência artificial (IA) levaram representantes de OpenAI, Anthropic, Google e Meta a uma audiência sob juramento na Câmara Municipal de Nova York, nesta segunda-feira (5). O encontro reuniu empresas, especialistas e ex-funcionários do setor para discutir como proteger a população de falhas e usos indevidos desses sistemas.

A cobrança não partiu do Congresso americano, mas do Legislativo municipal. A presidente da Câmara, Julie Menin, convocou uma audiência do Comitê Pleno, formato que reúne o conjunto dos 51 vereadores, para examinar propostas de fiscalização e responsabilidade.

A presença de parte das empresas veio depois de pressão. Segundo comunicado da Câmara, OpenAI, Google e Anthropic aceitaram participar após a ameaça de intimação. A Meta já havia confirmado um representante de sua liderança.

Auditoria e botão de desligar

Um dos projetos propõe impedir a comercialização e a implantação, na cidade, de sistemas sem validação independente. A avaliação abrangeria qualidade dos dados, segurança, privacidade e vieses.

O mesmo texto exige um mecanismo que permita a um operador humano desligar a IA. A proposta prevê multa de US$ 25 mil por ocorrência de implantação sem validação ou com avaliação falsificada.

Outro projeto permitiria que pessoas prejudicadas processassem empresas por danos previsíveis decorrentes do uso malicioso da tecnologia, caso a companhia não tivesse adotado salvaguardas razoáveis.

Também estão em discussão incentivos a denunciantes e comunicação de incidentes em contratos públicos. Uma proposta estabelece notificação ao órgão municipal de cibersegurança em até 24 horas.

São projetos, não exigências já aprovadas. A audiência faz parte da discussão legislativa sobre quais controles a cidade poderá adotar.

O contexto dos testes de segurança

Ex-funcionários de laboratórios também participaram do encontro e fizeram alertas sobre a velocidade do desenvolvimento, segundo a Associated Press.

A discussão acontece depois de episódios em que agentes de IA alcançaram sistemas reais durante avaliações. Como mostrou a EXAME, os casos envolveram falhas na contenção de ambientes que deveriam limitar a atuação dos modelos.

E o Brasil?

O Brasil não está sem debate público sobre IA. Em 1º de junho, o Conselho de Comunicação Social do Congresso realizou uma audiência sobre desinformação e o uso da tecnologia nas eleições de 2026, conforme a Agência Câmara.

No encontro, pesquisadores apontaram dificuldades de fiscalização da publicidade digital e defenderam mais transparência. A audiência brasileira tratou de riscos informacionais e eleitorais; em Nova York, as propostas também alcançam validação técnica, desligamento e responsabilidade por danos.

A discussão sobre responsabilização inclui uma questão concreta: quais obrigações devem ser impostas às empresas antes e depois de um incidente.