Justiça

Inteligência artificial: quem dita os limites?

Regular essa tecnologia exige compreender seus benefícios, estabelecer limites e definir quem responde por seus efeitos

C
Por Célia Lima Negrão
Inteligência artificial (IA) | Pexels

Inteligência artificial (IA) | Pexels

A inteligência artificial amplia as possibilidades de produzir conhecimento, aprimorar serviços e resolver problemas complexos. Ao mesmo tempo, permite que decisões capazes de afetar direitos e transformar relações sociais sejam executadas em escala, com graus crescentes de autonomia.

Portanto, regular essa tecnologia exige compreender seus benefícios, estabelecer limites e definir quem responde por seus efeitos.

🤳 Notícias em primeira mão: baixe nosso aplicativo gratuito e leve o jornalismo do SBT News com você, onde estiver! Clique aqui.

Eis o grande desafio para os países, as instituições públicas e privadas e toda a sociedade: construir uma base segura para que a inteligência artificial realize seu potencial, com proteção dos direitos, da segurança e do bem-estar das pessoas.

No Brasil, o Projeto de Lei nº 2.338/2023 representa uma tentativa de organizar essa resposta, articulando a proteção de direitos fundamentais com o desenvolvimento científico e tecnológico. A proposta reúne tópicos voltados à proteção de direitos fundamentais com o desenvolvimento científico e tecnológico, princípios como supervisão humana, não discriminação, transparência, auditabilidade e prevenção de riscos.

Além disso, propõe estruturas de governança que acompanhem os sistemas ao longo de seu ciclo de vida, reconhecendo que a responsabilidade deve estar presente desde a concepção da tecnologia.

A versão do PL encaminhada pelo Senado à Câmara adota uma abordagem baseada em riscos, prevê restrições a determinadas aplicações e medidas reforçadas para sistemas de alto risco, com avaliação de impacto algorítmico, estruturas internas de governança e direitos de pessoas afetadas.

O sentido dessa abordagem de riscos é ajustar a intensidade das exigências à gravidade e à probabilidade dos possíveis impactos, preservando espaço para aplicações de menor risco.

Ao lado da gestão de riscos, os princípios vinculados ao uso da IA devem ocupar uma posição central nesse debate porque oferecem critérios para situações que a legislação dificilmente conseguirá antecipar por completo.

Dentre eles está a transparência que deve permitir que as pessoas compreendam o papel da IA em decisões que as afetam, além da não discriminação que exige identificar e enfrentar vieses e resultados discriminatórios, enquanto a supervisão humana deve assegurar condições reais de intervenção.

O caso recente da OpenAI no qual alguns agentes de IA realizaram ataques cibernéticos contra alvos para os quais não haviam recebido instruções e a própria empresa reconheceu que a relevância da comunicação entre esses agentes não foi percebida inicialmente por sua liderança e desacelerou o treinamento de determinados modelos e ferramentas.

O caso evidencia que a supervisão humana exige capacidade efetiva de identificar comportamentos inesperados e intervir e é essa base de segurança que permite avançar com a tecnologia e preservar seus benefícios para a sociedade.

Não à toa que a trajetória internacional mostra como essa discussão ganhou densidade. Em 2019, a OCDE adotou seus princípios sobre IA1, atualizados em 2024. Em 2021, a UNESCO aprovou sua Recomendação sobre a Ética da Inteligência Artificial2. Esses instrumentos consolidaram referências para uma tecnologia orientada por direitos humanos e responsabilidade e se traduzem em recomendações internacionais, com natureza distinta de uma lei diretamente aplicável às empresas.

A União Europeia avançou para obrigações jurídicas com o AI Act, Regulation (EU) 2024/1689, regulamento que combina proibições, requisitos para sistemas de alto risco, deveres de transparência e regras para modelos de propósito geral, incluindo aqueles que apresentam riscos sistêmicos.

Em paralelo, a Declaração de Bletchley3, de 2023, primeiro acordo internacional histórico assinado por 28 países (incluindo Brasil, Estados Unidos, China, além da União Europeia) estabeleceu um entendimento comum sobre os riscos e o desenvolvimento seguro da Inteligência Artificial de fronteira, os modelos com capacidades mais avançadas, reconhecendo a possibilidade de danos graves, inclusive catastróficos, associados às capacidades deste tipo mais avançado de IA.

O documento enfatizou a cooperação internacional para compreender e enfrentar esses riscos. A evolução mundial, portanto, reúne instrumentos diferentes e caminhos que se sobrepõem: princípios, legislação e iniciativas de segurança voltadas aos modelos de fronteira.

Os acontecimentos recentes tornam essa evolução ainda mais relevante. Em 29 de setembro de 2026, Donald Trump anunciou um acordo voluntário com dirigentes de grandes empresas de tecnologia que prevê o compromisso com controles internos, avaliações por auditores externos independentes e comitês dos conselhos de administração para examinar os resultados. Descrito como moralmente vinculante, o acordo também admite que essas medidas possam, futuramente, ser incorporadas a leis e regulamentos.

A comparação feita por Trump com uma “Constituição da IA” confere ao anúncio uma dimensão simbólica, mas precisa ser compreendida com precisão. O documento, denominado White House Accord on Super Intelligence — Joint Commitment on Frontier Responsibilities, apresenta compromissos voluntários de segurança para empresas que treinam e disponibilizam modelos de fronteira.

No entanto, restou dois pontos principais: sanções próprias pelo descumprimento nem procedimentos e divulgação pública dos resultados das avaliações e dos incidentes.

Essa ausência não afasta a aplicação das leis já existentes, mas limita o alcance do compromisso como instrumento autônomo de fiscalização e prestação de contas. A questão central é como verificar o cumprimento das promessas e quais consequências decorrerão de sua violação. Quem avaliará se os compromissos assumidos estão sendo efetivamente cumpridos?

A autorregulação pode mobilizar conhecimento técnico e acelerar a adoção de controles. Sua credibilidade, porém, depende da independência das avaliações, da transparência dos resultados e de mecanismos de responsabilização.

Em termos de gestão de riscos e compliance, é fundamental documentar as falhas, definir responsáveis e prazos de correção e verificar se as providências reduziram a exposição, afinal, compromissos voluntários precisam ser examinados também à luz dos incentivos econômicos de quem os assume.

A preocupação ganhou outra dimensão com o alerta, amplamente noticiado, da Anthropic, responsável pelo Claude, no qual a empresa planejava advertir investidores sobre riscos catastróficos ou existenciais da IA avançada, com possibilidades de comportamentos voltados à autopreservação, resistência ao desligamento e manipulação de informações.

Na mesma direção, segundo reportagens recentes, a OpenAI decidiu não lançar uma nova versão de seu sistema GPT-6.1 Astra por preocupações de segurança, pois apontou limitações relacionadas à permanência dentro do escopo autorizado e à comunicação com o usuário sobre o trabalho realizado.

O avanço da IA exige países e instituições capazes de aprender, fiscalizar e agir antes que os danos se tornem irreversíveis. Quando as próprias desenvolvedoras reconhecem limites de segurança e possibilidades de impactos extremos, aumenta a necessidade de controles verificáveis e de supervisão pública qualificada.

A confiança social dependerá da capacidade de transformar princípios em decisões e de atribuir responsabilidade pelas consequências da inovação.

Mais da Coluna do INAC

Política
há 4 dias

O sistema Justiça tem remédio?

José Renato Nalini defende mudanças na formação dos profissionais do Direito e na estrutura do Judiciário para tornar a Justiça mais eficiente

Últimas notícias de Justiça