Senado adia regulação da inteligência artificial e entidades acusam pressão para impedir votação
Prazo para funcionamento de comissão que analisa o projeto de lei deve ser prorrogado e a definição sobre a matéria ficar para depois do recesso parlamentar
Apesar da intenção do presidente do Senado, Rodrigo Pacheco (PSD-MG), de que o projeto de lei que regulamenta o uso da inteligência artificial (IA) no Brasil seja votado na Casa antes do recesso parlamentar, com início em 18 de julho, o texto não deve avançar nos próximos dias. O presidente da comissão responsável por analisar a matéria, Carlos Viana (Podemos-MG), disse na terça-feira (9) que pediria a Pacheco uma nova prorrogação do prazo de funcionamento do colegiado, atualmente se encerrando no próximo dia 17, e que a votação possivelmente ficaria para depois das eleições de outubro.
Segundo Viana, "não há pressa" em votá-la. "Nós queremos o diálogo, queremos as contribuições, um texto que chegue ao consenso o maior possível, mas nós não vamos abrir mão de votar essa legislação ao país", ressaltou o senador.
Nesta semana, a Coalizão Direitos na Rede, que reúne organizações da sociedade civil, academia e ativistas para defender os direitos humanos na internet, publicou uma carta aberta na qual afirma que o projeto em tramitação no Senado é um "bom guia" para a regulação da IA no país e sugere melhorias na versão que o relator, Eduardo Gomes (PL-TO), propõe em seu parecer que seja aprovada no lugar da original.
A carta aponta, porém, para a existência de uma "forte mobilização" dos setores produtivos e das empresas de tecnologia para impedir a votação do projeto de lei, "seja por meio da imposição de uma enxurrada de emendas de última hora, de pedidos de audiências públicas, ou de lobby [pressão] direto junto aos parlamentares".
Segundo a Coalizão, "o lobby da indústria é enorme, incluindo viagens internacionais e eventos privados organizados por big techs para os senadores mais envolvidos no debate".
Nas últimas audiências públicas realizadas pela comissão sobre o projeto, diz a carta, "representantes do setor privado insistiram no argumento (falacioso) de que a regulamentação da IA no Brasil impediria a inovação no país, sendo um custo enorme para startups e pequenas e médias empresas, em favor da inovação a qualquer custo (inclusive em detrimento de direitos fundamentais básicos)".
+ Ex-deputado estadual é baleado em tentativa de assalto a residência em São Paulo
Houve ainda, pontua, o uso de argumentos "sem base lógica ou jurídica" relacionados à censura, como a comparação da avaliação preliminar dos sistemas de IA com uma potencial censura prévia dos desenvolvedores. A carta aberta é assinada não só pela Coalizão Direitos na Rede, mas também por outras 48 entidades e grupos, e 61 indivíduos.
Entre os signatários, estão a liderança do Partido dos Trabalhadores (PT) na Câmara dos Deputados e a Câmara Municipal do Recife, mas também, por exemplo, o Centro de Estudos de Segurança e Cidadania (CESeC), o Instituto de Defesa de Consumidores (Idec), o Grupo de Pesquisa em Economia Política da Comunicação da PUC-Rio/CNPq, a Transparência Brasil, o Instituto de Pesquisa em Internet e Sociedade (Iris) e a Universidade Federal do Rio Grande do Norte (UFRN).
Na última segunda-feira (8), em nota, a Confederação Nacional da Indústria (CNI) e a Mobilização Empresarial pela Inovação (MEI) disseram defender a regulação do uso da inteligência artificial no Brasil, mas que o projeto "cria obstáculos para o desenvolvimento tecnológico e a inovação no país".
Segundo as entidades, a mais recente versão proposta pelo relator traz "avanços pontuais" em relação às anteriores, "mas mantém a estrutura e a base conceitual que resultam em um modelo regulatório com maior amplitude e rigor no mundo, o que coloca o país sob o risco de sofrer um isolamento e atraso tecnológico".
Elas dizem reconhecer "a necessidade de coibir o mau uso da tecnologia, sobretudo no contexto das eleições e das redes sociais", mas acrescentam que o PL "excede no escopo ao regular a IA em si, fazendo a lei incidir desde a concepção e o desenvolvimento dos sistemas, em vez de dar relevância ao uso e às aplicações por grau de risco, como fazem os outros países".
O que diz o projeto de lei?
A mais recente versão do parecer de Eduardo Gomes sobre o projeto de lei foi apresentada no dia 4 de julho. Nela, ele vota para a aprovação do projeto na forma de um substitutivo, ou seja, uma versão com mudanças em relação ao texto original, apresentado por Rodrigo Pacheco.
A proposta de Gomes cria normas gerais de caráter nacional para a concepção, o desenvolvimento, implementação, utilização, adoção e governança responsável de sistemas de inteligência artificial no país, com o objetivo de proteger os direitos fundamentais, estimular a inovação responsável e garantir a implementação de sistemas seguros e confiáveis, em benefício das pessoas, da democracia e do desenvolvimento social, científico, tecnológico e econômico.
De acordo com o substitutivo, para as finalidades da lei a ser criada, sistema de inteligência artificial é entendido como o sistema baseado em máquina que, com graus diferentes de autonomia e para objetivos explícitos ou implícitos, deduz, a partir de um conjunto de dados ou informações que recebe, como gerar resultados, em especial, previsão, conteúdo, recomendação ou decisão que possa influenciar o ambiente virtual, físico ou real.
Já agentes de IA são desenvolvedores, distribuidores e aplicadores que atuem na cadeia de valor e na governança interna de sistemas dessa tecnologia.
A lei não se aplicaria ao sistema de IA usado por pessoa para fim exclusivamente particular e não econômico, e àquele desenvolvido e utilizado exclusivamente para fins de defesa nacional. Também não se aplicaria ao sistema em "atividades de testagem, desenvolvimento, pesquisa ou que não sejam colocadas em circulação no mercado, desde que mantida exclusivamente sua finalidade de investigação e desenvolvimento científico".
Segundo a proposta, a pessoa ou grupo afetado por sistema de IA, independentemente do seu grau de risco, tem quatro direitos. São eles:
- Direito à informação prévia quanto às suas interações com sistemas de IA, de forma acessível, gratuita e de fácil compreensão inclusive sobre caráter automatizado da interação, exceto nos casos em que se trate de sistemas de IA dedicados única e exclusivamente à cibersegurança e à ciberdefesa;
- Direito à privacidade e à proteção de dados pessoais, em especial os direitos dos titulares de dados nos termos da Lei nº 13.709, de 14 de agosto de 2018 e da legislação pertinente;
- Direito à determinação e à participação humana, levando-se em conta o contexto, o nível de risco do sistema e o estado da arte do desenvolvimento tecnológico; e
- Direito à não-discriminação ilícita ou abusiva e à correção de vieses discriminatórios ilegais ou abusivos sejam eles diretos ou indiretos.
O texto proíbe o desenvolvimento, a implementação e o uso de sistemas de IA com o propósito de induzir o comportamento da pessoa ou de grupos de maneira que cause danos à saúde, segurança ou outros direitos fundamentais próprios ou de terceiros.
São proibidos também sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público (com exceção de determinadas hipóteses), assim como sistemas de armas autônomas (SAA), e o desenvolvimento, implementação e o uso de sistemas de IA com a finalidade de:
- Explorar quaisquer vulnerabilidades de pessoa natural ou de grupos com o objetivo ou o efeito de induzir o seu comportamento de maneira que cause danos à saúde, segurança ou outros direitos fundamentais próprios ou de terceiros;
- Possibilitar a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes;
- Avaliar os traços de personalidade, as características ou o comportamento passado, criminal ou não, de pessoas singulares ou grupos, para avaliação de risco de cometimento de crime, infrações ou de reincidência.
O poder público não pode desenvolver, implementar e usar sistemas de IA para avaliar, classificar ou ranquear as pessoas, com base no seu comportamento social ou em atributos da sua personalidade, por meio de pontuação universal, para o acesso a bens e serviços e políticas públicas, de forma ilegítima ou desproporcional.
A proposta ainda cria o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA). Entre seus objetivos e fundamentos, estão valorizar e reforçar as competências regulatória, sancionatória e normativa das autoridades setoriais em harmonia com as correlatas gerais da autoridade competente que coordena o SIA; e harmonização e colaboração com órgãos reguladores de temas transversais.
+ Ramagem sugeriu investigar auditores para proteger Flávio Bolsonaro, diz PF
O SIA será integrado pela Autoridade Nacional de Proteção de Dados (ANPD), que o coordenará, e também por autoridades setoriais, um Conselho Permanente de Cooperação Regulatória de Inteligência Artificial (Cria) e um Comitê de Especialistas e Cientistas de Inteligência Artificial (Cecia).
O substitutivo determina que, antes da introdução e circulação no mercado, emprego ou uso de sistemas de IA, o desenvolvedor e aplicador deles realizem uma avaliação preliminar que determinará o grau de risco do sistema.
Os de risco excessivo são proibidos pelo texto. Em relação aos de alto risco, caberá ao SIA regulamentar a lista a classificação da lista desses sistemas de IA.
Está prevista também a possibiliade de os agentes se associarem "voluntariamente sob a forma de pessoa jurídica de direito privado sem fins lucrativos para promover a autorregulação com o objetivo de incentivar e assegurar melhores práticas de governança ao longo de todo o ciclo de vida de sistemas de IA".
Sanções administrativas
De acordo com o substitutivo proposto por Eduardo Gomes, os agentes de inteligência artificial, por causa das infrações cometidas às normas previstas na lei a ser criada, ficam sujeitos a sanções administrativas aplicáveis pela autoridade competente. Entre elas:
- Advertência;
- Multa simples, limitada, no total, a R$ 50 milhões por infração, sendo, no caso de pessoa jurídica de direito privado, ou de até 2% de seu faturamento bruto, de seu grupo ou conglomerado no Brasil no seu último exercício, excluídos os tributos;
- Publicização da infração após devidamente apurada e confirmada a sua ocorrência;
- Proibição ou restrição para participar de regime de sandbox regulatório previsto nesta Lei, por até cinco anos;
- Suspensão parcial ou total, temporária ou definitiva, do desenvolvimento, fornecimento ou operação do sistema de IA; e
- Proibição de tratamento de determinadas bases de dados.
"Argumento de censura"
Na última reunião da comissão responsável por analisar o projeto de lei, na terça-feira (9), Carlos Viana indicou que havia pessoas acusando o substitutivo de promover censura apenas para obter benefícios em cima da acusação.
"Existe no Parlamento brasileiro hoje aqueles que querem a discussão, a mídia para ganhar dinheiro e para aproveitar a desinformação da população. Está lotado de gente que faz isso em rede social, que levanta o argumento de censura, mas porque ganham em cima disso", declarou.
"Estão ganhando em cima de rede social e da desinformação da população. Agora, o Senado não é a Casa para esse tipo de palco, para esse tipo de picadeiro", acrescentou.
Viana ainda disse que, na manhã daquele dia, havia feito um levantamento com Eduardo Gomes de todos os pontos do projeto que estavam sendo polemizados.
+ Câmara aprova perdão de multas a partidos que descumprem cotas
"A meu ver, a maioria já foi contemplada em debates. O que temos aqui é uma forma de querer chamar a atenção sobre um assunto que rende rede social, mas que não está no texto ou não traz ao país qualquer tipo de prejuízo", criticou.
Entretanto, tomou a decisão de que o colegiado não votaria o projeto naquela data, para a qual estava prevista a votação. "Nós não vamos votar até que a gente tenha esclarecido, ponto por ponto, tudo isso, porque não é essa argumentação que nós queremos sobre um tema tão importante para nós no Brasil".
Na quinta-feira (11), o líder da oposição no Senado, Marcos Rogério (PL-RO), disse, em coletiva de imprensa, que os senadores, enquanto legisladores, precisam "a capacidade de compreender" que, na regulamentação da inteligência artificial, precisam criar salvaguardas, mas não podem "travar, impedir o avanço tecnológico".
"Essa é uma compreensão que tem que existir. E eu penso que para esse tema avançar como ele deve avançar e é necessário que avance, nós precisamos descontaminar esse tema. É preciso focar no tema central".
Segundo o senador, o projeto está "contaminado com muitos conteúdos que não são do campo da IA".
Posicionamento das entidades
De acordo com a carta aberta divulgada pela Coalizão Direitos na Rede, "os atores que se opõem à regulamentação abrangente da IA no Brasil são precisamente aqueles que se beneficiam desta situação não regulamentada, criando argumentos e narrativas que não se sustentam na prática".
De acordo com as entidades, com a aproximação da votação do projeto de lei pela comissão do Senado, "observou-se a intensificação da utilização das redes, especialmente a plataforma X [antigo Twitter], para disseminação de conteúdo inverídico sobre o projeto, classificando-o como 'PL da censura' e associando a classificação de risco ou medidas de governança à estratégias políticas do governo".
PL da censura, relembra a carta, foi como bolsonaristas passaram a chamar o Projeto de Lei das Fake News no ano passado.
As entidades dizem que o substitutivo proposto por Eduardo Gomes inclui elementos essenciais "para a adequada regulamentação dos sistemas de IA no Brasil", como a garantia de direitos básicos para indivíduos potencialmente afetados por inteligência artificial e a definição de utilizações inaceitáveis de IA, que representam riscos significativos para direitos fundamentais.
Como melhorias importantes da versão em relação ao texto original, citam, entre outras, a proibição explícita de sistemas de armas autônomas e a designação direta da Autoridade Brasileira de Proteção de Dados como autoridade competente para harmonizar o sistema de supervisão, em colaboração com outros intervenientes.
+ Câmara aprova proposta que reserva 5% de emendas para prevenção de desastres
Entretanto, diz que a versão "mantém ou agrava questões críticas que contradizem o objetivo central de regulamentar a IA para proteger direitos e prever inovação responsável". As entidades argumentam, entre outros pontos, que as utilizações proibidas de sistemas de inteligência artificial não devem estar vinculadas à intenção do agente.
"Assim, a expressão 'com o propósito de' para os usos proibidos deve ser excluída para abranger todas as tecnologias nocivas e seus efeitos, independentemente da verificação da intenção dos agentes de IA em serem propositalmente prejudiciais ou não", pontuam.
De acordo com elas, "as proibições também não poderiam estar ligadas à causalidade, como ocorre com a expressão 'de maneira que cause danos'".
A carta afirma que, com o lobby das big techs e indústria, houve, no novo substitutivo, "o enxugamento de importantes obrigações de governança de sistemas de IA, especialmente ligados à transparência, além da redução de direitos de pessoas potencialmente afetadas". Em resumo, a carta faz uma defesa crítica do projeto de lei.
A nota da Confederação Nacional da Indústria (CNI) e a Mobilização Empresarial pela Inovação (MEI), por sua vez, elenca cinco pontos que as entidades consideram como os mais críticos no substitutivo apresentado no dia 4 de julho. Entre eles, a regulação da "concepção ao desenvolvimento e à adoção dos sistemas de IA, e não apenas a implementação e o uso de aplicações por grau de risco, o que resulta em barreiras ao desenvolvimento científico e tecnológico da tecnologia".
Ainda de acordo com a CNI e a MEI, o texto cria uma carga de governança "excessiva", mesmo para aplicações que não são de alto risco, e intervenção externa em processos internos das empresas, o que "viola segredos comerciais e industriais e a livre iniciativa".
+ Randolfe diz que monitoramento de autoridades pela Abin foi crime contra a democracia
Para as entidades, existe "vício de iniciativa" ao prever como órgão central a Autoridade Nacional de Proteção de Dados (ANPD), que "ainda está em processo de estruturação para a proteção aos dados pessoais, e não possui competência técnica sobre IA ou políticas de inovação, como outros órgãos do governo mais aptos ao desafio".
A indústria sugere na regulação da IA, por exemplo, um "ajuste de escopo". Segundo o setor, "a lei deve incidir sobre as aplicações dos sistemas, que é a etapa onde se materializam e podem ser avaliados, e não na concepção e no desenvolvimento, sob pena de barrar a inovação".
A Federação do Comércio de Bens, Serviços e Turismo do Estado de São Paulo (FecomercioSP) também abordou o projeto de lei em uma nota nesta semana. Na manifestação, a entidade diz que, desde o começo da discussão sobre a matéria, vem contribuindo para a "elaboração de um texto equilibrado".
Na nota, a FecomercioSP ressalta que o relatório de Eduardo Gomes "traz avanços consideráveis", mas diz que "alguns aspectos precisam ser reavaliados". Cita, por exemplo, as sanções e a carga de governança — chamada de "excessiva".
Segundo a entidade, "o relatório contém um rol de penalidades muito próximo ao previsto na Lei Geral de Proteção de Dados Pessoais". "A introdução de novas sanções pode gerar risco de as empresas serem duplamente penalizadas", acrescenta. É sugerida uma nova redação para eliminar essa cumulatividade.
Entre os pontos positivos da versão do texto apresentada no dia 4 de julho em relação às anteriores, a FecomercioSP cita uma maior relevância para a autorregulação e incentivos concretos para a inovação.
Se for aprovasdo pela comissão em que está tramitando, o projeto de lei ainda precisará ser votado pelo plenário do Senado. Se a Casa aprovar, seguirá para análise da Câmara dos Deputados.
