Inteligência artificial, lucro em potencial ou armadilha corporativa?

*Integridade e Desenvolvimento é uma coluna do Centro de Estudos em Integridade e Desenvolvimento (CEID), do Instituto Não Aceito Corrupção (INAC). Este artigo reflete única e exclusivamente a opinião do(a) autor(a) e não representa a visão do CEID e INAC. Os artigos têm publicação semanal.

O aumento da utilização da Inteligência Artificial (IA) e as possibilidades lucrativas e bem-sucedidas de negócios que promovem a sua utilização levam organizações de todo o mundo a investir nesta tecnologia e realizar testes em sistemas que vão desde chatbots prontos para uso até bancos de dados personalizados, automações diversas e recursos de criação e escrita.

+ Conheça os colunistas do SBT News

Há uma expectativa de que estas ferramentas de IA melhorem a eficiência, reduzam custos e apoiem os diversos segmentos em termos de competitividade e lucratividade, no entanto, isso pode levar exatamente ao oposto.

Observadores mais atentos percebem que um número crescente de organizações não sabe se as tecnologias de IA que implantaram são legalmente seguras, de onde vieram os dados nos quais esses sistemas foram treinados, ou mesmo se podem ter problemas legais em curto e médio prazo.

Além disso, um grande desafio a ser enfrentado é a quantidade de energia requerida para o desenvolvimento da IA.

Conforme a Agência Internacional de Energia (IEA) haverá um aumento na demanda global de eletricidade para IA, data centers e criptomoedas, com um cenário base alcançando 800 TWh em 2026, um aumento de quase 75% desde 2022. Em seu cenário de alta, a IEA prevê que essa demanda mais do que dobrará, atingindo 1.050 TWh.

+ Todas as notícias sobre Inteligência Artificial

No entanto, há outras questões de pano de fundo, também relevantes, a serem equalizadas: alinhar a inovação e os avanços necessários aos princípios éticos e regulatórios, de modo a garantir que os avanços sejam seguros, justos e benéficos para a sociedade, e reduzir potenciais desigualdades que a IA pode apresentar para as organizações e trabalhadores.

O Relatório Anual Índice de Tendência de Trabalho de 2024, desenvolvido pela Microsoft e LinkedIn, entrevistou 31 mil pessoas em 31 países, aponta que o uso da IA praticamente dobrou e que 75% dos profissionais usam a IA no trabalho, três em cada quatro pessoas. A questão é: “Sem orientação ou autorização dos superiores os funcionários estão tomando as próprias decisões e mantendo o uso da IA em segredo”.

Assim, a pesquisa aponta que essa utilização massiva dos profissionais, coloca os dados da empresa em risco em um ambiente onde a preocupação número 1 dos líderes para o próximo ano é a segurança cibernética e a privacidade dos dados.

+ Todas as notícias no SBT News

Outra pesquisa, realizada pela Arize AI, demonstra que as empresas da Fortune 500 que citaram a IA como um risco aumentou para 281. Isso representa 56,2% das empresas e um aumento de 473,5% em relação ao ano anterior, quando apenas 49 empresas sinalizaram riscos de IA.

Portanto, mesmo setores que, teoricamente, teriam apenas vantagens com a utilização da IA estão preocupados.

Um exemplo é a Motorola, cujo CEO, segundo a referida pesquisa, declarou:

"A IA pode nem sempre vai funcionar como pretendido e os conjuntos de dados podem ser insuficientes ou conter informações ilegais, tendenciosas, prejudiciais ou ofensivas, o que poderia afetar negativamente nossos resultados operacionais, a reputação da empresa ou a aceitação dos clientes de nossas ofertas de IA".

Essas são questões que apresentam cenários de riscos, em especial, para o mundo corporativo, porém, há uma questão que impacta o mercado de trabalho em todo o globo que não está sendo discutida diretamente: a automação de empregos.

Esse é um ponto negativo, frequentemente associado à inteligência artificial, e, segundo os mais conservadores, o avanço da IA aumentaria significativamente o desemprego, na medida em que a substituição da mão de obra humana por máquinas potencializa não apenas a perda de empregos, mas também contribui para o aumento da desigualdade social.

+ Inteligência artificial: A nova guardiã da ética corporativa?

Basta realizar uma pesquisa em relação às profissões do futuro e encontra-se a profissão de “Gestor de Robô” seriam os profissionais das mais diversas as áreas com vários anos de experiência, que conhecem bem os negócios de suas organizações e que aprovarão o trabalho das IAs.

Acontece que a IA avança muito rápido e tem o poder de gerar disrupção em muitas áreas, o que deixa pouco tempo para que a sociedade se ajuste para essas novas habilidades, o que provoca incertezas quanto ao futuro do trabalho.

Adicionalmente, percebe-se que os benefícios da automação tendem a se concentrar nas mãos de grandes empresas que controlam as tecnologias, além de possuírem maior potencial financeiro para investir nestas automações, o que causa, inclusive, uma competitividade desleal em alguns setores.

Apesar de todos os possíveis impactos negativos, até então abordados, eis que a IA é um grande oceano azul e, para obtenção de resultados positivos e lucrativos, é necessário ter compliance.

Em cenários disruptivos, complexos e de alta velocidade, o monitoramento de riscos e o estabelecimento de controles preventivos é fundamental, além do atendimento às questões regulatórias sobre o tema. As organizações que já utilizam ou pretendem usar os sistemas de IA precisarão estar em conformidade com essas regulações, além de promover e monitorar os riscos de integridade dos sistemas a serem adotados.

Nesse contexto, a nova regulação da IA, em construção no país, pretende lidar com os riscos que pode representar, incluindo aspectos jurídicos, de compliance e de segurança de TI. Essa regulação prevê situações de riscos excessivos e proíbe a produção de sistemas em tais casos.

+ Todas as colunas Integridade e Desenvolvimento

Além disso, há previsão de que as organizações se preparem para uma supervisão ativa dos sistemas com uso da inteligência artificial, a fim de prevenir ou minimizar os riscos para direitos e liberdades das pessoas.

Será preciso compreender as capacidades e limitações dos sistemas, decidir, em qualquer situação específica, por não usá-los e intervir no funcionamento de modo a interromper seu funcionamento.

Em um mundo cada vez mais impulsionado pela inteligência artificial, as organizações enfrentam o desafio de equilibrar o potencial de inovação e lucratividade com as demandas éticas, regulatórias e de sustentabilidade. Para mitigar esses desafios, torna-se essencial que invistam em práticas de compliance e governança robustas, garantindo que os avanços em IA sejam realizados de forma segura, ética e em conformidade com a legislação. Somente assim será possível aproveitar os benefícios dessa tecnologia, promovendo um futuro mais justo e sustentável.

*Integridade e Desenvolvimento é uma coluna do Centro de Estudos em Integridade e Desenvolvimento (CEID), do Instituto Não Aceito Corrupção (INAC). Este artigo reflete única e exclusivamente a opinião do(a) autor(a) e não representa a visão do CEID e INAC. Os artigos têm publicação semanal.