Inteligência artificial pode virar "ameaça de extinção" para humanidade

Um relatório encomendado pelo governo dos Estados Unidos aponta que a tecnologia de inteligência artificial (IA) pode se tornar “ameaça ao nível de extinção para a espécie humana” se ações não forem tomadas rapidamente.

+ Confira as últimas notícias de Tecnologia

O estudo foi encomendado pelo Departamento de Estado (equivalente ao Itamaraty) para a Gladstone AI, que entrevistou mais de 200 especialistas como cientistas, pesquisadores, oficiais de segurança e executivos de empresas de IA para entender como que a tecnologia impacta a segurança nacional e os interesses norte-americanos.

O documento aponta a necessidade para equilibrar os benefícios e riscos associados com o desenvolvimento avançado da tecnologia.

Um dos destaques importantes e assustadores da pesquisa é que se a inteligência artificial for armada, ela pode ser incontrolável, ameaçando a segurança global.

A corrida armamentista de IA e conflitos acidentais em grande escala também estão entre as ameaças.

A AGI (Inteligência Arficial Geral), que tem a capacidade de aprendizado semelhante ou superior a dos humanos também pode escalar para riscos sem precedentes para a humanidade.

Estas AGIs podem gerar aplicações voltadas para ciberataques e manipulação psicológica para prejudicar os humanos.

Regular e controlar antes que seja tarde demais

Por isso, o levantamento recomenda a criação de uma agência regulatória, voltada para criar e aplicar regras emergenciais e a limitação do poder computacional para modelos de IA.

O mesmo estudo aponta para a importância da cooperação global e de leis para enfrentar os desafios da inteligência artificial, além de destacar os perigos da inteligência artificial geral, desenvolvendo com urgência medidas de segurança eficientes para que a IA não se volte contra os humanos, causando danos irreversíveis.