Executivos alertam Conselho de Segurança sobre riscos da IA
CEOs da OpenAI, Anthropic e Hugging Face pedemm atenção ao avanço da tecnologia
Sam Altman, da OpenAI, alerta para o perigo da IA | Divulgação
Executivos de duas das principais empresas de inteligência artificial alertaram nesta quarta-feira (23), em reunião do Conselho de Segurança da ONU, sobre os riscos do avanço acelerado da tecnologia.
A sessão foi a primeira reunião do grupo dedicada ao tema durante a Assembleia Geral da ONU, em Nova York. Participaram Sam Altman, presidente-executivo da OpenAI; Dario Amodei, cofundador e presidente-executivo da Anthropic; e Clément Delangue, presidente-executivo da Hugging Face.
Altman afirmou que o ritmo de desenvolvimento exige “extremo cuidado”. O CEO da OpenAI defendeu que, apesar do potencial benéfico, essa tecnologia pode representar riscos para a humanidade, dependendo de como os sistemas forem desenvolvidos e utilizados.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT,Site e YouTube, além dos canais nas Smart TVs Samsung, LG e Roku.
Siga no Google DiscoverO executivo defendeu uma cooperação internacional para estabelecer padrões de segurança para as empresas de IA, com liberdade para que os países decidam como lidar com as regras dentro de seus sistemas legais.
Em discurso, o presidente da Anthropic acompanhou o colega e também pediu que os governos tratem a segurança da inteligência artificial como uma questão de segurança global “maior do que qualquer empresa”. Segundo Amodei, há dois riscos principais relacionados a esses desenvolvimentos: o uso indevido e a perda de controle.
“Iremos desacelerar quanto for necessário para garantir que todo modelo que desenvolvermos é verdadeiramente seguro.”
O executivo também pediu sistemas de verificação capazes de acompanhar a velocidade de desenvolvimento da tecnologia, com padrões internacionais para testar modelos. E defendeu que o Conselho de Segurança apoie uma proibição do uso de inteligência artificial para desenvolver armas biológicas, afirmando que se as ferramentas forem mal administradas, podem representar um risco para a humanidade como um todo.
O diretor-executivo da Hugging Face, que esteve envolvida em um escândalo de invasão de sistemas de IA neste ano, participou por videoconferência. Delangue alertou que o risco de ataques cibernéticos é real, mas ponderou que “narrativas baseadas no medo não são o caminho para tomar as decisões corretas” sobre como regulamentar a inteligência artificial.
Por fim, Delangue denunciou a “assimetria de poder” no setor e defendeu a cooperação entre desenvolvedores para evitar ciberataques. “Fomos atacados por IA, mas, mais importante, nos defendemos com IA”, disse.
