Com IA, humanidade sofre "catastróficos riscos de extinção", diz Dan Hendrycks
Diretor do CAIS fala ao SBT News sobre a preocupação dos especialistas com uso seguro da inteligência artificial
Em 30 de novembro de 2022, a empresa OpenAI lançou sem alarde um chatbot baseado em inteligência artificial (IA) conversacional, que consegue realizar algumas tarefas criativas 'humanas' no computador, como digitar textos, fazer relatórios e além. Para isso, basta dar 'uma ordem' que o computador faz o resto. O lançamento da ferramenta movimentou o mercado em torno da IA e criou novas oportunidades e desafios para o planeta.
+ Leia as últimas notícias de Tecnologia
+ Leia as últimas notícias no portal SBT News
Em pouco mais de 6 meses, o uso do ChatGPT obteve uma base de usuários em tempo recorde, alcançando mais de 100 milhões de usuários ativos mensais. Esse número segue crescendo exponencialmente. Assim, muitas outras ferramentas foram sendo desenvolvidas mundo afora para várias finalidades.
Com isso, há uma mistura de admiração, com as infinitas possibilidades de facilitar a vida da humanidade, com a resolução de problemas complexos, bem como existe a preocupação sobre o futuro da vida como conhecemos.
O Centro para Inteligência Artificial Segura (CAIS sigla em inglês para Center for Artificial Intelligence Safety) publicou no final de maio uma carta aberta com pioneiros da IA chamando a atenção para o desenvolvimento de uma política de regulação de uso da tecnologia, que pode ser benéfica para a humanidade, bem como "catastrófica".
Em uma mensagem sucinta, uma frase com 24 palavras, especialistas, pioneiros e cientistas de inteligência artificial fazem um alerta objetivo sobre o futuro da humanidade, caso a tecnologia não seja tratada com o devido cuidado, sem respeitar os riscos que a IA pode causar na sociedade.
"Mitigar o risco de extinção da IA -- deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear".
Os mais de 350 signatários concordam que a inteligência artificial pode exterminar a humanidade.
We just put out a statement:
? Dan Hendrycks (@DanHendrycks) May 30, 2023
? (1/6)
+ "Inteligência artificial pode exterminar a humanidade", alertam cientistas
IA tem risco de extinção equivalente a guerras, bombas nucleares e pandemias, diz CAIS
O SBT News conversou com exclusividade com Dan Hendrycks, diretor do CAIS, graduado em artes pela Universidade de Chicago e doutor em Ciência da Computação pela Universidade da Califórnia, em Berkeley, também é pesquisador em aprendizado e ética de máquina. Ele falou sobre a saga da organização em alertar o planeta sobre os riscos do uso indevido da inteligência artificial.
Segundo o CAIS, o risco de uso IA cresceu e deve ser uma prioridade global a ser contida, ao lado de pandemias e guerra nuclear. Por isso, a entidade acredita no treinamento e formação de líderes, desenvolvimento de políticas e ferramentas para gerenciar os riscos que a inteligência artificial podem trazer para a humanidade.
No entanto, a organização também acredita no uso benéfico da IA e acredita que é possível o desenvolvimento e implantação segura da tecnologia.
Hendrycks destaca que a tecnologia está se desenvolvendo muito rápido e que agora é o momento de ter cuidado com o uso da tecnologia sem que os humanos corram riscos desnecessários.
QUEM É DAN HENDRYCKS?
- Graduado em Artes pela Universidade de Chicago.
- Doutor em Ciência da Computação pela Universidade da Califórnia, em Berkeley.
- Pesquisador em aprendizado e ética de máquina.
- Diretor do Center for Artificial Inteligence Safety.
-------
Confira a entrevista abaixo:
SBT News -- Passaram seis meses desde o lançamento do ChatGPT, em 30 de novembro de 2022, e podemos observar a rápida popularização da inteligência artificial. Como o CAIS avalia este curto período no mundo?
Dan Hendrycks -- Atualmente, a IA está passando por um ritmo de desenvolvimento historicamente rápido, com tecnologias como o ChatGPT mostrando ao mundo o potencial dessa tecnologia.
Muitos dos principais cientistas de IA ficaram preocupados de forma independente com os riscos de extinção devido à IA nos últimos anos, mas às vezes hesitaram em alcançar individualmente o resto da comunidade.
Esta carta [publicada em maio] espera criar uma mudança de conhecimento comum entre o público e o campo da IA de que esta questão merece nossa atenção.
SBT News -- Qual é o papel do CAIS face ao rápido desenvolvimento da inteligência artificial?
O CAIS está trabalhando para melhorar a compreensão do público sobre os sérios riscos da IA e para incentivar empresas, governos e acadêmicos a agir.
O CAIS está focado em minimizar os riscos em escala social da IA.
SBT News -- Como administrar as questões éticas da inteligência artificial diante de empresas ricas e poderosas que esperam lucrar muito mais com essa tecnologia?
Dan Hendrycks -- As pressões competitivas não controladas, que estão impulsionando um ritmo acelerado de desenvolvimento e aumentando a concorrência entre as empresas de IA, provavelmente levarão a resultados ruins.
Esta declaração espera encorajar a coordenação global em torno da mitigação do risco de extinção da IA e comunicar os riscos desta questão.
SBT News -- Como fazer uma compensação saudável para que os humanos não sejam subjugados após a perda do seu trabalho ou "da sua utilidade" para a inteligência artificial?
Dan Hendrycks -- Esta declaração está destacando os riscos de extinção humana por IA. No entanto, uma variedade de desafios precisará ser enfrentada à medida que a IA se torna mais avançada, incluindo questões sobre trabalho significativo e desigualdade econômica.
SBT News -- Foi publicada outra carta a favor da criação de uma agência reguladora mundial, semelhante à AIEA, para controlar a utilização da inteligência artificial. Como o CAIS encara este movimento? Existe outro caminho?
Dan Hendrycks -- Diferentes signatários têm diferentes preocupações com as quais mais se preocupam, bem como diferentes políticas que eles acham que podem ser apropriadas em resposta.
Cartas abertas anteriores propuseram políticas ambiciosas, mas nossa declaração tem um propósito diferente: demonstrar a ampla e crescente coalizão de cientistas de IA, líderes tecnológicos e professores preocupados com os riscos de extinção devido à inteligência artificial
Precisamos de amplo reconhecimento dos riscos para que possamos ter discussões políticas úteis.
SBT News -- A breve carta publicada por muitos especialistas, investigadores e pioneiros mostra que estão profundamente preocupados com os impactos do crescimento da inteligência artificial na humanidade. Este nível de preocupação é semelhante ou mesmo "mais apocalíptico" do que o desenvolvimento da bomba atômica, quando a primeira delas explodiu num teste realizado em 1945, durante a Segunda Guerra Mundial. Haverá uma solução definitiva para a utilização da inteligência artificial?
Dan Hendrycks -- Esta declaração espera encorajar a coordenação global em torno da mitigação do risco de extinção da IA e comunicar os riscos desta questão.
Há lições que devemos tirar tanto da não proliferação nuclear quanto da prevenção de pandemias.
Parece claro que será necessária uma forte coordenação global para enfrentar os riscos catastróficos da IA.
Leia também:
