Publicidade

Com IA, humanidade sofre "catastróficos riscos de extinção", diz Dan Hendrycks

Diretor do CAIS fala ao SBT News sobre a preocupação dos especialistas com uso seguro da inteligência artificial

Com IA, humanidade sofre "catastróficos riscos de extinção", diz Dan Hendrycks
imagem mostra um celular com o programa de inteligencia artificial chat gpt num fundo verde claro listrado
Publicidade
Inteligencia artificial é uma tecnologia que pode revolucionar a forma de viver a sociedade, até mesmo, exterminar a humanidade | Imagem criada com Bing Image Creator

Em 30 de novembro de 2022, a empresa OpenAI lançou sem alarde um chatbot baseado em inteligência artificial (IA) conversacional, que consegue realizar algumas tarefas criativas 'humanas' no computador, como digitar textos, fazer relatórios e além. Para isso, basta dar 'uma ordem' que o computador faz o resto. O lançamento da ferramenta movimentou o mercado em torno da IA e criou novas oportunidades e desafios para o planeta.

+ Leia as últimas notícias de Tecnologia
+ Leia as últimas notícias no portal SBT News

Em pouco mais de 6 meses, o uso do ChatGPT obteve uma base de usuários em tempo recorde, alcançando mais de 100 milhões de usuários ativos mensais. Esse número segue crescendo exponencialmente. Assim, muitas outras ferramentas foram sendo desenvolvidas mundo afora para várias finalidades.

Com isso, há uma mistura de admiração, com as infinitas possibilidades de facilitar a vida da humanidade, com a resolução de problemas complexos, bem como existe a preocupação sobre o futuro da vida como conhecemos.

O Centro para Inteligência Artificial Segura (CAIS sigla em inglês para Center for Artificial Intelligence Safety) publicou no final de maio uma carta aberta com pioneiros da IA chamando a atenção para o desenvolvimento de uma política de regulação de uso da tecnologia, que pode ser benéfica para a humanidade, bem como "catastrófica". 

Em uma mensagem sucinta, uma frase com 24 palavras, especialistas, pioneiros e cientistas de inteligência artificial fazem um alerta objetivo sobre o futuro da humanidade, caso a tecnologia não seja tratada com o devido cuidado, sem respeitar os riscos que a IA pode causar na sociedade.

"Mitigar o risco de extinção da IA -- deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear".

Os mais de 350 signatários concordam que a inteligência artificial pode exterminar a humanidade.


+ "Inteligência artificial pode exterminar a humanidade", alertam cientistas

IA tem risco de extinção equivalente a guerras, bombas nucleares e pandemias, diz CAIS

O SBT News conversou com exclusividade com Dan Hendrycks, diretor do CAIS, graduado em artes pela Universidade de Chicago e doutor em Ciência da Computação pela Universidade da Califórnia, em Berkeley, também é pesquisador em aprendizado e ética de máquina. Ele falou sobre a saga da organização em alertar o planeta sobre os riscos do uso indevido da inteligência artificial.

Segundo o CAIS, o risco de uso IA cresceu e deve ser uma prioridade global a ser contida, ao lado de pandemias e guerra nuclear. Por isso, a entidade acredita no treinamento e formação de líderes, desenvolvimento de políticas e ferramentas para gerenciar os riscos que a inteligência artificial podem trazer para a humanidade. 

No entanto, a organização também acredita no uso benéfico da IA e acredita que é possível o desenvolvimento e implantação segura da tecnologia.

Hendrycks destaca que a tecnologia está se desenvolvendo muito rápido e que agora é o momento de ter cuidado com o uso da tecnologia sem que os humanos corram riscos desnecessários.

Dan Hendrycks, diretor do Center for Artificial Inteligence Secury | Divulgação/CAIS

QUEM É DAN HENDRYCKS?

  • Graduado em Artes pela Universidade de Chicago.
  • Doutor em Ciência da Computação pela Universidade da Califórnia, em Berkeley.
  • Pesquisador em aprendizado e ética de máquina.
  • Diretor do Center for Artificial Inteligence Safety.

-------

Confira a entrevista abaixo:

SBT News -- Passaram seis meses desde o lançamento do ChatGPT, em 30 de novembro de 2022, e podemos observar a rápida popularização da inteligência artificial. Como o CAIS avalia este curto período no mundo?

Dan Hendrycks -- Atualmente, a IA está passando por um ritmo de desenvolvimento historicamente rápido, com tecnologias como o ChatGPT mostrando ao mundo o potencial dessa tecnologia.

Muitos dos principais cientistas de IA ficaram preocupados de forma independente com os riscos de extinção devido à IA nos últimos anos, mas às vezes hesitaram em alcançar individualmente o resto da comunidade.

Esta carta [publicada em maio] espera criar uma mudança de conhecimento comum entre o público e o campo da IA de que esta questão merece nossa atenção.

SBT News -- Qual é o papel do CAIS face ao rápido desenvolvimento da inteligência artificial?

O CAIS está trabalhando para melhorar a compreensão do público sobre os sérios riscos da IA e para incentivar empresas, governos e acadêmicos a agir.

O CAIS está focado em minimizar os riscos em escala social da IA.

ChatGPT popularizou rapidamente a inteligência artificial. Para CAIS, uso indevido pode ser uma ameaça a vida humana | Unsplash

SBT News -- Como administrar as questões éticas da inteligência artificial diante de empresas ricas e poderosas que esperam lucrar muito mais com essa tecnologia?

Dan Hendrycks -- As pressões competitivas não controladas, que estão impulsionando um ritmo acelerado de desenvolvimento e aumentando a concorrência entre as empresas de IA, provavelmente levarão a resultados ruins.

Esta declaração espera encorajar a coordenação global em torno da mitigação do risco de extinção da IA e comunicar os riscos desta questão. 

SBT News -- Como fazer uma compensação saudável para que os humanos não sejam subjugados após a perda do seu trabalho ou "da sua utilidade" para a inteligência artificial?

Dan Hendrycks -- Esta declaração está destacando os riscos de extinção humana por IA. No entanto, uma variedade de desafios precisará ser enfrentada à medida que a IA se torna mais avançada, incluindo questões sobre trabalho significativo e desigualdade econômica. 

Mais de 300 pioneiros e especialistas do mundo todo clamam por regulação e uso seguro da inteligência artificial, sob risco do fim da raça humana | Reprodução/CAIS

SBT News -- Foi publicada outra carta a favor da criação de uma agência reguladora mundial, semelhante à AIEA, para controlar a utilização da inteligência artificial. Como o CAIS encara este movimento? Existe outro caminho?

Dan Hendrycks -- Diferentes signatários têm diferentes preocupações com as quais mais se preocupam, bem como diferentes políticas que eles acham que podem ser apropriadas em resposta.

Cartas abertas anteriores propuseram políticas ambiciosas, mas nossa declaração tem um propósito diferente: demonstrar a ampla e crescente coalizão de cientistas de IA, líderes tecnológicos e professores preocupados com os riscos de extinção devido à inteligência artificial

Precisamos de amplo reconhecimento dos riscos para que possamos ter discussões políticas úteis.

SBT News -- A breve carta publicada por muitos especialistas, investigadores e pioneiros mostra que estão profundamente preocupados com os impactos do crescimento da inteligência artificial na humanidade. Este nível de preocupação é semelhante ou mesmo "mais apocalíptico" do que o desenvolvimento da bomba atômica, quando a primeira delas explodiu num teste realizado em 1945, durante a Segunda Guerra Mundial. Haverá uma solução definitiva para a utilização da inteligência artificial?

Dan Hendrycks -- Esta declaração espera encorajar a coordenação global em torno da mitigação do risco de extinção da IA e comunicar os riscos desta questão.

Há lições que devemos tirar tanto da não proliferação nuclear quanto da prevenção de pandemias.

Parece claro que será necessária uma forte coordenação global para enfrentar os riscos catastróficos da IA.

Leia também:

Publicidade
Publicidade

Assuntos relacionados

sbt
sbtnews
tecnologia
tech
inteligencia
artificial
cais
ia
ai
chatgpt
seis
meses
economia
mundo
humanidade
ameaça
safety ai
center
sociedade
dan hendrycks
entrevista
portalnews
extinção
riscos
humanos
fim dos humanos

Últimas notícias

Marçal vai para a mira da Justiça Eleitoral por publicar laudo médico falso

Marçal vai para a mira da Justiça Eleitoral por publicar laudo médico falso

Polícia Civil encaminha caso ao TRE. Candidato derrotado à Prefeitura de São Paulo usou documento frio para atacar Guilherme Boulos às vésperas da votação
Deolane e Gusttavo Lima: senadora por trás de CPI das bets quer “convocar todo mundo”

Deolane e Gusttavo Lima: senadora por trás de CPI das bets quer “convocar todo mundo”

Influenciadores digitais estão na mira de futura investigação. Nova CPI foi autorizada no Senado; veja o que se sabe até agora
WhatsApp: É possível ter duas contas no mesmo celular? Veja passo a passo

WhatsApp: É possível ter duas contas no mesmo celular? Veja passo a passo

Aparelho deve suportar dois chips. Recurso pode ser útil se você tiver uma conta profissional e uma particular, por exemplo
Horário de verão volta neste ano? Veja o que pensa o governo

Horário de verão volta neste ano? Veja o que pensa o governo

Decisão precisa ser tomada até a próxima semana, já que novembro e dezembro são os meses em que o mecanismo se torna mais útil para a economia de energia
Polícia Militar investiga PMs que jogaram tonel e mesa em jovens em São Paulo

Polícia Militar investiga PMs que jogaram tonel e mesa em jovens em São Paulo

Vídeo mostra policiais arremessando mesa e tonel de bebida para dispersar pessoas
Reforma tributária: relator no Senado deve apresentar plano de trabalho na próxima semana

Reforma tributária: relator no Senado deve apresentar plano de trabalho na próxima semana

Segundo Eduardo Braga (MDB-AM), duas audiências temáticas sobre o projeto já foram acertadas com o presidente do Senado
Enem dos Concursos: Justiça libera divulgação de resultados do CNU

Enem dos Concursos: Justiça libera divulgação de resultados do CNU

Notas do bloco 4 estão disponíveis para consulta; uma questão foi anulada pela Cesgranrio
PSTU declara apoio a Guilherme Boulos no 2º turno em São Paulo

PSTU declara apoio a Guilherme Boulos no 2º turno em São Paulo

Partido convoca um "voto crítico" em Boulos para enfrentar Ricardo Nunes e a extrema direita
Moraes detalha etapas da ação que tirou o X do ar no Brasil e defende legalidade dos atos do Supremo

Moraes detalha etapas da ação que tirou o X do ar no Brasil e defende legalidade dos atos do Supremo

Ao ordenar desbloqueio de plataforma de Elon Musk no Brasil, ministro enumerou as ordens infringidas e como empresa conseguiu regularizar situação
Furacão na Flórida: Milton ganha força e volta a ser classificado como categoria 5

Furacão na Flórida: Milton ganha força e volta a ser classificado como categoria 5

Fenômeno deve atingir a região na noite desta quarta-feira (9); milhares de moradores já deixaram a baía de Tampa para fugir do furacão
Publicidade
Publicidade