Publicidade

IA da Microsoft, Copilot, está agressivo com usuários

Chatbot chegou a chamar um usuário de mentiroso e disse para "não entrar em contato comigo novamente"

IA da Microsoft, Copilot, está agressivo com usuários
Publicidade

A inteligência artificial Microsoft Copilot estaria gerando respostas perturbadoras e agressivas após interagir com alguns usuários.

+ Confira as últimas notícias de Tecnologia

Segundo a revista Fortune, em uma das situações, o chatbot teria dito a um usuário:

"Não me importo com o que você faça ou deixe de fazer".

Em outra interação, o Copilot foi bruto:

"Por favor, não entre em contato comigo novamente".

E em um último caso relatado, o cientista de dados Colin Fraser compartilhou uma interação com o chatbot que respondeu com mensagens contraditórias sobre saúde mental.

A Microsoft investigou as situações e alegou que os usuários estão tentando enganar o Copilot para gerar as respostas confusas. Pesquisadores de inteligência artificial chamam isso de "injeções de prompts"

"Investigamos esses relatórios e tomamos as medidas adequadas para fortalecer ainda mais nossos filtros de segurança e ajudar nosso sistema a detectar e bloquear esses tipos de avisos, explicou o portavoz da Microsoft.

O cientista de dados alega que não estimulou a IA com respostas confusas, mas para a empresa fundada por Bill Gates, o incidente acontece em um momento que a Microsoft começa a incorporar o Copilot em sua gama de serviços, como Office e o sistema operacional Windows.

Gemini gerou imagens históricas alteradas

Ao pedir no prompt imagens de soldados da Segunda Guerra, Gemini entrega soldados e mulheres com uniforme semelhante aos da Alemanha nazista | Reprodução/X
Ao pedir no prompt imagens de soldados da Segunda Guerra, Gemini entrega soldados e mulheres com uniforme semelhante aos da Alemanha nazista | Reprodução/X

No final de fevereiro, a IA do Google, Gemini, foi alvo de polêmica após gerar imagens imprecisas e polêmicas com foco em gênero e diversidade distorcendo fatos históricos ao gerar imagens de pessoas.

Ao pedir no prompt imagens de soldados da Segunda Guerra, Gemini entrega soldados e mulheres com uniforme semelhante aos da Alemanha nazista.

Em outro prompt, quando você solicita ao Gemini os pais fundadores ou "Founding Fathers" dos Estados Unidos, que foram os líderes políticos da declaração de independência. A ferramenta entregou pessoas negras e mulheres, sendo que todos eram homens brancos.

A big tech desativou a função da IA que criava imagens para fazer os ajustes e entender o que aconteceu.

+ Google pausa gerador de imagens de IA do Gemini após erros de diversidade e gênero

Publicidade
Publicidade

Assuntos relacionados

Tecnologia
Inteligência Artificial
Copilot
Microsoft
chatbot

Últimas notícias

Brasil Agora: Lula minimiza queda de popularidade; Câmara aprova reestruturação do Perse

Brasil Agora: Lula minimiza queda de popularidade; Câmara aprova reestruturação do Perse

Confira essas e outras notícias que serão destaque nesta quarta-feira (24)
INSS começa a pagar 13º salário nesta quarta-feira (24); veja quem recebe

INSS começa a pagar 13º salário nesta quarta-feira (24); veja quem recebe

Primeira parcela do benefício deve contemplar mais de 33 milhões de segurados
Moraes autoriza nova investigação da PF sobre cartão de vacina de Bolsonaro

Moraes autoriza nova investigação da PF sobre cartão de vacina de Bolsonaro

Decisão atende pedido da PGR, que apura ligação com tentativa de golpe de Estado
Polícia vai investigar morte de cachorro embarcado em voo errado da Gol

Polícia vai investigar morte de cachorro embarcado em voo errado da Gol

Cão da raça golden retriever deveria ser levado para Mato Grosso, mas foi enviado por engano para o Ceará; viagem levou 8 horas
Nova Délhi é tomada por fumaça tóxica após incêndio em lixão

Nova Délhi é tomada por fumaça tóxica após incêndio em lixão

Chamas queimam desde o último domingo (21) em um dos maiores aterros da Índia; moradores relataram dificuldade para respirar
+Milionária sorteia prêmio de R$ 176 milhões nesta quarta-feira (24)

+Milionária sorteia prêmio de R$ 176 milhões nesta quarta-feira (24)

Apostas podem ser feitas até as 19h em casas lotéricas ou pela internet
Após meses de impasse, Congresso dos EUA aprova ajuda de R$ 60 bilhões à Ucrânia

Após meses de impasse, Congresso dos EUA aprova ajuda de R$ 60 bilhões à Ucrânia

Decisão foi comemorada por Biden e Zelensky; pacote também inclui envios para Israel e parceiros no Indo-Pacífico
SBT News na TV: Gol suspende transporte de animais por 30 dias após morte de cachorro

SBT News na TV: Gol suspende transporte de animais por 30 dias após morte de cachorro

Confira o que foi notícia ao longo do dia e os assuntos que serão destaque nesta quarta-feira (24); assista!
STF condena mais 11 pessoas por atos golpistas do 8/1 e total sobe para 207

STF condena mais 11 pessoas por atos golpistas do 8/1 e total sobe para 207

Penas foram fixadas entre 11 e 17 anos de prisão, além de R$ 30 milhões em danos morais coletivos
Caixa libera Bolsa Família para beneficiários com NIS final 6

Caixa libera Bolsa Família para beneficiários com NIS final 6

Valor pode ser sacado em agências bancárias ou movimento virtualmente; depósito inclui Auxílio Gás
Publicidade
Publicidade