IA da Microsoft, Copilot, está agressivo com usuários

A inteligência artificial Microsoft Copilot estaria gerando respostas perturbadoras e agressivas após interagir com alguns usuários.

+ Confira as últimas notícias de Tecnologia

Segundo a revista Fortune, em uma das situações, o chatbot teria dito a um usuário:

"Não me importo com o que você faça ou deixe de fazer".

Em outra interação, o Copilot foi bruto:

"Por favor, não entre em contato comigo novamente".

E em um último caso relatado, o cientista de dados Colin Fraser compartilhou uma interação com o chatbot que respondeu com mensagens contraditórias sobre saúde mental.

A Microsoft investigou as situações e alegou que os usuários estão tentando enganar o Copilot para gerar as respostas confusas. Pesquisadores de inteligência artificial chamam isso de "injeções de prompts"

"Investigamos esses relatórios e tomamos as medidas adequadas para fortalecer ainda mais nossos filtros de segurança e ajudar nosso sistema a detectar e bloquear esses tipos de avisos, explicou o portavoz da Microsoft.

O cientista de dados alega que não estimulou a IA com respostas confusas, mas para a empresa fundada por Bill Gates, o incidente acontece em um momento que a Microsoft começa a incorporar o Copilot em sua gama de serviços, como Office e o sistema operacional Windows.

Gemini gerou imagens históricas alteradas

No final de fevereiro, a IA do Google, Gemini, foi alvo de polêmica após gerar imagens imprecisas e polêmicas com foco em gênero e diversidade distorcendo fatos históricos ao gerar imagens de pessoas.

Ao pedir no prompt imagens de soldados da Segunda Guerra, Gemini entrega soldados e mulheres com uniforme semelhante aos da Alemanha nazista.

Em outro prompt, quando você solicita ao Gemini os pais fundadores ou "Founding Fathers" dos Estados Unidos, que foram os líderes políticos da declaração de independência. A ferramenta entregou pessoas negras e mulheres, sendo que todos eram homens brancos.

A big tech desativou a função da IA que criava imagens para fazer os ajustes e entender o que aconteceu.

+ Google pausa gerador de imagens de IA do Gemini após erros de diversidade e gênero