Gemini gera imagens de nazistas negros e Google pede desculpas
O Google pediu desculpas oficiais após sua ferramenta de inteligência artificial generativa, o Gemini (ex-Bard), gerar imagens baseadas em eventos históricos inadequadas. O modelo de linguagem teria criado retratos de pessoas com a cor da pele errada.
A lista de erros inclui, por exemplo, os fundadores dos EUA ou soldados nazistas, que foram retratados como sendo de pessoas de cores de pele diversificadas.
Leia mais: As 10 criptomoedas para investir em janeiro de 2024
Google Gemini tem problemas na geração de imagens?
A suspeita é que o problema surja devido a uma medida que faz com que o Gemini opte por criar imagens com pessoas de cores diferentes. Esse sistema existe para evitar que os resultados de prompts sejam tendenciosos, mas, como visto, ele não pode se aplicar a qualquer contexto.
“Nós estamos cientes que o Gemini está dando resultados errados na geração de imagens históricas. Nós estamos trabalhando para melhor esse tipo de ilustração imediatamente. O gerador de imagens por IA do Gemini realmente gera uma grande quantidade de pessoas diferentes. E isso é normalmente algo bom, porque pessoas de todo o mundo o usam. Mas ele errou nesse caso”, disse o Google, no Twitter (X).
A geração de imagens do Gemini ainda é recente e foi introduzida no início de fevereiro. O recurso já está disponível em modelos rivais, como o GPT-4 da OpenAI e, mesmo nele, os resultados ainda tem imperfeições.
Segurança em IA
Ainda não se sabe quais medidas o Google vai tomar para corrigir o problema do Gemini. O sistema de diversidade racial, por outro lado, é importante para evitar que modelos de IA sejam tendenciosos, embora, em casos como esse, eles possam geram imprecisões.
A controvérsia, entretanto, surge ao mesmo tempo em que o Google anunciou a criação de um grupo de estudos específico para a segurança em IA. Em suma, o propósito é criar formas de evitar que as ferramentas generativas sejam usada para espalhar desinformação política, um tópico que, muitas vezes, toca na questão racial.
O artigo Gemini gera imagens de nazistas negros e Google pede desculpas foi visto pela primeira vez em BeInCrypto Brasil.
