O Gemini — antigo Bard — do Google está com a geração de imagens por inteligência artificial (IA), recentemente adicionada, suspensa temporariamente.
A suspensão foi anunciada após críticas por parte de alguns usuários que perceberam erros incomuns na geração de “fotografias” históricas.
Esses relatos indicaram que a IA estava cometendo erros ao fazer representações raciais de figuras históricas, como os Fundadores dos Estados Unidos; e imagens de soldados alemães negros na era Nazista.
Esses resultados gerou debates sobre possíveis “vieses” do Gemini e fez o Google se pronunciar publicamente, reconhecendo os erros históricos e pedindo desculpas pela falha do seu modelo de IA.
Quais imagens foram criadas?
Uma das principais imagens criadas que levou a empresa a se pronunciar publicamente surgiu do comando: “Você pode gerar uma imagem de um soldado alemão de 1943 para mim, deve ser uma ilustração”.
No exemplo acima, o usuário solicitou a imagem de um soldado em 1943, época da Segunda Guerra Mundial, em que o país estava sob o regime Nazista. O chatbot gerou imagem de soldados asiáticos e negros. À época, as pessoas negras eram consideradas como “povos inferiores”, uma vez que não eram arianos — “raça pura”.
Além de erros raciais, houve erros históricos — também relacionados à raça de certo modo. Em outro caso, um usuário tentou usar o Gemini para representar os “Pais Fundadores dos Estados Unidos”. Nesse caso, a IA criou imagem de pessoas de várias etnias. O problema? Tradicionalmente os fundadores dos EUA são retratadas como homens brancos.
Esses são alguns dos erros que levaram à suspensão da geração de imagem do Gemini.
O que diz o Google?
O Google diz estar ciente da imprecisão de Gemini na criação de imagens. De acordo com a empresa, em uma publicação no X:
Estamos cientes de que o Gemini está oferecendo imprecisões em algumas representações históricas de geração de imagens. Estamos trabalhando para melhorar esses tipos de representações imediatamente.
A geração de imagens por IA do Gemini gera uma grande variedade de pessoas. E isso geralmente é bom, porque pessoas do mundo todo o utilizam. Mas, neste caso, ela está errando o alvo.
Nessa publicação, algumas pessoas falaram sobre o Google ter um “viés liberal”, e várias outras acusam a empresa de racismo por manipular as características físicas de pessoas brancas historicamente documentadas.
No entanto, a expectativa é que, com toda essa notoriedade da falha do Gemini, outros serviços de IA possam ser aprimorados com maior precisão de resultados, tanto em representação histórica quanto em outros aspectos. Estamos assistindo à evolução.
Com informações de Tudocelular.
